KI-Schwächen aufspüren
Zwei Informatiker (von der Uni Saarland/Cornell University sowie von der Harvard Uni) haben diese Software entwickelt, die Fehler in hochkomplexen Machine-Learning-Algorithmen aufspüren kann.
PyPremise ist ein Python-Tool für den Premise-Algorithmus zur Ermittlung von Mustern oder Erklärungen dafür, wo ein Klassifikator für maschinelles Lernen gut abschneidet und wo er versagt. Das Tool ist unabhängig von einem bestimmten Klassifikator oder einer bestimmten Architektur. Es wurde sowohl für NLP-Textaufgaben als auch für Daten mit beliebigen binären Merkmalen evaluiert.
Mehr Infos: https://github.com/uds-lsv/PyPremise
KI-Podcast: Servus KI
Monatlich sprechen zwei KI-ler mit Wissenschaftler:innen über deren Forschung zu KI.
Kernfrage: Wie können wir eine KI entwickeln, der wir vertrauen können?
Im Podcast sprechen Lennart Peters und Patrick Rosen über KI-Themen. Die Gespräche vermitteln ein grundlegendes Verständnis über das Thema und greifen die neuesten Entwicklungen der Technologie auf.
Die beiden Podcaster gehen der Frage nach, wie eine Schnittstelle zwischen KI und Mensch konkret aussehen könnte. Dabei stehen 5 Kategorien im Vordergrund:
- Verantwortlichkeit: Wer ist für die Entscheidungen der KI eigentlich verantwortlich?
- Transparenz: Wie kommt die KI zu ihren Ergebnissen?
- Gerechtigkeit: Kann die KI gerecht und fair handeln?
- Zuverlässigkeit: Handelt die KI zuverlässig?
- Privatheit: Kann die KI den Datenschutz berücksichtigen?
Mehr Infos
Eigene KI-Fragen
Wer selbst Fragen zur Künstlichen Intelligenz hat, schickt diese einfach an: servus-ki(bei)uni-bamberg.de
Maria