Erklärbarkeit (Explainability)

Definition

Viele KI-Systeme arbeiten wie eine Blackbox: Du siehst das Ergebnis, aber nicht den Weg dorthin. Erklärbarkeit bedeutet, dass ein System transparent macht, auf welcher Grundlage es zu seinem Ergebnis kam. Das ist besonders wichtig, wenn KI im Bildungsbereich Entscheidungen über Kinder trifft. Du solltest immer verstehen können, warum ein KI-Tool etwas empfiehlt.

💡 Beispiel

Eine Lernsoftware zeigt Dir nicht nur an, dass ein Kind Schwierigkeiten in Mathe hat, sondern erklärt auch, welche Aufgabentypen es häufig falsch löst.

Weiterführend