Algorithmische Voreingenommenheit

Definition

Wenn eine KI mit einseitigen oder unvollstaendigen Daten trainiert wird, kann sie Vorurteile uebernehmen und verstaerken. Das nennt man algorithmische Voreingenommenheit oder Bias. Fuer den Bildungsbereich ist das besonders kritisch, weil Kinder dadurch ungerecht behandelt werden koennten. Du solltest KI-Ergebnisse deshalb immer kritisch pruefen.

💡 Beispiel

Ein Bildgenerator zeigt bei der Eingabe 'Erzieherin' nur Frauen. Das ist ein Beispiel fuer algorithmische Voreingenommenheit, die du mit den Kindern besprechen kannst.

Weiterführend