Datenschutz & Recht
Diskriminierung durch KI
Diskriminierung durch KI entsteht, wenn KI-Systeme bestimmte Gruppen aufgrund fehlerhafter Daten oder Algorithmen benachteiligen.
Definition
Diskriminierung durch KI passiert, wenn ein KI-System Menschen aufgrund von Merkmalen wie Herkunft, Geschlecht oder Sprache ungerecht behandelt. Das geschieht oft unbeabsichtigt, weil die Trainingsdaten Vorurteile enthalten. Für dich als Fachkraft ist es wichtig, KI-Ergebnisse kritisch zu prüfen und darauf zu achten, dass kein Kind durch ein KI-Tool benachteiligt wird.
💡 Beispiel
Ein KI-gestütztes Sprachtool bewertet Kinder mit Dialekt schlechter als Kinder mit Hochdeutsch. Du erkennst das Problem und nutzt das Tool nur ergänzend zu deiner eigenen Einschätzung.
Weiterführend
Zuletzt aktualisiert: 2. April 2026