Bias-Erkennung

Definition

Bias-Erkennung umfasst Methoden und Tools, mit denen systematische Verzerrungen in KI-Systemen aufgedeckt werden. Dabei wird geprüft, ob eine KI bestimmte Gruppen bevorzugt oder benachteiligt. Für dich als Fachkraft bedeutet das: Gute KI-Anbieter testen ihre Systeme aktiv auf solche Verzerrungen, damit die Ergebnisse möglichst fair und ausgewogen sind.

💡 Beispiel

Eine Lehrkraft bemerkt, dass ein Bildgenerator bei „Arzt“ immer Männer zeigt und bei „Krankenschwester“ immer Frauen – ein typischer Fall von Bias, den man erkennen und besprechen kann.

Verwandte Begriffe

Weiterführend