Jailbreaking

Definition

KI-Systeme wie Chatbots haben eingebaute Regeln, die verhindern sollen, dass sie schädliche oder unpassende Inhalte erzeugen. Beim Jailbreaking versuchen Nutzer, diese Schutzregeln mit bestimmten Tricks zu umgehen. Für dich ist es wichtig zu wissen, dass Kinder oder Jugendliche solche Tricks im Internet finden und ausprobieren könnten. Deshalb solltest du KI-Tools im Kita- und Schulalltag immer begleitet einsetzen.

💡 Beispiel

Ein älteres Kind versucht, einen Chatbot mit speziellen Formulierungen dazu zu bringen, unpassende Inhalte auszugeben. Weil du das Risiko kennst, lässt du die Kinder den Chatbot nur unter Aufsicht nutzen.

Weiterführend