Inference (Inferenz)

Definition

Inferenz bezeichnet den Vorgang, bei dem ein KI-Modell auf Basis seiner Trainingsdaten eine Antwort oder Vorhersage erzeugt. Wenn du zum Beispiel ChatGPT eine Frage stellst, findet im Hintergrund eine Inferenz statt. Je nach Modellgroesse und Rechenleistung kann dieser Prozess unterschiedlich schnell ablaufen.

💡 Beispiel

Ein Kind tippt eine Frage in den Chatbot und erhält in Sekunden eine Antwort, weil das Modell die Inferenz ausführt.

Verwandte Begriffe

Weiterführend