Über das Tool

Orca ist ein Forschungsmodell von Microsoft Research, das demonstriert, wie kleinere Modelle durch Lernen von größeren Modellen (Distillation) verbessert werden können. Es ist ein wichtiges Beispiel in KI-Kursen für Wissenstransfer zwischen Modellen und effizientes Training.

Stärken & Schwächen

Didaktischer Mehrwert

Wichtiges Lehrbeispiel für KI-Kurse: zeigt, wie Wissen von großen auf kleine Modelle übertragen wird.

Aufwand & Voraussetzungen

Download über Hugging Face. Python und GPU für Inferenz.