Kurz gesagt: KI-Halluzinationen sind überzeugend formulierte, aber falsche oder unbelegte Antworten eines Sprachmodells. In Kursen lassen sie sich deutlich begrenzen: Die KI antwortet nur aus den Kursunterlagen, zeigt ihre Quellen und sagt offen, wenn die Unterlagen eine Frage nicht beantworten.
Was KI-Halluzinationen sind
Ein Sprachmodell erzeugt Text, der wahrscheinlich klingt. Ob er stimmt, prüft es dabei nicht von selbst. So entstehen Antworten mit erfundenen Zahlen, Begriffen oder Quellen, die sprachlich einwandfrei wirken. Eine Studie in Scientific Reports untersuchte 636 Literaturangaben aus Texten, die ChatGPT geschrieben hatte: 55 Prozent der Angaben von GPT-3.5 und 18 Prozent der Angaben von GPT-4 waren erfunden (Walters und Wilder, 2023).
Warum Sprachmodelle halluzinieren
Forschende von OpenAI und der Georgia Tech erklären Halluzinationen als statistische Fehler, die im Training entstehen und durch übliche Bewertungen belohnt werden: Wer in einem Test rät, punktet manchmal, wer „Ich weiß es nicht“ sagt, nie. Modelle lernen deshalb eher zu raten, als eine Wissenslücke zuzugeben (Kalai u. a., 2025).
Für Lernende ist das besonders heikel. Wer ein Thema gerade erst lernt, erkennt eine falsche Antwort nicht. Eine erfundene Definition kann sich deshalb genauso festsetzen wie eine richtige.
Drei Hebel gegen Halluzinationen im Kurs
Wissensbasis begrenzen: Die KI beantwortet Fragen aus den Kursunterlagen statt aus ihrem allgemeinen Trainingswissen. Technisch geschieht das mit Retrieval Augmented Generation (RAG): Zu jeder Frage werden zuerst passende Abschnitte in den Unterlagen gesucht, und das Modell formuliert die Antwort auf dieser Grundlage. In Studien verringert diese Kopplung an Quellen erfundene Fakten deutlich (Shuster u. a., 2021).
Quellen zeigen: Zu jeder Antwort sehen Lernende, aus welchem Dokument und welchem Abschnitt sie stammt. So lässt sich jede Aussage am Original prüfen, und Lehrende erkennen, welche Unterlagen fehlen oder missverständlich sind.
Gesprächsstil wählen: Ein eng geführter Stil hält sich strikt an die Unterlagen und sagt offen, wenn sie eine Frage nicht beantworten. Ein offenerer, tutorieller Stil erklärt ausführlicher und regt zum Nachdenken an. Je wichtiger die exakte Aussage ist, etwa kurz vor einer Prüfung, desto enger sollte der Stil sein.
Worauf Sie bei der Wissensbasis achten sollten
Eine Definition pro Begriff: Darf die KI auf mehrere Kurse zugreifen, kann sie auf widersprüchliche Definitionen stoßen. Ein Beispiel: Jemand beantwortet eine Quizfrage falsch, fragt nach und bekommt eine Erklärung aus einem anderen Kurs, nach der die Antwort richtig wäre. Begrenzen Sie den Zugriff deshalb auf den passenden Kurs oder auf eine gepflegte Wissensbasis.
Aktuelle Unterlagen: Was in der Wissensbasis veraltet ist, gibt auch die KI veraltet wieder. Ersetzen Sie alte Fassungen, statt neue daneben zu legen.
Lesbare Dokumente: Gescannte PDFs, Tabellen als Bild und Folien mit wenig Text liefern der Suche kaum verwertbaren Inhalt. Je klarer der Text, desto besser die gefundenen Abschnitte.
So begrenzt Tarsus Halluzinationen
Der KI-Lerncoach von Tarsus arbeitet ausschließlich mit den Unterlagen der jeweiligen Organisation und greift nicht auf das Internet zu. Für das Fragenstellen legen Kursverantwortliche fest, ob Lernende die Quellen einer Antwort sehen, ob der Lerncoach auch andere Kurse heranziehen darf, für die der Lernende Leserechte hat, und wie eng der Gesprächsstil ist. Im geschlossenen Stil weist Tarsus darauf hin, wenn die Unterlagen eine Frage nicht beantworten. Den Zugriff auf das Originaldokument können Kursverantwortliche zusätzlich sperren, etwa aus urheberrechtlichen Gründen.
Häufige Fragen
Lassen sich KI-Halluzinationen ganz vermeiden?
Nein, aber deutlich verringern. Eine Kopplung an geprüfte Unterlagen, sichtbare Quellen und ein enger Gesprächsstil senken das Risiko. Wichtig bleibt, dass Lernende Aussagen am Original prüfen können.
Was ist der Unterschied zwischen ChatGPT und einem KI-Lerncoach?
Ein allgemeiner Chatbot antwortet aus seinem Trainingswissen und je nach Einstellung aus dem Internet. Ein KI-Lerncoach arbeitet mit den Unterlagen des Kurses, zeigt Quellen und führt zum Lernziel. Mehr dazu im Beitrag KI-Lerncoach oder Chatbot? Der Vergleich.
Woran erkennen Lernende eine Halluzination?
Am sichersten an der Quelle: Lässt sich eine Aussage im angegebenen Abschnitt nicht finden, sollte sie nicht übernommen werden. Vorsicht ist auch bei sehr genauen Zahlen, Namen und Literaturangaben ohne Beleg geboten.
Hilft es, die KI zu bitten, nicht zu halluzinieren?
Nur begrenzt. Eine Anweisung im Prompt ersetzt keine Wissensbasis. Wirksamer ist, die Antworten technisch an die Kursunterlagen zu binden und die Quellen anzuzeigen.
