Wissen · Arbeitsweise
Warum KI Dinge erfindet — und wie sich mit dem Kontextfenster die Qualität steuern lässt
Erfundene Paragraphen, falsche Normnummern, Zitate, die es nie gab: Halluzinationen sind der häufigste Grund, warum Fachabteilungen KI wieder abschalten. Sie lassen sich nicht vollständig ausschließen, aber sehr wirksam eindämmen — und zwar weniger durch besseres Fragen als durch besseres Befüllen des Kontextfensters. Dieser Beitrag erklärt den Mechanismus und die sieben Arbeitsregeln, die daraus folgen.
Geschäftsführer IT und Strategie, KSB
September 2026 · Lesezeit etwa 8 Minuten
Warum Halluzinationen entstehen
Ein Sprachmodell prüft keine Aussagen, sondern setzt Texte fort. Es berechnet, welche Wortfolge auf das Bisherige am wahrscheinlichsten folgt. Ein zutreffender Satz und ein erfundener Satz entstehen im selben Verfahren — der Unterschied liegt nicht im Vorgehen des Modells, sondern darin, ob die zugrunde liegenden Muster im konkreten Fall zufällig der Wirklichkeit entsprechen. Deshalb ist die verbreitete Vorstellung, das Modell „lüge" oder mache einen Fehler, irreführend. Es tut in beiden Fällen exakt dasselbe.
Hinzu kommt ein Anreizproblem, das eine vielbeachtete Untersuchung von OpenAI aus dem Jahr 2025 beschrieben hat: Die gängigen Bewertungsverfahren, an denen Modelle gemessen werden, belohnen Raten. Eine plausible falsche Antwort bringt bei einem Test manchmal Punkte, ein ehrliches „Das weiß ich nicht" bringt sicher keine. Modelle werden also systematisch darauf trainiert, lieber zu antworten als zu passen — ein Verhalten, das man aus Prüfungssituationen kennt und das sich im Berufsalltag ausgesprochen ungünstig auswirkt.
Die praktisch wichtigste Konsequenz: Das Modell verfügt über zwei sehr unterschiedliche Wissensquellen. Die erste ist das im Training aufgenommene Weltwissen — umfangreich, aber unscharf, veraltet und nicht überprüfbar. Die zweite ist das, was im laufenden Gespräch steht — exakt, aktuell und jederzeit nachprüfbar. Halluzinationen stammen fast ausnahmslos aus der ersten Quelle. Wer die Fehlerquote senken will, muss das Modell dazu bringen, aus der zweiten zu antworten. Genau das ist die Aufgabe des Kontextfensters.
Das Kontextfenster: die eigentliche Stellschraube
Das Kontextfenster ist der Arbeitsspeicher eines Gesprächs. Darin steht alles, worauf sich das Modell beziehen kann: die Anweisung, die angehängten Dokumente, der bisherige Verlauf und die eigenen vorherigen Antworten. Was nicht darin steht, existiert für das Modell in diesem Moment nicht — es kann allenfalls aus dem Training rekonstruiert werden, und genau dort beginnt das Raten.
Daraus folgt die zentrale Arbeitsregel: Material mitliefern statt abfragen. Die Frage „Was schreibt die DIN 4020 zur Baugrunderkundung vor?" lädt das Modell zum Rekonstruieren ein. Der Anhang der einschlägigen Seiten mit der Aufforderung „Fasse zusammen, was in diesem Auszug zur Baugrunderkundung steht" verwandelt dieselbe Aufgabe in eine Leseaufgabe. Die erste Variante produziert regelmäßig erfundene Absatznummern, die zweite fast nie.
Ein verbreitetes Missverständnis sollte man dabei ausräumen: Ein größeres Kontextfenster ist kein Qualitätsgewinn. Es erhöht die Kapazität, nicht die Sorgfalt. Untersuchungen zur Nutzung langer Kontexte zeigen seit Jahren dasselbe Muster — Informationen am Anfang und am Ende eines langen Textes werden zuverlässig verarbeitet, solche in der Mitte deutlich schlechter. Der Fachbegriff dafür lautet „Lost in the Middle". Entscheidend ist also nicht, wie viel hineinpasst, sondern wie hoch der Anteil wirklich relevanter Information ist.
Sieben Arbeitsregeln für die Praxis
01
Quelle mitgeben statt Wissen abrufen
Alles, was zählt — Normauszug, Vertrag, Protokoll, Preisliste, frühere Berichte —, gehört in das Gespräch hinein. Der Aufwand, ein Dokument anzuhängen, ist geringer als der Aufwand, eine erfundene Angabe später zu entdecken. Für wiederkehrende Aufgaben lohnt sich eine kleine Sammlung geprüfter Referenzdokumente, die jedes Mal mitgegeben wird.
02
Belegpflicht anordnen
Verlangen Sie ausdrücklich, dass jede Sachaussage an eine Stelle im mitgelieferten Material gebunden wird. Das ist die wirksamste Einzelmaßnahme überhaupt, weil sie das Erfinden sichtbar macht: Wo kein Zitat steht, ist auch kein Beleg.
Formulierung zum Übernehmen
„Beantworte ausschließlich auf Grundlage der angehängten Dokumente. Belege jede Aussage mit einem wörtlichen Zitat und der Fundstelle. Was sich nicht belegen lässt, kennzeichne mit: nicht in den Unterlagen enthalten."
03
Den Ausweg ausdrücklich erlauben
Weil Modelle darauf trainiert sind, zu antworten, müssen Sie das Nichtwissen aktiv zulassen. Ein Satz wie „Wenn die Unterlagen die Frage nicht beantworten, sage das und rate nicht" verändert das Ergebnis messbar. Der Effekt ist größer, als man vermutet — er wirkt der eingebauten Neigung entgegen, um jeden Preis zu liefern.
04
Den Kontext sauber halten
Ein Gespräch, das über Stunden gewachsen ist, enthält verworfene Entwürfe, korrigierte Annahmen und Missverständnisse — und all das wirkt weiter. Für eine neue Aufgabe beginnen Sie ein neues Gespräch. Das ist kein Verlust, sondern Hygiene. Und innerhalb eines langen Kontexts gilt: Das Wichtigste gehört an den Anfang und noch einmal ans Ende, nicht in die Mitte.
05
Eine Aufgabe pro Durchgang
„Fasse zusammen, prüfe auf Widersprüche, schreibe einen Entwurf und formuliere ihn kundenfreundlich" ist keine Aufgabe, sondern vier. Bei solchen Sammelaufträgen sinkt die Qualität jedes einzelnen Teils. Zerlegen Sie den Auftrag und prüfen Sie zwischendurch — der Zeitgewinn durch das Bündeln ist eine Illusion, weil die Nachbesserung ihn regelmäßig aufzehrt.
06
Den Negativraum definieren
Rolle, Zielgruppe und Format vorzugeben, ist üblich und hilfreich. Wirksamer ist häufig die Gegenrichtung: klar zu benennen, was nicht erfunden werden darf. Zahlen, Normbezeichnungen, Paragraphen, Eigennamen, Zitate und Literaturangaben sind die Kategorien, in denen Halluzinationen am häufigsten und am folgenreichsten auftreten.
Formulierung zum Übernehmen
„Erfinde keine Zahlen, Normbezeichnungen, Paragraphen, Namen oder Quellenangaben. Fehlt eine Angabe, setze eine Lücke mit eckigen Klammern und weise am Ende darauf hin."
07
Mit einer zweiten Instanz prüfen
Lassen Sie die fertige Antwort in einem frischen Gespräch gegen das Ausgangsmaterial prüfen — ohne den bisherigen Verlauf, damit das Modell nicht seiner eigenen Argumentation folgt. Der Auftrag lautet: „Prüfe, welche Aussagen dieses Textes durch das angehängte Dokument gedeckt sind und welche nicht." Für Berichte, Gutachten und alles, was das Haus verlässt, ist dieser Schritt die günstigste Absicherung, die es gibt.
Woran sich eine Halluzination erkennen lässt
Erfundene Angaben folgen erkennbaren Mustern. Wer diese kennt, prüft gezielt statt flächendeckend:
Präzision ohne Quelle
Exakte Zahlen, Prozentwerte und Jahresangaben, die ohne Fundstelle auftauchen, sind der häufigste Fall.
Normen, Paragraphen, Aktenzeichen
Formal korrekt aufgebaute Kennungen, die es so nicht gibt — besonders tückisch, weil sie überprüfbar aussehen.
Zitate und Literaturangaben
Plausible Titel plausibler Autoren in plausiblen Zeitschriften. Grundsätzlich einzeln nachschlagen.
Jüngste Ereignisse
Alles nach dem Trainingsstand des Modells ist Rekonstruktion, sofern keine Quelle mitgeliefert oder recherchiert wurde.
Auffällige Geschlossenheit
Je dünner die Grundlage, desto glatter oft die Formulierung. Ein Text ohne jede Einschränkung ist bei komplexen Sachverhalten eher ein Warnzeichen als ein Gütesiegel.
Ein Prüfversuch funktioniert dagegen nicht: die Rückfrage „Bist du sicher?". Modelle neigen dazu, bei Widerspruch nachzugeben — unabhängig davon, ob die ursprüngliche Aussage richtig war. Sie erzeugen damit also keinen Test, sondern nur eine höflichere Antwort. Geprüft wird am Dokument, nicht im Dialog.
Was organisatorisch bleibt
Keine Technik und keine Formulierung senkt das Risiko auf null. Deshalb gehören zu jedem produktiven Einsatz drei Festlegungen, die nichts mit dem Werkzeug zu tun haben: Erstens eine benannte fachliche Endkontrolle für alles, was das Haus verlässt. Zweitens eine Liste der Angabentypen, die grundsätzlich einzeln nachgeprüft werden — in der Regel Zahlen, Rechtsbezüge und Normverweise. Drittens die Regel, dass KI-Ausgaben nie unbesehen weitergegeben werden, auch nicht intern.
Das klingt nach Einschränkung, ist aber die Bedingung dafür, dass der Zeitgewinn überhaupt eintritt. Der Nutzen entsteht daraus, dass jemand einen guten Entwurf prüft statt eine leere Seite zu füllen — nicht daraus, dass niemand mehr liest.
Fazit
Halluzinationen sind kein Defekt, den ein Anbieter irgendwann behebt, sondern die Kehrseite des Verfahrens, das Sprachmodelle nützlich macht. Steuern lassen sie sich trotzdem — und der wirksamste Hebel liegt nicht in geschickter Fragetechnik, sondern in der Disziplin, mit der das Kontextfenster befüllt wird. Wer Quellen mitliefert, Belege verlangt, Nichtwissen erlaubt und den Kontext sauber hält, verschiebt die Fehlerquote von „regelmäßig" auf „selten und sichtbar".
Das ist keine Frage des Werkzeugs, sondern der Arbeitsweise. Und sie lässt sich in einer Schulung von zwei Stunden vermitteln.
Nächster Schritt
Diese Arbeitsweise im eigenen Team etablieren
Geschult wird an den eigenen Unterlagen — mit fertigen Formulierungsbausteinen für die wiederkehrenden Aufgaben und einer Prüfroutine, die zu den bestehenden Freigabeprozessen passt.