Lernziel: Sie können in eigenen Worten erklären, wie generative KI Ergebnisse erzeugt und warum diese überzeugend klingen, aber falsch sein können.
Ausgangssituation
Fiktives Beispiel: Herr Albers arbeitet im Innendienst. Ein Kunde fragt per E-Mail, was zum Lieferumfang eines Geräts gehört. Herr Albers lässt einen KI-Assistenten die Antwort schreiben. Der Text ist höflich, klar und flüssig. Er nennt aber ein Zubehörteil, das gar nicht mitgeliefert wird.
Wie kann eine so gut formulierte Antwort falsch sein?
Wie KI-Antworten entstehen
In diesem Kurs meinen wir mit generativer KI Werkzeuge, die neue Inhalte erzeugen. Das sind etwa Texte, Bilder oder Programmcode.
Die KI-Verordnung ist ein Gesetz der Europäischen Union.[1] Sie beschreibt ein KI-System als maschinengestütztes System.[1:1] Es leitet aus Eingaben ab, wie es Ausgaben erstellt.[1:2] Solche Ausgaben sind etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen.[1:3]
Viele Textwerkzeuge arbeiten mit einem großen Sprachmodell. Das ist ein KI-Modell, das Sprache verarbeitet und erzeugt. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt, wie solche Modelle arbeiten.[2]
Große Sprachmodelle erzeugen Texte auf Basis erlernter statistischer Zusammenhänge.[2:1] Sie sagen vorher, welches Wort als Nächstes wahrscheinlich folgt.[2:2] Das kann auch eine ganze Wortfolge sein.[2:3]
Das Modell wählt also passende Fortsetzungen für Ihren Text. Ein wahrscheinlicher Satz ist aber nicht automatisch ein richtiger Satz.
Warum Antworten überzeugend klingen
Die Texte großer Sprachmodelle sind sprachlich meist hochwertig.[3] Oft lassen sie sich nicht von Texten unterscheiden, die Menschen geschrieben haben.[3:1]
Das BSI nennt erfundene Inhalte ein großes Problem von Sprachmodellen.[4] Solche erfundenen Inhalte heißen Halluzinationen.[4:1] Die Ausgaben wirken dabei meist glaubhaft.[4:2] Das gilt auch, wenn sie auf Quellen verweisen, die frei erfunden sind.[4:3]
Gute Sprache ist deshalb kein Beleg für richtige Inhalte.[4:4] Wie Sie Ergebnisse gezielt prüfen, lernen Sie im Modul „Ergebnisse prüfen“.
Beispiel
Fiktives Beispiel: Herr Albers sieht sich den Entwurf noch einmal an. Er geht dabei in drei Schritten vor.
Erstens fragt er: Was hat das Werkzeug gemacht? Es hat eine wahrscheinliche Antwort formuliert. Es hat dabei nicht in der Produktbeschreibung seines Unternehmens nachgesehen.
Zweitens markiert er alle Tatsachen im Text. Das sind der Gerätename, die Teile im Lieferumfang und der Hinweis auf das Zubehör.
Drittens vergleicht er diese Tatsachen mit der freigegebenen Produktbeschreibung. Das Zubehörteil steht dort nicht. Herr Albers streicht es aus dem Entwurf.
Den freundlichen Ton übernimmt er. Die Tatsachen hat er selbst geprüft. Erst dann schickt er die Antwort ab.
Ihre Aufgabe
Schreibaufgabe
0 von 3 erledigt · Vorschau, wird nicht gespeichert
Sie nutzen noch keine KI? Dann wählen Sie Aufgaben, bei denen Sie sich den Einsatz vorstellen können.
Ihr Ergebnis: Schreiben Sie zu einer Ihrer drei Aufgaben auf, welche Tatsachen im Ergebnis stecken und wo Sie diese nachprüfen.
Keine echten Namen, Kunden- oder Personaldaten eingeben. Vorschau: Der Text wird nicht gespeichert.
Das Wichtigste
- Große Sprachmodelle sagen vorher, welche Wörter wahrscheinlich folgen.[2:4]
- Ihre Texte sind oft nicht von menschlichen Texten zu unterscheiden.[3:2]
- Auch glaubhaft wirkende Antworten können erfundene Inhalte und Quellen enthalten.[4:5]
Stand der Informationen: 2026-09-17
Quellen (4)
Quellenregister, Claim claim-kivo-ki-system; Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung, Art. 3 Nr. 1. ↩︎ ↩︎ ↩︎ ↩︎
Quellenregister, Claim claim-bsi-wahrscheinlichkeit; Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden, Kapitel 2.1, Seite 7 (PDF). ↩︎ ↩︎ ↩︎ ↩︎ ↩︎
Quellenregister, Claim claim-bsi-sprachqualitaet; Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden, Kapitel 2.1, Seite 7 (PDF). ↩︎ ↩︎ ↩︎
Quellenregister, Claim claim-bsi-halluzination; Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden, Risiko R4, Seite 15 (PDF). ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎