Jedes Unternehmen, das mit KI arbeitet, erlebt früher oder später denselben Moment: Das System antwortet in selbstsicherem Ton, und die Antwort ist falsch.
Das bedeutet nicht, dass das System defekt ist. Sprachmodelle arbeiten mit Wahrscheinlichkeiten; reicht die vorhandene Information nicht aus, können sie den plausibelsten Satz bilden, statt zu schweigen. Der eigentliche Punkt ist nicht, dass eine Antwort falsch sein kann, sondern dass eine falsche Antwort im gleichen Ton ankommt wie eine richtige.
Dieser Beitrag zeigt, warum falsche Antworten entstehen, wann sie wirklich ins Gewicht fallen und wo die Kontrolle bei der Einrichtung hingehört.
🔍 Bitte beachten Sie: KI ins Unternehmen zu holen heißt nicht, Fehler wegzudenken. Es heißt, im Voraus zu entscheiden, wo ein Fehler landet. Ob eine Antwort beim Kunden, auf dem Bildschirm einer Mitarbeiterin oder in einem Freigabefeld ankommt, wird bei der Einrichtung entschieden.
Warum antwortet die KI falsch?
Eine einzelne Ursache gibt es selten. Vier davon treten bei Einrichtungen am häufigsten auf.
Die Information fehlt oder ist veraltet
Das Modell liest aus der Quelle, die man ihm gegeben hat. Ist die Preisliste nicht gepflegt, steht ein ausgelaufener Artikel noch im Katalog oder lebt eine Regeländerung nur im Kopf einer Person, wird die Antwort auf dieser alten Information aufgebaut. Fehlerhaft ist hier die Quelle, nicht das Modell.
Die Frage ist unklar
Eine Frage wie "Was soll ich mit dieser Bestellung machen?" lässt ohne Kontext mehrere richtige Antworten zu. Das Modell wählt eine und begründet seine Wahl. Ein menschlicher Kollege würde nachfragen; ein System kann stattdessen mit einer Annahme weiterarbeiten.
Die Lücke füllen
Enthält die Quelle keine Antwort, kann das Modell eine aus Mustern ähnlicher Texte bilden. Dieses Verhalten wird oft Halluzination genannt. Der entstehende Satz ist sprachlich makellos und inhaltlich erfunden. Das ist die Fehlerart, die sich verbirgt.
Richtige Quelle, falscher Kontext
Die Information stimmt, gehört aber zu einem anderen Fall. Eine Bedingung für eine bestimmte Kundengruppe wird allen genannt, weil im System keine Unterscheidung hinterlegt wurde. Solche Fehler wirken einzeln betrachtet richtig und können deshalb spät auffallen.
Nicht jeder Fehler wiegt gleich
Alle Fehler gleich schwer zu nehmen macht die Einrichtung schwerfällig, und dieses Gewicht kann niemand tragen. Die Unterscheidung richtet sich danach, was der Fehler berührt.
- Fehler, die intern bleiben: eine Mitarbeiterin sieht die falsche Antwort, korrigiert sie, die Arbeit läuft weiter. Die Kosten sind gering.
- Fehler beim Kunden: falsche Information verlässt das Haus. Das ist kein technisches Thema mehr, sondern eine Frage des Vertrauens.
- Fehler mit Geld oder Recht: Preis, Rabatt, Vertragsbedingung, personenbezogene Daten. In dieser Gruppe ist es sicherer, wenn die Antwort nicht direkt hinausgeht.
Ohne diese Unterscheidung landen Einrichtungen meist an einem der beiden Enden: Entweder wartet jede Antwort auf eine Freigabe und das System wird langsam, oder es wird kein Freigabetor gebaut und der erste ernste Fehler passiert vor Publikum.
Wo gehört die menschliche Freigabe hin?
Die Freigabe gehört dorthin, wo ein Fehler teuer werden könnte, nicht an jeden Schritt des Systems. Drei Platzierungen können sich in der Praxis bewähren.
Das Freigabetor
Antworten einer festgelegten Art landen vor dem Versand auf dem Bildschirm einer Person. Diese gibt frei, korrigiert oder lehnt ab. Das Tor greift nur in ausgewählten Abläufen, der Rest läuft ohne Wartezeit weiter.
Anhalten bei Unsicherheit
Ein System kann so eingestellt werden, dass es eine Frage weitergibt, statt sie zu beantworten, wenn die Quelle keine Entsprechung enthält. "Ich gebe das an eine Kollegin weiter" ist besser als eine erfundene Antwort. Dieses Verhalten wird bei der Einrichtung festgelegt und entsteht nicht von selbst.
Die Grenze der Befugnis
Was das System allein tun darf, sollte schriftlich festgehalten sein: Es kann Auskunft geben und einen Vorgang anlegen, aber keinen Preis ändern und keine Rückgabe freigeben. Ist die Grenze nicht geschrieben, gibt es keine.
Antworten an eigene Quellen binden
Der direkteste Weg gegen falsche Antworten führt darüber, dass das Modell aus den eigenen Dokumenten des Unternehmens antwortet und nicht aus seinem freien Wissen. Das System nimmt die Frage, sucht das passende Dokument und stützt die Antwort darauf.
Daraus können sich zwei Nebeneffekte ergeben. Erstens lässt sich die Quelle neben die Antwort stellen: Man sieht, worauf sie beruht, und die Prüfung wird leichter. Zweitens bleibt die Quelle im Unternehmen. Wo Daten liegen und wohin sie gehen, ist ein eigenes Thema und wurde in wohin gehen Ihre Daten behandelt.
Die Bindung an die Quelle macht die Quelle selbst zur Verantwortung. Ist das Dokument veraltet, veraltet auch die Antwort. Deshalb wird früh geklärt, welches Dokument als aktuell gilt und wer es pflegt.
Was tun, wenn eine falsche Antwort auftaucht?
Es genügt nicht, sie einzeln zu korrigieren; man muss zur Ursache vordringen, damit derselbe Fehler nicht wiederkehrt. Die Reihenfolge kann so aussehen:
- Der Fall wird mit Protokoll abgelegt: Was wurde gefragt, worauf stützte sich die Antwort, wer hat sie gesehen.
- Die Ursache wird getrennt: veraltete Quelle, unklare Frage oder eine gefüllte Lücke.
- Ist die Quelle veraltet, wird das Dokument gepflegt und eine verantwortliche Person benannt.
- War die Frage unklar, wird das System auf Rückfrage eingestellt.
- Werden Lücken gefüllt, wandert dieses Thema ans Freigabetor oder in die Weitergabe.
Ohne diesen schriftlichen Ablauf werden Fehler einzeln besprochen und derselbe kehrt mehrfach zurück. Wo Projekte ins Stocken geraten, haben wir in warum Automatisierungsprojekte scheitern gesondert behandelt.
Warum Protokolle wichtig sind
Erinnert sich das System nicht an das Gesagte, lässt sich aus einem Fehler nichts lernen. Im Nachhinein sollte das Protokoll diese Fragen beantworten: Wann kam die Frage, was wurde geantwortet, worauf stützte sich die Antwort, ging sie durch die Freigabe, wer hat freigegeben.
Dieses Protokoll ist zugleich ein Nachweis. Sagt eine Kundin "Ihr System hat mir etwas anderes gesagt", stützt sich das Gespräch auf die Aufzeichnung statt auf Erinnerung.
Was sagt man dem Kunden?
Zu wissen, dass man mit einem System spricht, schadet dem Vertrauen nicht; es später zu erfahren, schon. Ein klarer Hinweissatz und ein Weg zum Menschen gehören an den Anfang des Gesprächs.
Gelangt ein Fehler doch nach außen, ist der bessere Weg, ohne Verzug zu korrigieren und schlicht zu sagen, was schiefgelaufen ist. Wie kundenseitige Abläufe aufgebaut werden, steht in Automatisierung im Kundenservice.
Fragen vor der Einrichtung
Werden diese Fragen zu Beginn eines KI-Projekts gestellt, kann ein großer Teil der späteren Diskussion entfallen.
- Aus welcher Quelle bildet das System seine Antworten?
- Wer pflegt diese Quelle, und wie oft wird sie geprüft?
- Welche Antworten dürfen ohne Menschen hinausgehen?
- Was tut das System, wenn es unsicher ist?
- Wer wird informiert, wenn eine falsche Antwort auffällt?
- Wo liegen die Gesprächsprotokolle, und wer darf sie sehen?
Die Antworten sind von Unternehmen zu Unternehmen verschieden. Wer die Prozessaufnahme praktisch üben möchte, findet in unserer Schulungsreihe diese Themen Schritt für Schritt.
Wie wir arbeiten
Wir klären zuerst, aus welcher Quelle die Antworten gebildet werden. Danach halten wir gemeinsam fest, welche Antworten durch die Freigabe gehen und was das System bei Unsicherheit tut.
Wir schlagen keine Einrichtung vor, die Fehler wegdenkt. Stattdessen legen wir fest, wo ein Fehler landet, führen sein Protokoll und bauen den Korrekturweg in die Einrichtung ein.
Häufig gestellte Fragen
Wie merken wir, dass die KI falsch geantwortet hat?
Allein durch Lesen ist es schwer zu merken, denn eine falsche Antwort ist in derselben Sprache verfasst wie eine richtige. In der Praxis helfen drei Dinge: die Quelle neben der Antwort zeigen, menschliche Freigabe bei heiklen Themen und das stichprobenartige Lesen der Gesprächsprotokolle in festen Abständen. Rückmeldungen von Kunden im Sinne von "bei mir steht etwas anderes" sollten als eigener Kanal gesammelt werden.
Muss ein Mensch jede Antwort freigeben?
In der Regel nicht, und jede Antwort über eine Freigabe zu führen kann das System unbrauchbar machen. Die Unterscheidung folgt der Art der Antwort: auskunftgebende, vorgangsanlegende und weiterleitende Antworten können in den meisten Unternehmen direkt hinausgehen. Antworten zu Preis, Rabatt, Vertragsbedingung, Rückgabe oder personenbezogenen Daten können ans Freigabetor gehen. Diese Liste wird bei der Einrichtung geschrieben und mit der Zeit überprüft.
Kann das System lernen, "ich weiß es nicht" zu sagen?
Das ist weniger eine Frage des Lernens als eine der Einstellung. Findet die Quelle keine Entsprechung, kann das System so gebaut werden, dass es das Thema an eine Person weitergibt, statt eine Antwort zu bilden. Wortlaut der Weitergabe, Empfänger und die Frist, in der die Kundin eine Rückmeldung erwarten darf, werden in derselben Einrichtung geklärt. Dieses Verhalten ist keine Voreinstellung, es muss geschrieben werden.
Wer haftet für Schäden aus einer falschen Antwort?
Die Verantwortung richtet sich nicht auf das System, sondern auf die betreibende Seite, weshalb die Grenzen der Einrichtung in den Vertrag gehören. Ist im Voraus geklärt, welche Antworten eine menschliche Freigabe durchlaufen, wie lange Protokolle aufbewahrt werden und wie ein bemerkter Fehler gemeldet wird, wird die Diskussion nicht vertagt. Ist Ihre Branche reguliert, sollten diese Klauseln mit Ihrer Rechtsberatung verfasst werden.
Kann ein an unsere Dokumente gebundenes System trotzdem falsch antworten?
Ja, aber die Fehlerart ändert sich. In einem gebundenen System werden erfundene Antworten seltener; nach vorn tritt stattdessen die Wahl des falschen Dokuments oder das Übertragen eines richtigen Dokuments in den falschen Kontext. Diese Fehler sind leichter zu sehen, weil das zugrunde liegende Dokument neben der Antwort steht. Die Quelle aktuell zu halten ist deshalb ein dauerhafter Teil der Einrichtung.
Klären Wir Gemeinsam, Woher Ihre Antworten Kommen
Bevor wir eine Einrichtung vorschlagen, besprechen wir die Quelle, die Freigabepunkte und den Weg des Systems bei Unsicherheit.
💬 Angebot über WhatsAppFazit
Eine falsche Antwort der KI ist kein Defekt, sondern eine Folge ihrer Arbeitsweise. Die Frage der Einrichtung lautet deshalb nicht "kann ein Fehler passieren", sondern wo landet er.
Antworten an die eigenen Quellen binden, heikle Antworten ans Freigabetor führen, das Anhalten bei Unsicherheit festschreiben und Gespräche protokollieren. Sind diese vier eingerichtet, verschwinden Fehler nicht, aber sie werden sichtbar und korrigierbar.