KI-Halluzinationen: So schützen Sie Ihren Vertrieb vor falschen Angaben
Kurz gesagt: KI-Halluzinationen sind Angaben, die ein Sprachmodell flüssig und überzeugend formuliert, die aber sachlich falsch oder frei erfunden sind. Sie entstehen, weil das Modell wahrscheinliche Wortfolgen berechnet und nicht in einer Datenbank nachschlägt. Im Vertrieb schützen eigene Unterlagen als Material, eine Quellenpflicht und die Freigabe durch einen Menschen.
Inhalt11 Abschnitte
- 01Warum treten KI-Halluzinationen auf?
- 02Beispiele: Wo KI-Halluzinationen im Vertrieb auftreten
- 03KI-Halluzinationen vermeiden: fünf Schutzregeln für den Alltag
- 04Freigabe nach Risiko staffeln
- 05So trainieren Sie Ihr Team
- 06Halluzination, veraltetes Wissen oder Eingabefehler: Was ist der Unterschied?
- 07Wie senkt die Arbeit mit eigenen Dokumenten das Risiko?
- 08Was tun, wenn eine falsche Angabe schon beim Kunden ist?
- 09Kennzahlen: Wie messen Sie, ob die Schutzregeln wirken?
- 10Häufige Fragen
- 11Fazit
Woher hat das Werkzeug den Ansprechpartner, den es beim Kunden gar nicht gibt? KI-Halluzinationen sind Angaben, die ein Sprachmodell überzeugend formuliert, die aber nicht stimmen. Im Vertrieb ist das heikel, weil eine falsche Zahl im Angebot oder eine erfundene Zusage in einer E-Mail Vertrauen kostet.
Einen Überblick über Einsatzfelder, Grenzen und erste Schritte finden Sie auf der Themenseite KI im Vertrieb.
Warum treten KI-Halluzinationen auf?
Ein Sprachmodell schlägt nichts in einer Datenbank nach. Es berechnet, welche Wörter mit hoher Wahrscheinlichkeit aufeinander folgen. Das Ergebnis klingt flüssig, weil das Modell auf sprachliche Stimmigkeit ausgelegt ist. Ob ein Satz wahr ist, prüft es dabei nicht von selbst.
Fehlt dem Modell eine Information, füllt es die Lücke oft mit etwas, das plausibel klingt. Es meldet nicht zuverlässig, dass es etwas nicht weiß. Hinzu kommt: Sein Wissen stammt aus Trainingsdaten mit einem Stichtag. Ihre aktuellen Preise, Lieferzeiten und Verträge kennt es nur, wenn Sie sie mitgeben.
Beispiele: Wo KI-Halluzinationen im Vertrieb auftreten
- Kundenrecherche: erfundene Ansprechpartner, falsche Standorte, veraltete Unternehmensdaten
- Angebote: Mengen, Preise oder Leistungsmerkmale, die nicht aus Ihren Unterlagen stammen
- Zusammenfassungen: Zusagen, die im Gespräch so nicht gefallen sind
- Wettbewerb: Behauptungen über Produkte anderer Anbieter ohne Beleg
- Recht und Verträge: Aussagen zu Haftung oder Bedingungen, die sicher klingen und falsch sind
Das Risiko ist am größten bei Namen, Zahlen, Daten und Zitaten. Bei Gliederungen, Formulierungen und Kürzungen ist es deutlich kleiner.
KI-Halluzinationen vermeiden: fünf Schutzregeln für den Alltag
- Quellen zeigen lassen: Verlangen Sie zu jeder Tatsache die Fundstelle. Eine Beispielformulierung: „Nenne zu jeder Aussage die Quelle. Wenn du keine hast, schreibe: nicht belegt.“ Öffnen Sie die Quelle, denn auch Quellenangaben können erfunden sein.
- Zahlen prüfen: Jede Zahl, die zum Kunden geht, gleicht ein Mensch mit dem führenden System ab, etwa mit Preisliste, CRM oder Vertrag.
- Material mitgeben: Lassen Sie das Modell mit Ihren Unterlagen arbeiten. Ergänzen Sie: „Nutze nur den folgenden Text.“
- Unsicherheit erlauben: Schreiben Sie in den Auftrag, dass „Das weiß ich nicht“ eine erwünschte Antwort ist.
- Freigabe durch Menschen: Nichts geht ungelesen an den Kunden.
Freigabe nach Risiko staffeln
Nicht jedes Ergebnis braucht dieselbe Prüfung. Eine interne Gesprächsvorbereitung liest der Verkäufer selbst gegen. Eine E-Mail an den Kunden gibt der Absender frei. Ein Angebot mit Preisen und Zusagen prüft zusätzlich eine zweite Person. Wie Sie solche Stufen festlegen, beschreibt der Beitrag Human in the Loop: Freigabestufen. Halten Sie die Regeln schriftlich fest, am besten in einer kurzen KI-Richtlinie für den Vertrieb.
Ein gut gebauter KI Sales Agent arbeitet mit Ihren Daten. Er liest aus CRM und Dokumenten und zeigt, woher jede Angabe stammt. Das senkt das Risiko deutlich, beseitigt es aber nicht. Auch ein Agent kann eine Quelle falsch lesen oder zwei Kunden verwechseln. Deshalb gehört der Abgleich mit der Quelle zu jedem Ablauf.
So trainieren Sie Ihr Team
Regeln auf Papier reichen nicht. Zeigen Sie Ihrem Team einen echten Fehler. Eine Übung für das nächste Teamtreffen: Lassen Sie ein Werkzeug einen Ihnen gut bekannten Kunden beschreiben, ohne Material mitzugeben. Suchen Sie gemeinsam, was nicht stimmt. Wer einmal selbst einen flüssig formulierten Fehler gefunden hat, liest danach genauer. Das gehört auch zur KI-Kompetenz, die der EU AI Act seit Februar 2025 von Unternehmen verlangt. Zu den rechtlichen Fragen beraten Rechtsabteilung und Datenschutzbeauftragte. Dieser Beitrag ist keine Rechtsberatung.
Halluzination, veraltetes Wissen oder Eingabefehler: Was ist der Unterschied?
Nicht jeder Fehler in einem KI-Text ist eine Halluzination: Eine Halluzination ist eine erfundene Angabe, veraltetes Wissen ist eine früher richtige Angabe und ein Eingabefehler stammt aus dem Material, das Sie selbst mitgegeben haben. Die Unterscheidung lohnt sich, weil jede Ursache ein anderes Gegenmittel hat.
| Fehlerart | Beispiel | Gegenmittel |
|---|---|---|
| Halluzination | Ansprechpartner, den es beim Kunden nicht gibt | Quelle verlangen und öffnen |
| Veraltetes Wissen | Geschäftsführer, der das Unternehmen verlassen hat | Aktuelle Unterlagen mitgeben |
| Eingabefehler | Menge aus einer überholten Preisliste | Führendes System festlegen |
| Verwechslung | Notizen zweier Kunden in einer Zusammenfassung | Ein Vorgang je Auftrag |
| Auslassung | Wichtige Bedingung fehlt in der Kurzfassung | Gegen das Original lesen |
Im Alltag sehen alle fünf gleich aus: Im Text steht etwas, das nicht stimmt, oder es fehlt etwas. Fragen Sie bei jedem gefundenen Fehler kurz nach der Ursache. Häufen sich Eingabefehler, haben Sie ein Problem mit der Ablage und nicht mit der KI. Häufen sich Verwechslungen, sind die Aufträge zu breit gefasst.
Auslassungen verdienen besondere Aufmerksamkeit. Eine Zusammenfassung, die eine Einschränkung des Kunden weglässt, enthält keinen falschen Satz und führt trotzdem in die Irre. Lesen Sie Kurzfassungen von Verträgen, Ausschreibungen und langen E-Mail-Verläufen deshalb gegen das Original, bevor Sie darauf eine Zusage aufbauen.
Wie senkt die Arbeit mit eigenen Dokumenten das Risiko?
Die Arbeit mit eigenen Dokumenten senkt das Risiko, weil das Modell die Antwort aus einem vorgelegten Text ableitet. Technisch sucht das System zuerst passende Stellen in Ihren Unterlagen und gibt sie dem Modell zusammen mit der Frage. Dieses Verfahren heißt RAG. Die Erklärung steht im Beitrag RAG im Vertrieb erklärt.
Damit das im Alltag trägt, müssen drei Bedingungen erfüllt sein:
- Die Unterlagen sind aktuell. Eine alte Leistungsbeschreibung führt zu einer sauber belegten, aber falschen Antwort. Legen Sie fest, wer veraltete Dokumente entfernt.
- Es gibt eine führende Quelle je Angabe. Steht dieselbe Angabe in drei Dateien, wählt das System eine davon. Bestimmen Sie für Preise, Lieferzeiten und Bedingungen je ein System.
- Die Fundstelle ist sichtbar. Der Text zeigt, aus welchem Dokument und welchem Abschnitt eine Aussage stammt. Nur dann ist die Prüfung in vertretbarer Zeit möglich.
Ein Restrisiko bleibt. Das System kann die falsche Stelle finden, zwei Abschnitte falsch verbinden oder eine Lücke doch aus dem Gedächtnis füllen. Ergänzen Sie den Auftrag deshalb um eine Anweisung für den Fall, dass die Unterlagen nichts hergeben.
Besonders streng sollten Sie bei Angeboten sein. Die Risiken und Prüfschritte dafür behandelt der Beitrag KI-Halluzination im Vertrieb: Risiken im Angebot abfangen.
Was tun, wenn eine falsche Angabe schon beim Kunden ist?
Wenn eine falsche Angabe schon beim Kunden ist, korrigieren Sie sie sofort, selbst und ohne Verweis auf die Technik. Der Kunde hat die Nachricht von Ihnen erhalten, nicht von einem Werkzeug.
- Umfang klären. Welche Angabe ist falsch, in welchem Dokument steht sie, wer hat es erhalten? Prüfen Sie bei dieser Gelegenheit den ganzen Text noch einmal.
- Den Kunden informieren. Am besten telefonisch, danach schriftlich mit der richtigen Angabe. Eine mögliche Formulierung: „In unserem Angebot vom Montag steht eine falsche Lieferzeit. Richtig sind sechs Wochen. Bitte entschuldigen Sie den Fehler. Ich sende Ihnen heute eine korrigierte Fassung.“
- Folgen prüfen. Hat der Kunde auf Grundlage der Angabe bereits entschieden oder bestellt? Dann gehört der Fall zur Vertriebsleitung und bei Bedarf zur Rechtsabteilung.
- Die Ursache festhalten. Fehlte Material, war der Auftrag unklar, wurde die Freigabe übersprungen? Notieren Sie den Fall ohne Schuldzuweisung.
- Den Ablauf anpassen. Ergänzen Sie die Vorlage, die Prüfliste oder die Freigabestufe, damit derselbe Fehler nicht wiederkehrt.
Eine schnelle Korrektur ist besser als ein Fehler, den der Kunde selbst findet. Sprechen Sie den Fall im Team offen an. Wer Fehler melden kann, ohne Ärger zu befürchten, meldet sie früh. Daraus entsteht mit der Zeit eine Sammlung eigener Fälle für die nächste Schulung.
Kennzahlen: Wie messen Sie, ob die Schutzregeln wirken?
Ob die Schutzregeln wirken, messen Sie mit einem einfachen Fehlerprotokoll und einer regelmäßigen Stichprobe. Ohne beides wissen Sie nur, dass bisher nichts aufgefallen ist.
- Fehlerprotokoll. Eine gemeinsame Liste mit vier Spalten: Datum, Art des Textes, Fehlerart, vor oder nach dem Versand entdeckt.
- Stichprobe. Eine zweite Person prüft jede Woche einige zufällig gewählte KI-gestützte Texte vollständig gegen die Quellen.
- Anteil der vor dem Versand entdeckten Fehler. Diese Zahl zeigt, ob die Freigabe funktioniert. Fehler im Entwurf sind erwartbar. Fehler beim Kunden sind das eigentliche Signal.
Rechenbeispiel: Angenommen, in einem Monat stehen 20 Fehler im Protokoll. 18 wurden bei der Freigabe gefunden, 2 erst nach dem Versand. Dann wurden 90 Prozent vor dem Versand entdeckt. Die beiden übrigen Fälle sehen Sie sich einzeln an: Welche Textart, welche Freigabestufe, welcher Zeitdruck?
Lesen Sie die Zahlen mit Vorsicht. Ein leeres Protokoll ist kein Beleg für fehlerfreie Texte. Es kann auch bedeuten, dass niemand prüft oder niemand einträgt. Steigt die Zahl der Einträge nach einer Schulung, ist das zunächst ein gutes Zeichen: Das Team sieht genauer hin. Für Firmendaten und Ansprechpartner, also Angaben mit hohem Risiko, lohnt ergänzend der Beitrag Kundenrecherche mit KI.
Häufige Fragen
Lassen sich Halluzinationen ganz abstellen?
Nach heutigem Stand nicht. Sie lassen sich durch Material, genaue Aufträge und Quellenpflicht seltener machen. Der Abgleich mit der Quelle bleibt nötig.
Woran erkenne ich eine falsche Angabe?
Oft gar nicht am Text, denn er klingt sicher. Misstrauen Sie besonders glatten Zahlen, genauen Daten und wörtlichen Zitaten ohne Fundstelle. Entscheidend ist der Abgleich mit der Quelle.
Welche KI halluziniert am wenigsten?
Eine feste Rangfolge gibt es nicht, weil sich Modelle laufend ändern und das Ergebnis stark von Aufgabe und Material abhängt. Wichtiger als die Wahl des Modells ist die Arbeitsweise: eigene Unterlagen mitgeben, Quellen verlangen, Zahlen abgleichen. Testen Sie ein Werkzeug mit eigenen Fällen, deren richtige Antwort Sie kennen, bevor Sie es im Team einsetzen.
Warum erfindet KI Quellen?
Weil eine Quellenangabe für ein Sprachmodell auch nur Text ist. Es kann eine Angabe erzeugen, die wie ein Dokumentname oder eine Internetadresse aussieht, ohne zu prüfen, ob es sie gibt. Besser sind Werkzeuge, die in Ihren Dokumenten suchen und die gefundene Stelle anzeigen. Öffnen Sie die Fundstelle trotzdem, bevor Sie eine Angabe übernehmen.
Wer haftet, wenn ein KI-Text im Angebot falsche Angaben enthält?
In der Regel steht das Unternehmen für seine Angebote ein, unabhängig davon, mit welchem Hilfsmittel sie entstanden sind. Auf das KI-Werkzeug sollten Sie sich gegenüber dem Kunden nicht berufen. Wie ein Einzelfall zu bewerten ist, klärt Ihre Rechtsabteilung. Dies ist keine Rechtsberatung. Praktisch folgt daraus: Jede Angabe im Angebot wird vor dem Versand mit Preisliste, CRM oder Vertrag abgeglichen.
Halluziniert KI auch bei Zusammenfassungen von Gesprächen?
Ja, das kommt vor, auch wenn das Risiko bei Zusammenfassungen kleiner ist als bei freien Fragen. Typisch sind zugespitzte Zusagen, vertauschte Sprecher und ausgelassene Einschränkungen. Lesen Sie die Zusammenfassung deshalb bald nach dem Gespräch gegen, solange Sie den Verlauf im Kopf haben. Besonders genau prüfen Sie Termine, Mengen und alles, was als Zusage formuliert ist.
Fazit
Falsche Angaben sind eine Eigenschaft der Technik, mit der sich arbeiten lässt. Mit Quellenpflicht, Zahlenprüfung und gestaffelter Freigabe bleibt das Risiko beherrschbar. Bringen Sie die fünf Regeln auf eine Seite und legen Sie sie beim nächsten Teamtreffen auf den Tisch. Wenn Sie Ihre Freigabestufen gemeinsam festlegen möchten, nutzen Sie das Erstgespräch.
Mehr zum Thema: alle Beiträge zu KI im Vertrieb im Überblick →