Eine KI-Antwort war falsch und wir haben uns darauf verlassen
Typische Fälle
- Die KI nennt ein Gerichtsurteil, das es nicht gibt.
- Der Website-Chatbot verspricht einem Kunden einen Rabatt, den es nicht gibt.
- Eine KI-Übersetzung verändert den Sinn einer Vertragsklausel.
- Die KI-Zusammenfassung lässt eine wichtige Frist weg.
Kurz gesagt
KI-Systeme erfinden mitunter Fakten, Quellen und Zahlen. Wer KI-Ergebnisse im Geschäftsverkehr verwendet, haftet dafür wie für eigene Arbeit. Prüfen Sie Ergebnisse vor der Verwendung – umso gründlicher, je größer die Folgen sind.
Was jetzt zu tun ist
Wenn Sie den Fehler bemerken
- Stoppen Sie die weitere Verwendung und melden Sie den Fehler der zuständigen Person.
- Halten Sie fest, welches Werkzeug welche Antwort gegeben hat.
Wenn Sie verantwortlich sind
- Begrenzen Sie den Schaden: Betroffene informieren, Fehler korrigieren. Sind falsche Angaben über Personen gespeichert, berichtigen Sie sie.
- Klären Sie die Ursache: Fehlte ein Prüfschritt, oder war das Werkzeug für die Aufgabe ungeeignet?
- Führen Sie für Texte mit Außenwirkung das Vier-Augen-Prinzip ein.
- Informieren Sie bei möglichem Schaden Ihre Haftpflichtversicherung.
Stoppen und korrigieren Sie unverzüglich nach Entdeckung.
Die Leitung regelt die Prüfschritte.
Der häufigste Fehler
Ergebnisse werden übernommen, weil sie plausibel klingen. Gerade erfundene Quellen wirken oft besonders überzeugend.
„Am meisten überrascht, wie überzeugend erfundene Angaben klingen: korrekt formatierte Aktenzeichen, plausible Seitenzahlen, passende Zitate. Gerade wenn eine Antwort perfekt wirkt, lohnt der Blick in die Originalquelle.“
Rechtsgrundlage
- §§ 276, 280 Abs. 1 BGB (Haftung für Pflichtverletzungen)
- Art. 5 Abs. 1 lit. d, Art. 16 DSGVO (Richtigkeit, Berichtigung)
- Produkthaftungs-RL (EU) 2024/2853, Erwägungsgrund 13
Mehr dazu
- KI-Hütte (Flatrate)
Verwandte Einträge
Jeden Montag kostenlos: das Wichtigste zu Datenschutz und KI.
Mit dem Zugangslink zu unseren kostenlosen Praxis-Webinaren.