Wir wissen nicht, in welche Risikoklasse unsere KI fällt
Typische Fälle
- Ein Softwareanbieter wirbt mit „KI-gestützt“, und Sie wissen nicht, was daraus folgt.
- Im Kundenservice soll ein Chatbot antworten.
- Ein Programm soll Bewerbungen vorsortieren.
- Sie wollen ein selbst konfiguriertes KI-Werkzeug Ihren Kunden anbieten.
Kurz gesagt
Die KI-Verordnung kennt vier Stufen: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Hinweispflichten und alle übrigen. Für die meisten Büro-Werkzeuge gelten nur die KI-Kompetenz und gegebenenfalls Hinweispflichten. Entscheidend ist auch Ihre Rolle: Nutzen Sie ein System, oder bieten Sie es unter eigenem Namen an?
Was jetzt zu tun ist
Wenn Sie ein neues Werkzeug einsetzen sollen
- Melden Sie vorher, wenn es Menschen bewerten oder über sie entscheiden soll – etwa bei Bewerbungen, Leistung oder Kreditwürdigkeit.
Wenn Sie verantwortlich sind
- Führen Sie eine Liste aller KI-Systeme.
- Prüfen Sie zuerst die Verbote, zum Beispiel Emotionserkennung am Arbeitsplatz oder soziale Bewertung von Menschen. Verbotenes beenden Sie sofort.
- Prüfen Sie, ob ein Einsatz in Anhang III steht (unter anderem Beschäftigung, Bildung, Zugang zu Leistungen, Kreditwürdigkeit). Dann gelten strenge Pflichten für Nutzer.
- Prüfen Sie Hinweispflichten bei Chatbots und täuschend echten Bildern, Videos oder Tonaufnahmen. Bieten Sie ein System unter eigenem Namen an oder ändern Sie seinen Zweck wesentlich, können Sie selbst zum Anbieter werden.
Verbote gelten seit 02.02.2025, Hinweispflichten seit 02.08.2026, Hochrisiko-Pflichten nach Anhang III ab 02.12.2027.
Sie führt die Liste aller KI-Systeme.
Der häufigste Fehler
„Für die KI ist der Anbieter verantwortlich.“ Nutzer haben eigene Pflichten – und können durch Änderungen selbst zum Anbieter werden.
„Unterschätzt wird fast immer die eigene Rolle. Wer ein Standardwerkzeug mit eigenen Anweisungen und eigenem Namen an Kunden weitergibt, sollte prüfen, ob er damit nicht selbst zum Anbieter geworden ist.“
Rechtsgrundlage
- Art. 3 Nr. 3, 4, Art. 5, 6, 25, 26, 50, Anhang III KI-VO
- Art. 113 KI-VO in der Fassung VO (EU) 2026/1744 (Geltungsbeginn)
- Leitlinien der Kommission zu verbotenen KI-Praktiken und zur Definition von KI-Systemen (Februar 2025)
Mehr dazu
- KI-Hütte, Modul Risikoklassen (Flatrate)
Verwandte Einträge
Jeden Montag kostenlos: das Wichtigste zu Datenschutz und KI.
Mit dem Zugangslink zu unseren kostenlosen Praxis-Webinaren.