Hochrisiko-KI: Welche Fristen jetzt gelten

Worum es geht

Dieser Artikel richtet sich an Unternehmen, Kanzleien und Bildungseinrichtungen, die KI einsetzen oder neue Software mit KI-Funktionen anschaffen. Er erklärt, welche Einsätze die KI-Verordnung als hochriskant einstuft, welche Termine nach dem KI-Omnibus gelten und wie Sie Ihren eigenen Einsatz einordnen.

Die wichtigste Erkenntnis vorab: Ob die strengen Pflichten Sie treffen, entscheidet der Zweck, für den Sie ein Werkzeug einsetzen. Dasselbe Programm kann im einen Fall ein gewöhnliches Bürowerkzeug sein und im anderen ein Hochrisiko-System. Wer das weiß, kann die Zeit bis Dezember 2027 für eine ruhige Bestandsaufnahme nutzen.

Was Hochrisiko-KI ist

Die KI-Verordnung ordnet KI nach ihrem Risiko. Als hochriskant gelten Systeme, die über Chancen, Rechte oder die Sicherheit von Menschen mitentscheiden. Die Bereiche stehen in Anhang III der Verordnung, darunter:

• Beschäftigung und Personal, etwa das Sichten und Bewerten von Bewerbungen
• Bildung, etwa das Bewerten von Lernergebnissen oder Entscheidungen über Zulassungen
• Zugang zu wichtigen Leistungen, etwa die Prüfung der Kreditwürdigkeit
• Biometrie, kritische Infrastruktur, Strafverfolgung, Migration, Rechtspflege und demokratische Prozesse

Nicht jedes System in diesen Bereichen ist hochriskant. Übernimmt es nur eine eng gefasste oder vorbereitende Aufgabe und beeinflusst die Entscheidung nicht wesentlich, gilt es nicht als Hochrisiko-KI. Wertet es Menschen in einem Profil aus, gilt es immer als hochriskant.

Dazu kommt KI als Sicherheitsbauteil in Produkten, die ohnehin geprüft werden müssen, etwa Medizinprodukte, Aufzüge oder Spielzeug (Anhang I).

Welche Termine jetzt gelten

Mit dem KI-Omnibus, der Verordnung (EU) 2026/1744, hat die EU die Pflichten für Hochrisiko-KI verschoben. Für die Bereiche aus Anhang III gelten sie ab dem 02.12.2027, für KI in regulierten Produkten nach Anhang I ab dem 02.08.2028.

Andere Teile der Verordnung gelten schon. Die Pflicht zur KI-Kompetenz nach Artikel 4 gilt seit dem 02.02.2025 für alle, die KI einsetzen, unabhängig vom Risiko. Seit demselben Tag sind bestimmte KI-Praktiken verboten, etwa das Erkennen von Emotionen am Arbeitsplatz. Seit dem 02.08.2026 gelten die Transparenzpflichten nach Artikel 50.

So ordnen Sie Ihren Einsatz ein

Für eine erste Einordnung reichen wenige Fragen. Gehen Sie sie für jedes Werkzeug einzeln durch:

• Wenn das Werkzeug Texte, Zusammenfassungen, Übersetzungen oder Recherchen liefert, die nicht über Menschen entscheiden, dann ist es in der Regel keine Hochrisiko-KI. Es gelten Artikel 4 und der Datenschutz.
• Wenn das Werkzeug in einem Bereich aus Anhang III arbeitet, etwa Personal, Bildung oder Kreditprüfung, dann prüfen Sie genauer.
• Wenn es dort Menschen bewertet, sortiert oder eine Rangfolge vorschlägt, dann spricht viel für Hochrisiko-KI.
• Wenn es Menschen in einem Profil auswertet, dann ist es immer hochriskant.
• Wenn es nur eine eng gefasste oder vorbereitende Aufgabe übernimmt und die Entscheidung nicht wesentlich beeinflusst, dann kann es aus der Hochrisiko-Einstufung herausfallen. Halten Sie Ihre Begründung schriftlich fest.
• Wenn Sie ein allgemeines Werkzeug wie ChatGPT für einen solchen Zweck einsetzen, etwa zum Bewerten von Bewerbungen, dann können Sie selbst als Anbieter gelten, mit deutlich mehr Pflichten.

Diese Fragen ersetzen keine rechtliche Prüfung im Einzelfall. Sie zeigen Ihnen, wo Sie genauer hinsehen sollten.

Ein Beispiel aus dem Personalbereich

Ein Unternehmen mit 60 Mitarbeitenden geht seine KI-Werkzeuge durch und findet drei Einsätze.

Copilot für E-Mails, Protokolle und Angebotstexte. Das Werkzeug entscheidet nicht über Menschen und arbeitet in keinem Bereich aus Anhang III. Keine Hochrisiko-KI. Es bleiben Schulung, Regeln und Datenschutz.

Eine Bewerbermanagement-Software mit neuer KI-Funktion, die eingehende Bewerbungen sortiert und eine Rangfolge vorschlägt. Das ist der Bereich Beschäftigung und das System bewertet Menschen. Das Unternehmen behandelt es als Hochrisiko-KI, klärt mit dem Anbieter, wie er die Pflichten bis zum 02.12.2027 erfüllt, und plant die eigenen Betreiberpflichten ein.

Eine Teamleiterin, die Lebensläufe in ChatGPT kopiert und sich eine Bewertung geben lässt. Hier wird ein allgemeines Werkzeug für einen Hochrisiko-Zweck eingesetzt. Das Unternehmen könnte damit selbst als Anbieter gelten. Dazu kommen Datenschutzfragen, weil Bewerberdaten in ein Werkzeug gelangen. Die Geschäftsführung untersagt diesen Einsatz in der KI-Richtlinie und erklärt dem Team den Grund.

Vorher wusste niemand, dass es den dritten Fall gibt. Nachher sind alle drei Einsätze bekannt, eingeordnet und geregelt.

Was Betreiber dann tun müssen

Wer ein Hochrisiko-System nur einsetzt, ist Betreiber. Zu den Pflichten gehören unter anderem:

• das System nach der Betriebsanleitung des Anbieters nutzen
• die menschliche Aufsicht Personen mit der nötigen Kompetenz und Befugnis übertragen
• den Betrieb überwachen und die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren
• Beschäftigte und ihre Vertretung informieren, bevor ein solches System am Arbeitsplatz eingesetzt wird
• Menschen informieren, wenn das System über sie mitentscheidet

Im Beispiel oben könnte die menschliche Aufsicht so aussehen: Eine Person aus dem Personalbereich, die das System und seine Grenzen kennt, sieht jede vorgeschlagene Rangfolge durch. Sie darf Vorschläge verwerfen und trifft die Entscheidung über Einladungen selbst. Wer diese Aufgabe übernimmt, braucht dafür Zeit, eine Schulung zum System und die Befugnis, dem System zu widersprechen.

Gibt es einen Betriebsrat, muss der Arbeitgeber ihn unabhängig von der KI-Verordnung rechtzeitig über die Planung unterrichten, wenn KI in Arbeitsverfahren oder Arbeitsabläufen eingesetzt werden soll (§ 90 BetrVG).

Vieles davon hängt am Anbieter. Diese Fragen können Sie bei einer Anschaffung oder Vertragsverlängerung stellen:

• Stufen Sie Ihr System oder einzelne Funktionen als Hochrisiko-KI ein, und mit welcher Begründung?
• Wie stellen Sie sicher, dass Ihre Pflichten als Anbieter bis zum 02.12.2027 erfüllt sind?
• Gibt es eine Betriebsanleitung, die beschreibt, wofür das System gedacht ist und wofür nicht?
• Welche Protokolle erzeugt das System, wo liegen sie und wie lange können wir sie aufbewahren?
• Wie können unsere Mitarbeitenden Vorschläge des Systems nachvollziehen, prüfen und übergehen?
• Lassen sich einzelne KI-Funktionen abschalten, wenn wir sie nicht einsetzen wollen?

Was Sie jetzt schon tun können

Verschaffen Sie sich einen Überblick, wo im Unternehmen KI im Einsatz ist und wofür. Prüfen Sie vor allem Werkzeuge in Personal, Bewerbung und Weiterbildung. Wer neue Systeme in diesen Bereichen anschafft, sollte die Pflichten schon heute bei der Auswahl mitdenken.

Ein einfaches KI-Verzeichnis genügt für den Anfang. Legen Sie je Werkzeug eine Zeile mit diesen Angaben an:

• Werkzeug und Anbieter: auch KI-Funktionen in bestehender Software, etwa im Bewerbermanagement
• Zweck: wofür es genutzt wird, in einem Satz
• Betroffene Menschen: ob es über Beschäftigte, Bewerbende, Kunden oder Lernende mitentscheidet
• Bereich nach Anhang III: ja oder nein, mit kurzer Begründung
• Verantwortlich: wer das Werkzeug betreut und Fragen beantwortet
• Nächster Schritt: etwa Anbieter befragen, Einsatz regeln oder Schulung planen

Das Verzeichnis hilft doppelt: Es zeigt, wo Hochrisiko-Pflichten auf Sie zukommen. Zugleich ist es eine gute Grundlage für Ihre Maßnahmen zur KI-Kompetenz nach Artikel 4. Wenn Sie gemeinsam mit uns auf Ihre Abläufe schauen möchten, ordnet die KI-Potenzialanalyse Ihre Einsätze an einem Tag vor Ort. Welche Werkzeuge in Ihrem Personalbereich arbeiten heute schon mit KI?

Häufige Fragen

Quellen

1. KI-Verordnung (EU) 2024/1689, Anhang III, konsolidierte Fassung vom 27.07.2026, EUR-Lex
2. Verordnung (EU) 2026/1744 (KI-Omnibus), EUR-Lex
3. § 90 BetrVG

Stand: 01.10.2026. Dieser Artikel ersetzt keine Rechtsberatung.