Eine Hochrisiko-KI ist nicht das besonders leistungsfähige System, sondern das System, das die KI-Verordnung (KI-VO, Verordnung (EU) 2024/1689) wegen seines Einsatzzwecks streng reguliert. Ob Ihr KI-System dazugehört, entscheidet allein Artikel 6 KI-VO – über zwei getrennte Wege und eine eng gefasste Ausnahme. Dieser Beitrag führt Sie durch die Einstufung und zeigt, was daraus folgt.
Das Wichtigste in Kürze
- Artikel 6 KI-VO kennt zwei Wege in die Hochrisiko-Klasse: KI als Sicherheitsbauteil eines Produkts (Absatz 1, Anhang I) und KI in einem der acht Bereiche aus Anhang III (Absatz 2).
- Ein Anhang-III-System kann nach Artikel 6 Absatz 3 aus der Klasse herausfallen – aber nie, wenn es ein Profiling natürlicher Personen vornimmt.
- Wer sich auf diese Ausnahme beruft, muss die Bewertung vorher dokumentieren und das System in der EU-Datenbank registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2).
- Die Anforderungen an Hochrisiko-KI gelten für Anhang-III-Systeme ab dem 2. Dezember 2027, für Anhang-I-Systeme ab dem 2. August 2028.
- Die Einstufung ist Sache des Anbieters. Betreiber müssen sie trotzdem nachvollziehen, denn an ihr hängen eigene Pflichten aus Artikel 26 und Artikel 27 KI-VO.
Was „Hochrisiko-KI“ in der KI-Verordnung bedeutet
Die KI-VO bewertet nicht die Technik, sondern die Zweckbestimmung. Dasselbe Sprachmodell kann in einer Anwendung völlig unreguliert sein und in einer anderen als Hochrisiko-KI gelten – entscheidend ist, wofür das System bestimmungsgemäß eingesetzt wird.
Die Verordnung ordnet KI-Systeme abgestuft ein: Artikel 5 verbietet bestimmte Praktiken vollständig, Artikel 6 definiert die Hochrisiko-KI, Artikel 50 regelt Transparenzpflichten für weitere Systeme wie Chatbots oder KI-generierte Inhalte. Was in keine dieser Gruppen fällt, unterliegt keinen besonderen Produktanforderungen. Die Pflicht zur KI-Kompetenz nach Artikel 4 KI-VO trifft dagegen alle Anbieter und Betreiber von KI-Systemen, unabhängig von der Einstufung.
Wer Anbieter und wer Betreiber ist, entscheidet ebenfalls über die Pflichten. Diese Rollenfrage haben wir in einem eigenen Beitrag zum Anwendungsbereich des EU AI Act aufgearbeitet.
Weg 1: KI als Sicherheitsbauteil eines Produkts (Artikel 6 Absatz 1)
Der erste Weg führt über das bestehende EU-Produktsicherheitsrecht. Ein KI-System gilt nach Artikel 6 Absatz 1 KI-VO als hochriskant, wenn beide Bedingungen erfüllt sind:
- Das KI-System soll als Sicherheitsbauteil eines Produkts verwendet werden, das unter eine der in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fällt – oder das KI-System ist selbst ein solches Produkt.
- Dieses Produkt muss für das Inverkehrbringen oder die Inbetriebnahme einer Konformitätsbewertung durch Dritte unterzogen werden.
Anhang I Abschnitt A nennt unter anderem Medizinprodukte, In-vitro-Diagnostika, Aufzüge, Spielzeug, persönliche Schutzausrüstungen und Druckgeräte. Fehlt eine der beiden Bedingungen, greift Weg 1 nicht.
Die Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744) hat diesen Weg präzisiert und drei neue Absätze in Artikel 6 eingefügt:
- Absatz 1a: KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, der Leistungsoptimierung, der Leistungseffizienz, der Automatisierung, der Benutzerfreundlichkeit oder der Qualitätskontrolle verwendet werden, gelten nicht als Sicherheitsbauteil.
- Absatz 1b: KI-Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, gelten dagegen sehr wohl als Sicherheitsbauteil.
- Absatz 1c: Muss ein Produkt nur wegen anderer Risiken als Gesundheits- und Sicherheitsrisiken durch Dritte bewertet werden – etwa wegen elektromagnetischer Interferenzen –, erfüllt es die zweite Bedingung nicht.
- Anhang I: Die Maschinenrichtlinie wurde aus Abschnitt A gestrichen, stattdessen steht die Maschinenverordnung (EU) 2023/1230 nun in Abschnitt B. Für Produkte aus Abschnitt B gelten nach Artikel 2 Absatz 2 KI-VO nur Artikel 6 Absatz 1, Artikel 60a sowie die Artikel 102 bis 112.
Weg 2: Die acht Bereiche aus Anhang III (Artikel 6 Absatz 2)
Der zweite Weg betrifft eigenständige KI-Systeme in Bereichen, die der Gesetzgeber als besonders grundrechtssensibel eingestuft hat. Anhang III führt acht solcher Bereiche auf. Für Unternehmen außerhalb des öffentlichen Sektors sind vor allem die Nummern 3, 4 und 5 relevant.
| Nr. | Bereich | Beispiele aus Anhang III |
|---|---|---|
| 1 | Biometrie | Biometrische Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen, Emotionserkennung |
| 2 | Kritische Infrastruktur | Sicherheitsbauteile beim Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- und Stromversorgung |
| 3 | Allgemeine und berufliche Bildung | Zulassung und Zuweisung zu Bildungseinrichtungen, Bewertung von Lernergebnissen, Prüfungsaufsicht |
| 4 | Beschäftigung und Personalmanagement | Gezielte Stellenanzeigen, Sichten und Filtern von Bewerbungen, Bewerberbewertung, Entscheidungen über Beförderung und Kündigung, Leistungs- und Verhaltensbewertung |
| 5 | Zugang zu grundlegenden privaten und öffentlichen Diensten | Kreditwürdigkeitsprüfung und Bonitätsbewertung, Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen, Notruf-Triage |
| 6 | Strafverfolgung | Risikobewertungen zu natürlichen Personen, Bewertung der Verlässlichkeit von Beweismitteln |
| 7 | Migration, Asyl und Grenzkontrolle | Risikobewertungen, Prüfung von Anträgen |
| 8 | Rechtspflege und demokratische Prozesse | Unterstützung von Justizbehörden bei der Rechtsanwendung, Beeinflussung von Wahlen und Referenden |
Nummer 4 trifft die meisten Unternehmen. Ein Tool, das Bewerbungen automatisch sichtet oder filtert, oder eine Software, die Leistung und Verhalten von Beschäftigten bewertet, fällt dem Wortlaut nach unter Anhang III – auch wenn sie als schlichte HR-Software verkauft wird.
Die Ausnahme in Artikel 6 Absatz 3 – und wo sie endet
Ein in Anhang III genanntes System gilt nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Das setzt zusätzlich voraus, dass eine der folgenden vier Bedingungen erfüllt ist:
- Das System führt eine eng gefasste Verfahrensaufgabe durch.
- Es verbessert das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit.
- Es erkennt Entscheidungsmuster oder Abweichungen davon, ohne die zuvor abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen.
- Es führt eine vorbereitende Aufgabe für eine Bewertung durch, die für einen Anwendungsfall aus Anhang III relevant ist.
Beide Ebenen müssen zusammenkommen: kein erhebliches Risiko und eine der vier Bedingungen. Eine Rückausnahme setzt die Grenze: Ein in Anhang III aufgeführtes System gilt immer als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt. Genau daran scheitert die Ausnahme in der Praxis oft – etwa bei Werkzeugen, die Bewerberprofile bilden und vergleichen.
Die Ausnahme ist außerdem nicht zum Nulltarif zu haben. Nach Artikel 6 Absatz 4 KI-VO muss ein Anbieter, der sein Anhang-III-System für nicht hochriskant hält, diese Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Er unterliegt zusätzlich der Registrierungspflicht nach Artikel 49 Absatz 2 KI-VO und muss die Dokumentation den zuständigen nationalen Behörden auf Verlangen vorlegen.
Artikel 6 Absatz 5 KI-VO verpflichtet die Europäische Kommission, bis zum 2. Februar 2026 Leitlinien zur praktischen Umsetzung und eine Liste praktischer Beispiele bereitzustellen. Einen Entwurf dieser Leitlinien hat die Kommission am 19. Mai 2026 veröffentlicht; eine finale Fassung liegt zum Stand dieses Beitrags nicht vor.
Was aus der Einstufung folgt
Lautet das Ergebnis „hochriskant“, greift Kapitel III der KI-VO. Anbieter müssen unter anderem ein Risikomanagementsystem betreiben, Anforderungen an Daten und Daten-Governance erfüllen, technische Dokumentation und Protokollierung vorhalten, menschliche Aufsicht ermöglichen sowie ein Konformitätsbewertungsverfahren durchlaufen.
Betreiber – also Unternehmen, die ein solches System einsetzen – trifft Artikel 26 KI-VO. Dazu gehören:
- technische und organisatorische Maßnahmen, damit das System entsprechend der Betriebsanleitung verwendet wird,
- die Übertragung der menschlichen Aufsicht an Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis,
- die Sicherstellung, dass Eingabedaten der Zweckbestimmung entsprechen und ausreichend repräsentativ sind, soweit sie der eigenen Kontrolle unterliegen,
- die Überwachung des Betriebs sowie Meldungen an Anbieter und Marktüberwachungsbehörde bei Risiken und schwerwiegenden Vorfällen,
- die Aufbewahrung der automatisch erzeugten Protokolle für mindestens sechs Monate, soweit sie der eigenen Kontrolle unterliegen.
Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Risikobewertung bei Lebens- und Krankenversicherungen müssen vor der Inbetriebnahme zusätzlich eine Grundrechte-Folgenabschätzung nach Artikel 27 KI-VO durchführen. Ist eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO bereits erfolgt, dürfen deren einschlägige Teile einbezogen werden.
Verstöße gegen die Anbieterpflichten aus Artikel 16 oder die Betreiberpflichten aus Artikel 26 können nach Artikel 99 Absatz 4 KI-VO mit Geldbußen bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen sowie kleine Midcap-Unternehmen gilt jeweils der niedrigere Betrag.
Ab wann gelten die Pflichten für Hochrisiko-KI?
Die KI-VO gilt seit dem 2. August 2026 allgemein. Für Hochrisiko-KI hat die Verordnung (EU) 2026/1744 den Geltungsbeginn von Kapitel III Abschnitte 1, 2 und 3 verschoben. Artikel 113 Absatz 3 Buchstabe c KI-VO lautet jetzt:
- 2. Dezember 2027 für KI-Systeme, die nach Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind,
- 2. August 2028 für KI-Systeme, die nach Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind.
Ausgenommen von dieser Verschiebung ist Artikel 6 Absatz 5, also der Auftrag an die Kommission, Leitlinien zu erstellen. Die Verbote aus Artikel 5 KI-VO gelten bereits seit dem 2. Februar 2025; die durch die Digital-Omnibus-Verordnung neu eingefügten Verbote in Artikel 5 Absatz 1 Buchstaben ba und bb sowie Artikel 5 Absätze 1a und 1b gelten ab dem 2. Dezember 2026.
Die zusätzliche Zeit ist kein Grund zu warten. Wer erst 2027 feststellt, dass ein eingekauftes HR-Tool unter Anhang III fällt, hat das System bereits im Einsatz und muss es unter laufendem Betrieb nachrüsten oder ablösen.
In fünf Schritten zur Einstufung
- Inventar anlegen. Erfassen Sie jedes KI-System mit Zweckbestimmung, Hersteller, Fachbereich und der Frage, ob Ihr Unternehmen Anbieter oder Betreiber ist.
- Verbote prüfen. Gleichen Sie zuerst Artikel 5 KI-VO ab. Emotionserkennung am Arbeitsplatz ist außerhalb medizinischer und sicherheitsbezogener Gründe verboten – die Einstufung erübrigt sich dann.
- Weg 1 prüfen. Ist das System Sicherheitsbauteil eines Anhang-I-Produkts und muss dieses Produkt durch Dritte bewertet werden? Beachten Sie die Klarstellungen in Artikel 6 Absätze 1a bis 1c.
- Weg 2 prüfen. Passt die Zweckbestimmung auf einen Anwendungsfall aus Anhang III? Prüfen Sie erst danach die Ausnahme in Absatz 3 – und ob ein Profiling stattfindet.
- Ergebnis dokumentieren. Halten Sie fest, wer wann auf welcher Grundlage entschieden hat. Bei einer Einstufung als „nicht hochriskant“ nach Artikel 6 Absatz 3 ist diese Dokumentation für Anbieter Pflicht.
Für die laufende Dokumentation gibt es bei ShapeMinds, unserem Schwesterunternehmen, eine Checkliste zu AI Act und DSGVO für KI-Systeme mit Rechtsverweisen. Wie weit die Transparenzpflichten aus Artikel 50 reichen, die unabhängig von der Hochrisiko-Einstufung gelten, lesen Sie in unserem Beitrag zu den Transparenzpflichten für KI-Systeme.
Häufige Fragen
Ist ChatGPT eine Hochrisiko-KI?
Ein allgemein einsetzbarer KI-Assistent ist für sich genommen nicht hochriskant. Entscheidend ist die Zweckbestimmung der konkreten Anwendung: Wer ein Sprachmodell in einen Prozess einbaut, der unter Anhang III fällt – etwa in die Vorauswahl von Bewerbungen –, muss diese Anwendung nach Artikel 6 einstufen.
Wer entscheidet über die Einstufung – wir oder der Hersteller?
Die Einstufung und ihre Dokumentation obliegen dem Anbieter. Als Betreiber sollten Sie die Einstufung dennoch anfordern und plausibilisieren, weil Ihre eigenen Pflichten aus Artikel 26 und gegebenenfalls Artikel 27 KI-VO daran hängen. Wird ein System unter eigenem Namen bereitgestellt oder wesentlich verändert, können Betreiber selbst zum Anbieter werden.
Reicht es, wenn ein Mensch das Ergebnis am Ende freigibt?
Nein, nicht automatisch. Artikel 6 Absatz 3 verlangt, dass das System das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst und eine der vier genannten Bedingungen erfüllt. Eine formale Freigabe, die dem Vorschlag der KI regelmäßig folgt, erfüllt das nicht.
Was passiert, wenn wir die Einstufung falsch treffen?
Eine zu niedrige Einstufung bedeutet, dass die Anforderungen aus Kapitel III nicht erfüllt werden. Die Marktüberwachungsbehörden können dann einschreiten; der Bußgeldrahmen aus Artikel 99 Absatz 4 KI-VO liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Eine nachvollziehbare, dokumentierte Bewertung ist deshalb der eigentliche Schutz.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung) – insbesondere Artikel 4, 5, 6, 26, 27, 49, 99, 113 und Anhang III
- Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI) – Änderungen an Artikel 5, 6, 27, 99 und 113
- Europäische Kommission: Entwurf der Leitlinien zur Einstufung von Hochrisiko-KI-Systemen (19. Mai 2026)
Stand: September 2026. Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung im Einzelfall.
Sie möchten wissen, wie Ihre KI-Systeme einzustufen sind und welche Pflichten daraus folgen? Vereinbaren Sie einen Termin – im Rahmen unserer KI-Compliance-Beratung gehen wir Ihr KI-Inventar mit Ihnen durch und dokumentieren die Einstufung prüffest.
