Was ist die HochrisikoEinstufung?

was ist die hochrisikoeinstufung: Anhang I vs III

Bei dem Thema was ist die hochrisikoeinstufung stehen Unternehmen vor großen Herausforderungen im Geschäftsalltag. Eine fehlerhafte Beurteilung der abstrakten Vorgaben birgt erhebliche Risiken für die gesamte Organisation. Lesen Sie weiter, um die richtigen Grundlagen zu verstehen und kostspielige Fehler bei der Systemeinordnung rechtzeitig zu verhindern.

Was ist die Hochrisiko-Einstufung?

Die Hochrisiko-Einstufung nach der EU-KI-Verordnung (AI Act) bezeichnet die Klassifizierung von Künstlicher Intelligenz, deren Einsatz ein signifikantes Risiko für die Gesundheit, Sicherheit oder die Grundrechte von Menschen darstellt(cit^[1] e: 1). So manche Organisation tut sich schwer damit, diese abstrakten gesetzlichen Hürden auf den eigenen Geschäftsalltag zu übertragen. Dabei ist die richtige Einordnung entscheidend, um kostspielige Fehler zu vermeiden.

Die zwei Hauptwege der Einstufung nach Artikel 6 KI-VO

Der Gesetzgeber unterscheidet im Wesentlichen zwischen zwei Einstufungswegen, die jeweils unterschiedliche Anwendungsbereiche abdecken: Anhang I (Produktsicherheit): KI dient hier als Sicherheitsbauteil eines regulierten Produkts wie Medizinprodukte oder Maschinen^[2]. Anhang III (Sensible Bereiche): Standalone-KI in kritischen Sektoren wie Personalwesen, Bildung, Biometrie oder Justiz(cit^[3] e: 1).

Ausnahmen, strenge Grenzen und Profiling

Nicht jedes System, das in diesen Bereichen eingesetzt wird, fällt automatisch unter strengste Auflagen. Eng gefasste Aufgaben wie die reine Mustererkennung oder Qualitätskontrolle gelten oft nicht als hochrisiko ki systeme definition. Es gibt jedoch eine eiserne Regel ohne Ausnahmen: Das Profiling natürlicher Personen wird grundsätzlich als Hochrisiko eingestuft. Wer hier den Aufwand unterschätzt, riskiert bald böse Überraschungen.

Zentrale Pflichten für Betreiber und Entwickler

Wer ein System betreibt, das als Hochrisiko gilt, muss tief in die Tasche greifen und strenge Prozesse etablieren. Dazu gehört die Einrichtung umfassender Risikomanagement-Systeme, das Sicherstellen hoher Datenqualität sowie das Führen einer lückenlosen technischen Dokumentation. Auch eine menschliche Aufsicht (Human-in-the-Loop) ist zwingend vorgeschrieben.

Vergleich der Risikoklassen im AI Act

Minimales oder kein Risiko

• Keine speziellen Pflichten, freiwillige Verhaltenskodizes greifen
• Spamfilter, KI-gestützte Videospiele oder einfache Chatbots

Hohes Risiko (Hochrisiko)

• Strenge Konformitätsbewertungen, Risikomanagement und Logging-Pflichten
• HR-Software für Bewerberauswahl, biometrische Identifizierung, Medizintechnik

Der Fall eines HR-Software-Anbieters

Ein mittelständisches Softwareunternehmen entwickelte ein Tool zur automatisierten Vorauswahl von Lebensläufen. Anfangs dachten die Entwickler, es handle sich um eine harmlose Automatisierung.

Bei genauerer Prüfung stellte sich heraus, dass das System im Personalwesen (Anhang III des AI Act) eingesetzt wird und somit unter die Hochrisiko-Kriterien fällt. Das Team unterschätzte den regulatorischen Aufwand völlig.

Nach monatelanger Nachbesserung von Dokumentation, Datenqualität und menschlicher Aufsicht konnte das Tool konform betrieben werden.

Das Ergebnis: Rechtssicherheit für die Kunden und ein stabiler Marktstart, auch wenn es Geduld und Ressourcen kostete.