Welche der folgenden Bereiche fällt laut AI Act unter HochrisikoKI?

Welche Bereiche fallen unter Hochrisiko KI laut AI Act?

Die Frage, welche bereiche fallen unter hochrisiko ki laut ai act, betrifft zahlreiche Branchen direkt. Bestimmte KI-Einsatzfelder unterliegen aufgrund ihres Gefährdungspotenzials strengen gesetzlichen Auflagen und Kontrollen. Die Missachtung dieser regulatorischen Vorgaben führt zu empfindlichen rechtlichen Konsequenzen. Ein tiefes Verständnis der betroffenen Sektoren schützt Organisationen vor unbeabsichtigten Gesetzesverstößen.

Welche Bereiche fallen unter Hochrisiko-KI laut AI Act?

Die Einstufung von Systemen als Hochrisiko-KI hängt von verschiedenen Faktoren ab und kann nicht pauschal für ganze Sektoren beantwortet werden, da der konkrete Einsatzzweck entscheidend ist. Laut dem europäischen AI Act fallen eigenständige KI-Anwendungen primär dann unter die Hochrisikoklasse, wenn sie in einem der acht vordefinierten Kernbereiche aus Anhang III eingesetzt werden und ein erhebliches Risiko für die Sicherheit oder die Grundrechte darstellen.

In meiner täglichen Praxis mit Compliance-Teams stelle ich immer wieder fest, dass viele Unternehmen blind raten. Sie lesen das Gesetz und geraten in Panik. Letztes Jahr dachte ich selbst noch, dass jede KI im Personalwesen sofort verboten wird. Ein fataler Irrtum. Der AI Act unterscheidet präzise zwischen absolut unzulässigen Praktiken und stark regulierten Systemen. Wenn Ihre Anwendung Menschen bewertet oder Chancen zuteilt, landen Sie fast immer in der Hochrisiko-Zone. Das bedeutet strenge Regeln, ist aber völlig legal machbar.

Die acht Hochrisiko-Bereiche aus Anhang III im Detail

Der EU AI Act listet im berüchtigten Anhang III genau acht sensible Anwendungsbereiche auf, in denen eigenständige KI-Systeme standardmäßig als hochriskant eingestuft werden. Diese Sektoren berühren die existenziellen Grundlagen, Freiheiten und Rechte von Menschen in Europa am stärksten.

Die acht regulierten Bereiche umfassen: Biometrie: Dies betrifft Systeme zur biometrischen Fernidentifizierung, Emotionserkennung oder Kategorisierung von Menschen, sofern sie nicht ohnehin komplett verboten sind.

Kritische Infrastruktur: KI-Systeme, die als Sicherheitsbauteile im Straßenverkehr oder bei der Versorgung mit Wasser, Gas, Heizung und Elektrizität dienen. Allgemeine und berufliche Bildung: Software zur Steuerung von Zulassungen zu Schulen und Universitäten oder KI zur automatisierten Bewertung von Prüfungen.

Beschäftigung und Personalmanagement: Tools für die Bewerberauswahl, automatische Filterung von Lebensläufen sowie Systeme zur Leistungsüberwachung am Arbeitsplatz. Zugang zu wesentlichen Dienstleistungen: KI zur Bewertung der Kreditwürdigkeit von Personen oder zur Risikoeinstufing bei Lebens- und Krankenversicherungen. Strafverfolgung: Systeme zur Bewertung der Zuverlässigkeit von Beweismitteln oder zur individuellen Risikobeurteilung von Straftaten durch Polizeibehörden. Migration, Asyl und Grenzkontrolle: KI-gestützte Sicherheitsrisikobewertungen bei Grenzübertritten oder automatisierte Prüfungen von Visa- und Asylanträgen. Rechtspflege und demokratische Prozesse: KI zur Unterstützung von Justizbehörden bei der Recherche von Fakten und Gesetzestexten sowie Systeme zur Beeinflussung von Wahlen.

Aber hier gibt es einen Haken. Nicht jedes winzige Tool in diesen Branchen zieht sofort die volle Härte der Regulierung nach sich. Wenn ein System lediglich rein vorbereitende Aufgaben übernimmt oder die Ergebnisse menschlicher Arbeit optimiert, ohne die finale Entscheidung maßgeblich zu beeinflussen, greift eine wichtige Ausnahme. Wer diese Nuance übersieht, verbrennt monatelang unnötig Budget.

Sicherheitskomponenten in Produkten (Anhang I)

Neben den eigenständigen Softwarelösungen aus Anhang III gibt es eine zweite große Gruppe von hochrisiko ki-systeme anforderungen. Hierbei handelt es sich um KI, die als Sicherheitsbauteil in Produkten verbaut ist, die bereits unter bestehende EU-Harmonisierungsregeln fallen.

Zu dieser Kategorie zählen unter anderem: 1. Medizinprodukte und In-vitro-Diagnostika 2. Kraftfahrzeuge und zivile Luftfahrt 3. Spielzeuge und Aufzüge 4. Druckgeräte und Funkanlagen

Diese Produkte müssen ohnehin eine Konformitätsbewertung durch unbefangene Dritte durchlaufen, bevor sie auf den Markt dürfen. Wenn die darin integrierte KI-Steuerung fehlschlägt, drohen direkte körperliche Schäden. Die physische Sicherheit steht hier im Vordergrund.

Verbotene KI vs. Hochrisiko-KI: Wo verläuft die Grenze?

Die genaue Abgrenzung zwischen verbotenen Praktiken und erlaubten Hochrisiko-Systemen wirft bei Entwicklern immer wieder massive Fragen auf. Während Hochrisiko-KI unter strengen Auflagen erlaubt ist, sind Systeme der unannehmbaren Risikostufe in der Europäischen Union komplett illegal.

Ein Blick auf die Details zeigt, wie schmal der Grat ist. Nehmen wir die Emotionserkennung. Setzen Sie diese Technologie ein, um Müdigkeit bei Lkw-Fahrern im Cockpit zu erkennen, agiert die KI als zulässige Sicherheitskomponente. Installieren Sie exakt dieselbe Emotionserkennung am Arbeitsplatz, um die Laune Ihrer Mitarbeiter im Büro zu überwachen, ist das System ohne Wenn und Aber verboten. Die Absicht hinter der Technologie entscheidet über was gilt als hochrisiko ki.

Vergleich der Risikoklassen: Verboten vs. Hochrisiko

Verbotene KI-Systeme

• Extrem eng gefasste strafverfolgende Szenarien bei schwerer Kriminalität
• Social Scoring, biometrische Echtzeit-Überwachung im öffentlichen Raum, Verhaltensmanipulation
• Absolut unzulässig innerhalb der EU; ein Inverkehrbringen führt zu drastischen Strafen

Hochrisiko-KI-Systeme

• Systeme ohne maßgeblichen Einfluss auf menschliche Entscheidungen
• KI-gestützte Kreditprüfung, automatisierte CV-Filter für HR, Steuerung von Stromnetzen
• Grundsätzlich erlaubt, erfordert jedoch eine lückenlose Erfüllung strenger Auflagen

Compliance-Irrlauf eines HR-SaaS-Startups

Ein Software-Startup aus Berlin entwickelte im Jahr 2026 eine KI-gestützte Plattform zur automatischen Vorsortierung von Video-Bewerbungen für mittelständische Unternehmen. Die Gründer waren euphorisch, ignorierten jedoch zunächst die rechtlichen Rahmenbedingungen des AI Acts völlig.

Ihr erster fataler Fehler: Sie bauten ohne tiefere Prüfung ein Modul zur Analyse von Gesichtsausdrücken ein, um die Stressresistenz der Kandidaten im Video zu messen. Das Ergebnis nach dem ersten Beta-Test war verheerend. Kunden warnten das Startup, dass ein solches System am Arbeitsplatz illegal sein könnte, und die ersten Investoren drohten abzuspringen.

Inmitten dieser Panik folgte die harte Erkenntnis: Emotionserkennung im HR-Kontext ist verboten, während die reine Lebenslauf-Analyse als Hochrisiko-KI gilt. Das Team musste das Gesichtsanalyse-Modul komplett einstampfen und verbrachte vier frustrierende Wochen mit der Neugestaltung der Software-Architektur.

Nach dem radikalen Schwenk implementierte das Startup stattdessen eine transparente CV-Vorauswahl mit umfassenden Protokollierungsfunktionen und menschlicher Endkontrolle. Dadurch erfüllten sie die Hochrisiko-Auflagen plangemäß, retteten die Finanzierungsrunde und gewannen innerhalb weniger Monate die ersten zahlenden Firmenkunden.

Die bereitgestellten Inhalte dienen ausschließlich zu Informations- und Bildungszwecken und stellen keine rechtsverbindliche Beratung dar. Die rechtliche Einstufung von KI-Systemen unterliegt einer komplexen Einzelfallprüfung. Konsultieren Sie einen spezialisierten Rechtsanwalt oder Compliance-Experten, bevor Sie KI-Anwendungen entwickeln oder auf dem europäischen Markt in Verkehr bringen.