Wissen
KI-Hochrisiko erkennen, ohne vorschnell zu klassifizieren
Diese Wissensseite erklärt, wann KI-Einsatzfälle nach der EU-KI-Verordnung besonders sensibel werden können. Sie trennt verbotene Praktiken, Hochrisiko-Indizien, Transparenzpflichten, GPAI-Hinweise und Betreiberpflichten. Sie ist keine Rechtsklassifizierung und kein Bericht.
Einordnung
Die Reihenfolge ist entscheidend
Die Hochrisiko-Frage beginnt nicht mit einer langen Pflichtenliste und nicht mit dem Namen eines Tools. Zuerst wird der konkrete Einsatzfall beschrieben. Danach lassen sich Verbote, Rolle, Produktpfad, Anhang III, Ausnahmen und zusätzliche Pflichtpfade getrennt einordnen.
01Konkretes System benennenWelches KI-System oder Vorhaben wird wirklich geprüft?
Hochrisiko hängt am konkreten Zweck, am Einsatzkontext und an der Rolle, nicht am Toolnamen.
02Verbotene Praktiken ausschließenGibt es Manipulation, Social Scoring, verbotene Biometrie oder Emotionserkennung in Arbeit/Bildung?
Art. 5 ist ein früher Stopp-Punkt vor jeder normalen Hochrisiko-Einordnung.
03Rolle klärenBin ich Anbieter, Betreiber, Importeur, Händler oder ändere ich Zweck/Funktion wesentlich?
Ein Deployer oder Dritter kann bei Rebranding, wesentlicher Änderung oder Zweckänderung selbst in Anbieterpflichten rutschen.
04Produktpfad prüfenIst KI Sicherheitskomponente oder Bestandteil eines regulierten Produkts?
Produktintegration kann über Anhang I und Dritt-Konformitätsbewertung einen eigenen Hochrisiko-Pfad auslösen.
05Anhang-III-Feld prüfenLiegt der konkrete Zweck in einem der sensiblen Anwendungsfelder?
Anhang III ist kein Branchenetikett. Entscheidend ist der gelistete Use Case im konkreten Vorgang.
06Ausnahme und Dokumentation prüfenGreift eine eng begrenzte Ausnahme oder muss Nicht-Hochrisiko dokumentiert werden?
Die Ausnahme nach Art. 6 Abs. 3 ist eng. Profiling und wesentliche Einflussnahme bleiben besonders kritisch.
07Folgepflichten trennenGreifen Transparenzpflichten, Betreiberpflichten, FRIA oder GPAI-Hinweise zusätzlich?
Nicht alles ist Hochrisiko, aber mehrere Pflichtpfade können parallel entstehen.
Anhang III
Acht sensible Einsatzfelder
Anhang III ist kein Branchenetikett. Entscheidend ist, ob der konkrete Zweck in einem sensiblen Feld wirkt und ob das KI-System dort eine relevante Funktion übernimmt.
Tabelle seitlich scrollen
| Feld | Beispiele | Erstes Signal | Enger Use Case |
|---|---|---|---|
| Biometrie | Remote-Identifizierung, sensible Kategorisierung, Emotionserkennung, soweit nicht verboten. | Kamera, Gesicht, Stimme, Verhalten oder biometrische Merkmale werden bewertet. | Identifikation, Kategorisierung oder Emotionserkennung ist Zweck des Systems, nicht nur Nebenfunktion. |
| Kritische Infrastruktur | Sicherheitskomponenten in digitaler Infrastruktur, Verkehr, Wasser, Gas, Wärme oder Strom. | Fehler kann Sicherheit, Gesundheit oder Grundversorgung berühren. | KI wirkt auf Management oder Betrieb der Infrastruktur als sicherheitsrelevante Komponente. |
| Bildung und Berufsbildung | Zugang, Zulassung, Lernbewertung, Bildungsniveau, Prüfungsüberwachung. | KI beeinflusst Bildungszugang, Ergebnis, Bewertung oder Lernpfad. | KI bewertet, steuert oder überwacht Lern- oder Prüfungsentscheidungen natürlicher Personen. |
| Beschäftigung und Personal | Stellenanzeigen, Bewerberfilterung, Kandidatenbewertung, Arbeitszuweisung, Beförderung, Kündigung, Leistungsüberwachung. | KI wirkt auf Jobzugang, Personalauswahl, Leistung oder Arbeitsbedingungen. | KI beeinflusst konkrete arbeitsbezogene Entscheidungen, nicht nur allgemeine Textassistenz. |
| Wesentliche Dienste | Öffentliche Leistungen, Gesundheitsleistungen, Kreditwürdigkeit, Kredit-Score, Lebens- und Krankenversicherung, Notruf-Priorisierung. | KI beeinflusst Zugang, Preis, Risiko oder Anspruch natürlicher Personen. | KI bewertet Anspruch, Zugang, Kosten, Risiko oder Priorisierung bei wesentlichen Leistungen. |
| Strafverfolgung | Risikobewertung, Beweisanalyse, Opfer- oder Tatverdächtigenbezug, soweit nicht verboten. | KI wird in staatlicher Eingriffs- oder Ermittlungslogik genutzt. | KI unterstützt Bewertung, Analyse oder Priorisierung mit strafverfolgungsbezogener Wirkung. |
| Migration, Asyl, Grenzkontrolle | Antragsprüfung, Risikoanalyse, Dokumentenprüfung, Grenz- und Aufenthaltsentscheidungen. | KI wirkt auf Einreise, Aufenthalt, Schutzstatus oder Grenzverfahren. | KI unterstützt Entscheidung, Prüfung oder Risikobewertung im Migrations-, Asyl- oder Grenzkontext. |
| Justiz und demokratische Prozesse | Rechtsanwendung, Tatsachenbewertung, Streitbeilegung, Wahl- oder Abstimmungsbeeinflussung. | KI unterstützt Entscheidungen mit institutioneller oder demokratischer Wirkung. | KI beeinflusst Rechtsfindung, gerichtliche Arbeit oder demokratische Entscheidungsprozesse. |
Rollen
Pflichten hängen an der Rolle
Für kleine Teams ist besonders wichtig: Wer ein Hochrisiko-System nur nutzt, hat andere Pflichten als ein Anbieter. Wer Zweck, Funktion oder Integration wesentlich ändert, kann trotzdem in einen Anbieterpfad rutschen.
| Rolle | Fokus | Pflichten | Nachweis |
|---|---|---|---|
| Anbieter | System vor Inverkehrbringen oder Inbetriebnahme konform machen. | Risikomanagement, Daten-Governance, technische Dokumentation, Logging, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersicherheit, Qualitätsmanagement, Konformitätsbewertung. | Technische Akte, QMS, Konformitätsbewertung, Registrierung, Monitoring und Incident-Prozess. |
| Betreiber / Deployer | System nach Anleitung nutzen und Betrieb überwachen. | Nutzungsanweisung einhalten, menschliche Aufsicht organisieren, Inputdaten passend halten, Monitoring, Logs, Risikomeldung, Beschäftigte und Betroffene informieren, wo einschlägig. | Freigabe, Nutzungsanweisung, Aufsichtsrolle, Monitoring, Log-Aufbewahrung, Information und Eskalation. |
| Deployer mit FRIA-Kontext | FRIA nur für bestimmte Art.-6(2)-Hochrisiko-Systeme und bestimmte Deployer prüfen. | FRIA vor erster Nutzung prüfen bei öffentlichen Stellen, privaten Stellen mit öffentlichen Diensten und bestimmten wesentlichen-Dienste-Fällen. Eine vorhandene DSFA kann Grundlage sein, ersetzt die FRIA aber nicht automatisch. | Art.-6(2)-Bezug, Deployer-Typ, betroffene Gruppen, Risiken, menschliche Aufsicht, Mitigation, vorhandene DSFA und Aktualisierungspfad. |
| Unternehmen mit Arbeitsplatzbezug | Beschäftigte und Vertretungen vorher informieren, wenn Hochrisiko-Systeme am Arbeitsplatz eingesetzt werden. | Vorabinformation bei Hochrisiko-Systemen am Arbeitsplatz, zusätzlich zu bestehenden Mitbestimmungs- oder Konsultationspflichten. | Informationsnachweis, Betriebsrats-/Vertretungsprüfung, Richtlinie und Freigabevermerk. |
| Transparenzpflichten | Nicht-Hochrisiko kann trotzdem Transparenzpflichten auslösen. | KI-Interaktion kenntlich machen, synthetische Inhalte markieren, Deepfakes offenlegen, Emotionserkennung oder biometrische Kategorisierung betroffenen Personen mitteilen, soweit einschlägig. | Nutzerhinweis, Content-Kennzeichnung, Disclosure-Text, Systemgrenze, Ausnahmedokumentation. |
Signale
Erste Einordnung, kein Rechtsurteil
Die Signale zeigen, welche Richtung fachlich naheliegt. Sie dürfen nicht als finale Hochrisiko-Klassifizierung oder Compliance-Zusage gelesen werden.
Grün
Kein Hochrisiko-Indiz erkennbar
Nach den vorliegenden Angaben ist kein Anhang-I-/III-Treffer erkennbar. Transparenz, Datenschutz und normale KI-Governance bleiben getrennt zu prüfen.
Gelb
Nachklärung erforderlich
Scope, Rolle, Ausnahme, Transparenz, GPAI, FRIA oder Arbeitsplatzbezug sind offen. Keine pauschale Freigabe.
Rot
Verbots- oder Hochrisiko-Indiz
Art.-5-Indiz, Anhang-I-/III-Pfad, Profiling-Sonderfall oder Anbieter-/GPAI-Pfad braucht gesonderte Fachprüfung.
Zeitstand
Fristen vorsichtig lesen
Der offizielle Stand ist in Bewegung. Deshalb stehen auf dieser Seite nur orientierende Zeitpunkte mit Prüfhinweis. Vor konkreten Entscheidungen muss der Stand erneut official-first gegengeprüft werden.
02.02.2025
Verbote, KI-Kompetenz und Definitionen sind bereits anwendbar.
bereits relevant
Gesetz/Anwendungszeitpunkt
02.08.2025
GPAI-Regeln und Governance-Pfade sind anwendbar.
bereits relevant
Gesetz/Anwendungszeitpunkt
02.08.2026
Allgemeiner Anwendungstermin vieler AI-Act-Regeln und Transparenzpflichten; konkrete Übergangs- und Omnibus-Stände prüfen.
reviewpflichtig
Gesetz plus politischer Änderungsstand
19.05.2026
Kommission veröffentlicht Draft Guidelines zur Hochrisiko-Klassifikation für Feedback.
Draft, nicht final
Draft Guidance
Nutzen
Was diese Seite leisten soll
Erkennen
Liegt überhaupt ein Hochrisiko-Prüfpfad nahe?
Trennen
Verbot, Hochrisiko, Transparenz, GPAI, FRIA und DSGVO nicht vermischen.
Weitergeben
Bei roten oder gelben Signalen gesonderte Fachprüfung mit Nachweisen vorbereiten.
Quellen
Belegbasis und Grenze
Diese Wissensseite ersetzt keine Rechtsberatung, keine finale Klassifizierung und keine vollständige Anbieter- oder Systemprüfung. Quellenstand: 2026-05-21. Drafts, interne Einordnung und verbindliche Normen sind getrennt markiert.