Wissen
KI-Hochrisiko erkennen, ohne vorschnell zu klassifizieren
Diese Wissensseite erklärt, wann KI-Einsatzfälle nach der EU-KI-Verordnung besonders sensibel werden können. Sie trennt verbotene Praktiken, Hochrisiko-Indizien, Transparenzpflichten, GPAI-Hinweise und Betreiberpflichten. Sie ist keine Rechtsklassifizierung und kein Bericht.
Einordnung
Die Reihenfolge ist entscheidend
Die Hochrisiko-Frage beginnt nicht mit einer langen Pflichtenliste und nicht mit dem Namen eines Tools. Zuerst wird der konkrete Einsatzfall beschrieben. Danach lassen sich Verbote, Rolle, Produktpfad, Anhang III, Ausnahmen und zusätzliche Pflichtpfade getrennt einordnen.
01Konkretes System benennenWelches KI-System oder Vorhaben wird wirklich geprüft?
Hochrisiko hängt am konkreten Zweck, am Einsatzkontext und an der Rolle, nicht am Toolnamen.
02Verbotene Praktiken ausschließenGibt es Manipulation, Social Scoring, verbotene Biometrie, Emotionserkennung in Arbeit/Bildung oder nicht einvernehmliche intime beziehungsweise missbrauchsbezogene KI-Inhalte?
Art. 5 ist ein früher Stopp-Punkt. Die mit Regulation (EU) 2026/1744 ergänzten Inhaltsverbote gelten ab 02.12.2026.
03Rolle klärenBin ich Anbieter, Betreiber, Importeur, Händler oder ändere ich Zweck/Funktion wesentlich?
Ein Deployer oder Dritter kann bei Rebranding, wesentlicher Änderung oder Zweckänderung selbst in Anbieterpflichten rutschen.
04Produktpfad prüfenIst KI Sicherheitskomponente oder Bestandteil eines regulierten Produkts?
Produktintegration kann über Anhang I und Dritt-Konformitätsbewertung einen eigenen Hochrisiko-Pfad auslösen.
05Anhang-III-Feld prüfenLiegt der konkrete Zweck in einem der sensiblen Anwendungsfelder?
Anhang III ist kein Branchenetikett. Entscheidend ist der gelistete Use Case im konkreten Vorgang.
06Ausnahme und Dokumentation prüfenGreift eine eng begrenzte Ausnahme oder muss Nicht-Hochrisiko dokumentiert werden?
Die Ausnahme nach Art. 6 Abs. 3 ist eng. Profiling und wesentliche Einflussnahme bleiben besonders kritisch.
07Folgepflichten trennenGreifen Transparenzpflichten, Betreiberpflichten, FRIA oder GPAI-Hinweise zusätzlich?
Nicht alles ist Hochrisiko, aber mehrere Pflichtpfade können parallel entstehen.
Anhang III
Acht sensible Einsatzfelder
Anhang III ist kein Branchenetikett. Entscheidend ist, ob der konkrete Zweck in einem sensiblen Feld wirkt und ob das KI-System dort eine relevante Funktion übernimmt.
Tabelle seitlich scrollen
| Feld | Beispiele | Erstes Signal | Enger Use Case |
|---|---|---|---|
| Biometrie | Remote-Identifizierung, sensible Kategorisierung, Emotionserkennung, soweit nicht verboten. | Kamera, Gesicht, Stimme, Verhalten oder biometrische Merkmale werden bewertet. | Identifikation, Kategorisierung oder Emotionserkennung ist Zweck des Systems, nicht nur Nebenfunktion. |
| Kritische Infrastruktur | Sicherheitskomponenten in digitaler Infrastruktur, Verkehr, Wasser, Gas, Wärme oder Strom. | Fehler kann Sicherheit, Gesundheit oder Grundversorgung berühren. | KI wirkt auf Management oder Betrieb der Infrastruktur als sicherheitsrelevante Komponente. |
| Bildung und Berufsbildung | Zugang, Zulassung, Lernbewertung, Bildungsniveau, Prüfungsüberwachung. | KI beeinflusst Bildungszugang, Ergebnis, Bewertung oder Lernpfad. | KI bewertet, steuert oder überwacht Lern- oder Prüfungsentscheidungen natürlicher Personen. |
| Beschäftigung und Personal | Stellenanzeigen, Bewerberfilterung, Kandidatenbewertung, Arbeitszuweisung, Beförderung, Kündigung, Leistungsüberwachung. | KI wirkt auf Jobzugang, Personalauswahl, Leistung oder Arbeitsbedingungen. | KI beeinflusst konkrete arbeitsbezogene Entscheidungen, nicht nur allgemeine Textassistenz. |
| Wesentliche Dienste | Öffentliche Leistungen, Gesundheitsleistungen, Kreditwürdigkeit, Kredit-Score, Lebens- und Krankenversicherung, Notruf-Priorisierung. | KI beeinflusst Zugang, Preis, Risiko oder Anspruch natürlicher Personen. | KI bewertet Anspruch, Zugang, Kosten, Risiko oder Priorisierung bei wesentlichen Leistungen. |
| Strafverfolgung | Risikobewertung, Beweisanalyse, Opfer- oder Tatverdächtigenbezug, soweit nicht verboten. | KI wird in staatlicher Eingriffs- oder Ermittlungslogik genutzt. | KI unterstützt Bewertung, Analyse oder Priorisierung mit strafverfolgungsbezogener Wirkung. |
| Migration, Asyl, Grenzkontrolle | Antragsprüfung, Risikoanalyse, Dokumentenprüfung, Grenz- und Aufenthaltsentscheidungen. | KI wirkt auf Einreise, Aufenthalt, Schutzstatus oder Grenzverfahren. | KI unterstützt Entscheidung, Prüfung oder Risikobewertung im Migrations-, Asyl- oder Grenzkontext. |
| Justiz und demokratische Prozesse | Rechtsanwendung, Tatsachenbewertung, Streitbeilegung, Wahl- oder Abstimmungsbeeinflussung. | KI unterstützt Entscheidungen mit institutioneller oder demokratischer Wirkung. | KI beeinflusst Rechtsfindung, gerichtliche Arbeit oder demokratische Entscheidungsprozesse. |
Rollen
Pflichten hängen an der Rolle
Für kleine Teams ist besonders wichtig: Wer ein Hochrisiko-System nur nutzt, hat andere Pflichten als ein Anbieter. Wer Zweck, Funktion oder Integration wesentlich ändert, kann trotzdem in einen Anbieterpfad rutschen.
| Rolle | Fokus | Pflichten | Nachweis |
|---|---|---|---|
| Anbieter | System vor Inverkehrbringen oder Inbetriebnahme konform machen. | Risikomanagement, Daten-Governance, technische Dokumentation, Logging, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersicherheit, Qualitätsmanagement, Konformitätsbewertung. | Technische Akte, QMS, Konformitätsbewertung, Registrierung, Monitoring und Incident-Prozess. |
| Betreiber / Deployer | System nach Anleitung nutzen und Betrieb überwachen. | Nutzungsanweisung einhalten, menschliche Aufsicht organisieren, Inputdaten passend halten, Monitoring, Logs, Risikomeldung, Beschäftigte und Betroffene informieren, wo einschlägig. | Freigabe, Nutzungsanweisung, Aufsichtsrolle, Monitoring, Log-Aufbewahrung, Information und Eskalation. |
| Deployer mit FRIA-Kontext | FRIA nur für bestimmte Art.-6(2)-Hochrisiko-Systeme und bestimmte Deployer prüfen. | FRIA vor erster Nutzung prüfen bei öffentlichen Stellen, privaten Stellen mit öffentlichen Diensten und bestimmten wesentlichen-Dienste-Fällen. Eine vorhandene DSFA kann Grundlage sein, ersetzt die FRIA aber nicht automatisch. | Art.-6(2)-Bezug, Deployer-Typ, betroffene Gruppen, Risiken, menschliche Aufsicht, Mitigation, vorhandene DSFA und Aktualisierungspfad. |
| Unternehmen mit Arbeitsplatzbezug | Beschäftigte und Vertretungen vorher informieren, wenn Hochrisiko-Systeme am Arbeitsplatz eingesetzt werden. | Vorabinformation bei Hochrisiko-Systemen am Arbeitsplatz, zusätzlich zu bestehenden Mitbestimmungs- oder Konsultationspflichten. | Informationsnachweis, Betriebsrats-/Vertretungsprüfung, Richtlinie und Freigabevermerk. |
| Transparenzpflichten | Nicht-Hochrisiko kann trotzdem Transparenzpflichten auslösen. | KI-Interaktion kenntlich machen, synthetische Inhalte markieren, Deepfakes offenlegen, Emotionserkennung oder biometrische Kategorisierung betroffenen Personen mitteilen, soweit einschlägig. | Nutzerhinweis, Content-Kennzeichnung, Disclosure-Text, Systemgrenze, Ausnahmedokumentation. |
Signale
Erste Einordnung, kein Rechtsurteil
Die Signale zeigen, welche Richtung fachlich naheliegt. Sie dürfen nicht als finale Hochrisiko-Klassifizierung oder Compliance-Zusage gelesen werden.
Grün
Kein Hochrisiko-Indiz erkennbar
Nach den vorliegenden Angaben ist kein Anhang-I-/III-Treffer erkennbar. Transparenz, Datenschutz und normale KI-Governance bleiben getrennt zu prüfen.
Gelb
Nachklärung erforderlich
Scope, Rolle, Ausnahme, Transparenz, GPAI, FRIA oder Arbeitsplatzbezug sind offen. Keine pauschale Freigabe.
Rot
Verbots- oder Hochrisiko-Indiz
Art.-5-Indiz, Anhang-I-/III-Pfad, Profiling-Sonderfall oder Anbieter-/GPAI-Pfad braucht gesonderte Fachprüfung.
Zeitstand
Aktuelle Anwendungstermine
Die Termine bilden den seit 27.07.2026 geltenden Stand nach Regulation (EU) 2026/1744 ab. Hochrisiko-Leitlinien im Entwurfsstand dienen nur als Orientierung; vor einer konkreten Einstufung bleibt die Prüfung des Einzelfalls erforderlich.
27.07.2026
Regulation (EU) 2026/1744 ist in Kraft und aktualisiert Art. 4, Art. 5 sowie Hochrisiko-Anwendungstermine.
geltendes Recht
Aenderungsverordnung
02.08.2026
Die Transparenzpflichten nach Art. 50 werden anwendbar; einschlaegige Interaktions-, Inhalts- und Kennzeichnungspfade muessen geprueft sein.
anwendbar
Gesetz und finale Kommissionsleitlinien
02.12.2026
Die neuen Verbote in Art. 5 Abs. 1 Buchst. ba und bb gelten; fuer bestimmte vor dem 02.08.2026 in Verkehr gebrachte Systeme endet zudem die Art.-50-Uebergangsfrist.
verbindlicher Folgetermin
Aenderungsverordnung
02.12.2027
Die Hochrisiko-Anforderungen fuer Systeme nach Anhang III werden nach aktuellem Rechtsstand anwendbar.
verbindlicher Folgetermin
Aenderungsverordnung
02.08.2028
Die Hochrisiko-Anforderungen fuer produktbezogene Systeme nach Anhang I werden nach aktuellem Rechtsstand anwendbar.
verbindlicher Folgetermin
Aenderungsverordnung
Nutzen
Was diese Seite leisten soll
Erkennen
Liegt überhaupt ein Hochrisiko-Prüfpfad nahe?
Trennen
Verbot, Hochrisiko, Transparenz, GPAI, FRIA und DSGVO nicht vermischen.
Weitergeben
Bei roten oder gelben Signalen gesonderte Fachprüfung mit Nachweisen vorbereiten.
Anschluss
Vom Überblick in die Prüfung
Diese Seite ordnet Signale und Anwendungstermine. Der KI-Check ist der geführte Check zum konkreten KI-Einsatz und liefert als Grundlage eine druckbare Übersicht.
Quellen
Belegbasis und Grenze
Diese Wissensseite ersetzt keine Rechtsberatung, keine finale Klassifizierung und keine vollständige Anbieter- oder Systemprüfung. Quellenstand: 29.07.2026. Verbindliche Normen, Kommissionsleitlinien, Entwürfe und interne Einordnung sind getrennt markiert.