IT-Recht und Datenschutz26.02.2024 Newsletter
Auswege aus dem Anwendungsbereich der Hochrisiko-KI-Systeme (Teil I)
Der AI-Act beinhaltet für Hochrisiko-KI-Systeme das mit Abstand umfangreichste Regelungsprogramm und zugleich die meisten von Anbietern und Betreibern dieser Systeme zu erfüllenden Pflichten. Im Vergleich dazu ist das Inverkehrbringen und der Betrieb von KI-Systemen mit geringem oder minimalem Risiko unter deutlich erleichterten Voraussetzungen möglich.
Dies gibt Anlass darüber nachzudenken, wie man dem Anwendungsbereich der strengen Regelungen für Hochrisiko-KI-Systeme entgehen kann. Nachfolgend finden Sie verschiedene Auswege.
Ausweg 1: Das KI-System gilt ausnahmsweise nicht als Hochrisiko-KI
Die neuen Regelungen gelten nicht, wenn das eingesetzte System nicht als Hochrisiko-KI einzustufen ist. Hochrisiko-KI-Systeme im Sinne von Art. 6 AI-Act sind u. a. solche KI-Systeme, die in einem der in Anhang III zum AI-Act aufgelisteten Bereiche eingesetzt werden. Doch hiervon es gibt Ausnahmen: Abweichend von dieser Bestimmung gelten KI-Systeme nicht als KI-System mit hohem Risiko, wenn eines oder mehrere der folgenden Kriterien erfüllt sind (vgl. hierzu Art. 6 Abs. 2a AI-Act und ErwG 32a AI-Act):
(i) lit. a: Das KI-System ist für die Ausübung einer engen verfahrensrechtlichen Aufgabe bestimmt.
Dies soll etwa der Fall sein, wenn das KI-System lediglich Dokumente in Kategorien einordnet oder dazu dient, Duplikate zu erkennen (vgl. ErwG 32a AI-Act). In diesem Fall entsteht allein durch die Verwendung des Systems im von Anhang III aufgeführten Kontext kein erhöhtes Risiko für Betroffene. Das bedeutet, dass man ein KI-System im Personalmanagement unabhängig von dem strengen Pflichtenprogramm für Hochrisiko-KI-Systeme beispielsweise einsetzen kann, um wiederholt und deckungsgleich eingereichte Bewerbungen zu erkennen.
(ii) lit. b: Das KI-System soll das Ergebnis einer zuvor ausgeführten menschlichen Tätigkeit verbessern.
Dieses Kriterium ist beispielsweise erfüllt, wenn das System nur dazu dient, den akademischen Sprachstil in einem Text zu verbessern oder Anpassungen im Text mit Blick auf eine bestimmte Markenbotschaft vorzunehmen (vgl. ErwG 32a AI-Act). Letztlich geht es dabei um Systeme, die den von einem Menschen vorbereiteten Inhalt „feinschleifen“, selbst aber keine inhaltliche Entscheidung beeinflussen.
(iii) lit. c: Das KI-System ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu, die zuvor durchgeführte menschliche Bewertung zu ersetzen oder zu beeinflussen, ohne dass eine ordnungsgemäße menschliche Überprüfung stattfindet.
Die Erwägungsgründe nennen als Beispiel für diese Ausnahme die Prüfung von Abweichungen der Betonungsmuster eines Lehrers, um Anomalien festzustellen (ErwG 32a AI-Act). Denkbar wäre dies etwa im Rahmen der Prüfung der Aussprache einer Fremdsprache. Bei diesem Kriterium ist entscheidend, dass keine menschliche Entscheidung ersetzt oder beeinflusst wird, sondern das System erst auf eine bereits zuvor durchgeführte menschliche Bewertung erfolgt.
(iv) lit. d: Das KI-System soll nur eine vorbereitende Aufgabe für eine Bewertung übernehmen.
Dieses Kriterium erinnert an die datenschutzrechtliche Regelung zum Profiling (Art. 22 DSGVO). Da die Letztentscheidung dem Menschen überlassen ist, besteht für die Betroffenen nur ein geringes Risiko durch den Einsatz des KI-Systems. Dieses Kriterium könnte also ergänzend zu Art. 6 Abs. 2a lit. a AI-Act herangezogen werden, um Bewerbungen im Rahmen des Personalmanagements vorzusortieren.
Insgesamt bietet Art. 6 Abs. 2a lit. a AI-Act für einzelne Anwendungsfälle damit eine deutliche Erleichterung zugunsten der Anbieter und Betreiber von KI-Systemen. Es bleibt abzuwarten, wie großzügig dieser Ausnahmetatbestand künftig ausgelegt werden wird.
