Auswege aus dem Anwendungsbereich der Hochrisiko-KI-Systeme (Teil II)

Der AI-Act beinhaltet für Anbieter von Hochrisiko-KI-Systemen ein umfangreiches Regelungsprogramm. Anbieter von KI-Systemen sind daher gut beraten, Auswege aus dem Anwendungsbereich der Hochrisiko-KI-Systeme zu begehen.

Gemäß der in Art. 6 Abs. 3 AI-Act kodifizierten Ausnahmeregelung sind KI-Systeme, die nach Art. 6 Abs. 1 AI-Act grundsätzlich als Hochrisiko-KI-Systeme einzuordnen wären, nach bestimmten Kriterien von dieser Einstufung ausgenommen.

Hier berichten wir über einen ersten möglichen Ausweg aus dem entsprechenden Anwendungsbereich.

Einen weiteren Ausweg aus dem Anwendungsbereich der Hochrisiko-KI-Systeme eröffnet Art. 25 Abs. 1 AI-Act den Anbietern für in Verkehr gebrachte bzw. in Betrieb genommene KI-Systeme:

Ausweg 2: Der Anbieterwechsel, Art. 25 Abs. 1 AI-Act

Nach Art. 25 Abs. 1 AI-Act wird ein Anbieter im Hinblick auf ein konkretes, seinerseits hergestelltes KI-System von seinen Anbieterpflichten entbunden und der Betreiber, Händler oder Importeuer gilt fortan als Anbieter dieses Systems mit der Rechtsfolge, dass er die Pflichten aus Art. 16 AI-Act übernimmt. Der ehemalige Anbieter muss nur kooperieren, indem er dem Betreiber, Händler oder Importeur benötigte Informationen und vernünftigerweise zu erwartenden technischen Zugang bereitstellt oder anderweitig unterstützt, damit diese die Verpflichtungen für Hochrisiko-KI-Systeme erfüllen können, Art. 25 Abs. 2 AI-Act.

Im Übrigen wird er von seinen Pflichten aus Art. 16 AI-Act befreit. Das Sanktionsrisiko des ehemaligen Anbieters sinkt damit drastisch, denn Verstöße gegen die Kooperationspflicht aus Art. 25 AI-Act sind im Gegensatz zu Verstößen gegen die Pflichten aus Art. 16 AI-Act nicht bußgeldbewehrt (vgl. Art. 99 AI-Act).

Der Anbieterwechsel nach Art. 25 Abs. 1 AI-Act betrifft folgende Konstellationen:

(i) lit. a: Ein Betreiber, Händler oder Importeur bringt nachträglich seinen Namen oder seine Handelsmarke auf ein Hochrisiko-KI-System an.

Anbieter ist nach Art. 3 Nr. 3 AI-Act derjenige, der ein KI-System unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt. So kann ein Anbieter von white label KI-Systemen die unmittelbare Inanspruchnahme als Anbieter vermeiden (wenngleich die Kooperationspflichten bleiben).

(ii) lit. b: Ein Betreiber, Händler oder Importeur nimmt eine wesentliche Änderung an einem Hochrisiko-KI-System vor.

Der Anbieterwechsel tritt nach Art. 25 Abs. 1 lit. b AI-Act ein, wenn an einem Hochrisiko-KI-System wesentliche Änderungen vorgenommen werden, ohne dass durch die Änderung die Einstufung als Hochrisiko-KI-System entfällt. Dabei handelt es sich insbesondere um Änderungen des in der Gebrauchsanweisung des Anbieters ausgewiesenen Verwendungszwecks oder des Einsatzbereichs des KI-Systems im Sinne von Anhang III zum AI-Act.

Änderung am Algorithmus oder solche, die durch das „Weiterlernen“ eines Systems im Betrieb eintreten, gelten dagegen nicht als wesentliche Änderungen, wenn sie vorab vom Anbieter in der im Rahmen der Konformitätsbewertung zu erstellenden technischen Dokumentation nach Anhang IV Nr. 2 lit. f AI-Act festgelegt wurden.

Die Kommission wird künftig Leitlinien veröffentlichen, in denen Konstellationen der wesentlichen Änderungen konkretisiert werden. Anbieter können also durch enge Formulierungen in der Gebrauchsanweisung oder der Konformitätsbewertung die Risiken der eigenen Anbieterstellung begrenzen.

(iii) lit. c: Ein Betreiber, Händler oder Importeur verändert den Verwendungszweck eines KI-Systems oder eines GPAI-Models derart, dass dieses System erst durch diese ein Hochrisiko-KI-System wird.

Art. 25 Abs. 1 lit. c AI-Act legt die Anbieterpflichten demjenigen auf, der für die nachträgliche Einstufung des KI-Systems als Hochrisiko-KI-System verantwortlich ist.

Art. 25 Abs. 2 AI-Act enthält für diese Konstellation hinsichtlich der Unterstützungspflichten des ursprünglichen Anbieters eine Ausnahme. Der ehemalige Anbieter ist nicht zur Unterstützung verpflichtet, sofern er die Umwandlung des Systems in ein Hochrisiko-KI-System vertraglich ausdrücklich ausgeschlossen hat. Der Anbieter eines KI-Systems, das nicht als Hochrisiko-KI-System eingestuft wurde, kann dadurch vermeiden, dass er plötzlich geheimhaltungsbedürftige Informationen über das System gegenüber dem Betreiber, Händler oder Importeur offenlegen muss.

Art. 25 AI-Act stellt eine interessante Regelung dar, die Anbieter in bestimmten Fällen von ihren Anbieterpflichten entbindet. Besonders bedeutend wird sein, wie die Anforderungen an eine wesentliche Änderung künftig auszulegen sein werden.

Zurück zur Übersicht