Geltung der KI-Verordnung ab dem 2. Februar 2025

Die europäische Verordnung 2024/1689 vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz („KI-VO“) ist im vergangenen Jahr in Kraft getreten. Sie wird stufenweise Geltung entfalten. Bereits ab dem 2. Februar 2025 gelten Kapitel I und II der KI-VO und somit insbesondere das Verbot bestimmter Praktiken im Bereich künstlicher Intelligenz sowie die Verpflichtung von Anbietern und Betreibern von Systemen künstlicher Intelligenz, ihren Nutzern ein ausreichendes Maß an sog. „KI-Kompetenz“ zu vermitteln. Was dies bedeutet und welche Maßnahmen bis zum 2. Februar 2025 zu ergreifen sind, erklären Kathrin Vossen, Dr. Axel Grätz und Annabelle Marceau. 

1. Hintergrund 

Die KI-VO ist am 1. August 2024 in Kraft getreten und sieht ein gestaffeltes Wirksamwerden ihrer Bestimmungen vor (Artikel 113 KI-VO). Die erste Stufe wird am 2. Februar 2025 erreicht. Ab diesem Zeitpunkt gelten Kapitel I und II der Verordnung verbindlich:

(a) Kapitel I bestimmt Zweck und Anwendungsbereich der KI-VO. Das KI-System als zentraler Regelungsgegenstand ist in Artikel 3 Nr. 1 KI-VO definiert. Jedes KI-System ist nach dem Grundgedanken der KI-VO einer Risikoklasse zuzuordnen. Die Risikoklasse bestimmt Inhalt und Ausmaß der konkreten Pflichten für Anbieter und Betreiber von KI-Systemen. Art. 4 KI-VO verpflichtet Anbieter und Betreiber von KI-Systemen sämtlicher Risikoklassen zur Herstellung von KI-Kompetenz.

(b) Kapitel II beinhaltet in seinem einzigen Artikel 5 das Verbot bestimmter KI-Praktiken, von denen eine eindeutige Bedrohung ausgeht, weil sie z. B. täuschen oder bestimmte Merkmale von Personen gezielt zur Manipulation ausnutzen. 

2. Verpflichtung zur Verschaffung eines ausreichenden Maßes an KI-Kompetenz, Artikel 4 KI-VO

2.1 Begriff der KI-Kompetenz 

Nach Artikel 4 KI-VO haben Anbieter und Betreiber von KI-Systemen Maßnahmen zu ergreifen, mit denen ein ausreichendes Maß an KI-Kompetenz bei den Personen sichergestellt werden soll, die – etwa im Rahmen eines Arbeitsverhältnisses - in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Die Verordnung stellt klar, dass es sich bei „KI-Kompetenz“ um die Fähigkeiten, die Kenntnisse und das Verständnis handelt, die es Anbietern, Betreibern und Betroffenen ermöglichen, KI-Systeme sachkundig einzusetzen und ein Bewusstsein über Chancen, Risiken und mögliche Schäden durch KI zu entwickeln (vgl. Artikel 3 Nr. 56 KI-VO). 

2.2 Inhalte und Umfang der KI-Kompetenz 

Ziel der KI-Kompetenz sind Fähigkeiten im Umgang mit KI, Kenntnisse über die Technologie und Verständnis für den jeweiligen Anwendungsfall. Klärungsbedürftig ist angesichts der Komplexität von KI insbesondere, wie weitreichend die technischen Kenntnisse des Personals sein müssen.

Sinn und Zweck der Vorschrift ist die Sicherstellung eines angemessenen Schutzniveaus für Gesundheit und Sicherheit des Betroffenen vom Einsatz eines KI-Systems. Artikel 4 KI-VO hat primär eine risikominimierende Funktion. Demgemäß müssen die Inhalte der Wissensvermittlung (i) an die Adressaten, (ii) deren Rolle beim Einsatz eines KI-Systems und (iii) den konkreten Anwendungsfall des KI-Systems angepasst werden (vgl. ErwG 20 S. 2 KI-VO). Die Entwickler eines speziell für das eigene Unternehmen programmierten Hochrisiko-KI-Systems müssen daher beispielsweise tiefgehender und umfassender geschult werden, als die Anwender einer zugekauften, standardisierten KI mit geringem Risiko. 

Gleichzeitig ist auch das individuelle Unternehmen in die Bewertung einzubeziehen: Ein Startup wird in die Vermittlung der KI-Kompetenz nicht die Ressourcen eines Weltkonzerns investieren können. 

2.3 Maßnahmen zur Verschaffung der KI-Kompetenz 

Anbieter und Betreiber stehen nun vor der Herausforderung, geeignete Maßnahmen zur Verschaffung der KI-Kompetenz zu ergreifen. Sie können dabei auf bekannte Compliance-Werkzeuge zurückgreifen:

(a) Interne Richtlinien und Standards: Unternehmensinterne, für alle Beschäftigten verpflichtende Richtlinien zum Einsatz von KI-Systemen unterstützen die Schaffung und den Erhalt eines ausreichenden Kompetenzniveaus. Eine Unternehmenskultur beim Umgang mit KI entwickelt sich schließlich durch einheitliche Standards, die fortlaufend kontrolliert und gefestigt werden. 

(b) Fortbildung und Schulung: Technik und deren Weiterentwicklung sind dynamisch. Die hieran anknüpfende Kompetenzverschaffung ist ebenfalls ein dynamischer Prozess. Beginnend mit grundlegenden Schulungen stellen Fortbildungen über die KI-Systeme eine nachhaltige KI-Kompetenz des Personals sicher.

(c) Zertifizierungen: Dienstleister bieten zunehmend KI-Workshops mit Zertifizierungsnachweisen an. Künftig können Zertifikate von renommierten Instituten als Nachweis für die KI-Kompetenz der Mitarbeiter dienen.

(d) Betriebsinterne Anlaufstellen: Die vertikale Wissensvermittlung kann durch zentrale Anlaufstellen im Unternehmen unterstützt werden, z. B. durch Benennung von betriebsinternen KI-Beauftragten.

(e) Freiwillige Verhaltenskodizes: Künftig sollen zudem freiwillige Verhaltenskodizes veröffentlicht werden, um die KI-Kompetenz von Personen zu fördern, die mit der Entwicklung, dem Betrieb und der Verwendung von KI befasst sind (vgl. ErwG 20 S. 5 KI-VO). 

3. Verbot bestimmter Praktiken im KI-Bereich, Artikel 5 KI-VO 

Darüber hinaus sind ab dem 2. Februar 2025 bestimmte Praktiken im KI-Bereich verboten. Hierunter fallen beispielsweise KI-Systeme mit manipulativen und täuschenden Techniken, Social Scoring und Systeme zur Emotionserkennung.

Auch wenn die meisten Verantwortlichen die Nutzung derartiger Praktiken in ihren Unternehmen verneinen dürften, ist ein kritischer Blick auf die bereits eingesetzten KI-Systeme ratsam. KI-Anwendungen können beispielsweise schon heute nach der Stimmung einzelner Teilnehmer eines Online-Meetings befragt werden, um etwa Aufregung, Ärger, Belustigung oder Traurigkeit aufzuspüren. Allein wenn der Einsatz dieser KI-Systeme aus medizinischen Gründen erfolgen soll, etwa zu therapeutischen Zwecken, oder aus Sicherheitsgründen, etwa um Müdigkeit bei der Führung von Verkehrsmitteln zu erkennen, kann diese Praktik zulässig sein.

4. Konkreter Handlungsbedarf

Da der 2. Februar 2025 naht, besteht konkreter Handlungsbedarf. Insoweit empfehlen wir, die nachstehenden Maßnahmen umgehend zu ergreifen:

• Prüfung bereits eingesetzter oder geplanter KI-Systeme im Hinblick auf verbotene Praktiken nach Artikel 5 KI-VO;
• Beschäftigte und sonstige Dritte, die mit KI-Systemen im Unternehmen in Berührung kommen, ermitteln und je nach Kenntnisstand in Gruppen einteilen, um den konkreten Schulungsbedarf zu identifizieren;
• Schulungsplan (inkl. notwendiger Folgeschulungen) aufsetzen;
• Implementierung eines Verhaltenskodex im Umgang mit KI;
• Benennung von KI-Beauftragten zur koordinierten Steuerung aller notwendigen KI-Maßnahmen;
• Berücksichtigung etwaiger Mitbestimmungsrechte von Betriebsräten. 

Insbesondere die Verpflichtung zur Verschaffung eines ausreichenden Maßes an KI-Kompetenz dürfte stark von den jeweiligen Gegebenheiten in der konkreten Organisation abhängen.

Wir unterstützen Sie gerne bei der Umsetzung der Vorgaben der KI-VO in Ihrem Unternehmen!

Zurück zur Übersicht