KI-Verordnung: Müssen Unternehmen ihre Beschäftigten schulen?

I. Schulungspflicht gem. Art. 4 KI-VO

Artikel 4 der KI-VO verpflichtet Anbieter und Betreiber von KI-Systemen, sicherzustellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Dies betrifft insbesondere Mitarbeiter, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Ziel ist es, einen sachkundigen Umgang mit KI zu gewährleisten und ein Bewusstsein für Chancen, Risiken und mögliche Schäden zu entwickeln (vgl. Art. 3 Nr. 56 KI-VO).

II. Wer ist von der Schulungspflicht betroffen?

Die Schulungspflicht betrifft – unabhängig von ihrer Größe – alle Unternehmen, die KI-Systeme einsetzen oder betreiben.

Ein „KI-System“ ist „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können (Art. 3 Nr. 1 KI-VO).“ Zur Erleichterung der Anwendung der Definition von „KI-System“ hat die EU-Kommission am 06.02.2025 Leitlinien veröffentlicht.

Zu den typischen KI-Systemen gehören Anwendungen, die große Sprachmodelle wie ChatGPT, Gemini, Claude oder DeepSeek einbinden. Anwendungen im Bereich „Recruiting“ (z. B. automatisierte Bewerberauswahl) und „Mitarbeiterbewertung“ können dabei je nach Aufbau und Einbindung typischer KI-Modelle unter den Anwendungsbereich der KI-Verordnung fallen, sofern sie konkret im betrieblichen Kontext verwendet werden (z. B. zur Kundenkommunikation oder im HR-Bereich).

Die Schulungspflicht trifft alle „Akteure“ in der KI-Verordnung. In der Praxis werden Unternehmen typischerweise entweder als „Anbieter“ oder als „Betreiber“ einzuordnen sein. Diese Kategorisierung hängt davon ab, wo das Unternehmen entlang der KI-Wertschöpfungskette anzusiedeln ist (näheres zur Abgrenzung zwischen Betreiber und Anbieter können Sie in unserem Beitrag „Anbieter oder Betreiber? Die Schlüsselrollen im AI Act entschlüsselt“ erfahren). Ein Beispiel an dieser Stelle zur Klarstellung: Verwendet ein Mitarbeiter also ein KI-System im Rahmen seiner beruflichen Tätigkeit für das Unternehmen, kann das Unternehmen als Betreiber im Sinne des Art. 4 KI-VO.

III. Inhalte und Umfang der Schulungen

Die KI-Verordnung gibt keine konkreten Schulungsinhalte vor, fordert jedoch, dass die Maßnahmen auf die technischen Kenntnisse, Erfahrung, Ausbildung und den spezifischen Einsatzkontext der Mitarbeiter abgestimmt sind. Das bedeutet, dass Unternehmen individuelle Schulungskonzepte entwickeln müssen, die sowohl technische Aspekte als auch ethische und rechtliche Fragestellungen im Umgang mit KI abdecken. Denn je nach Einsatzbereich und Intensität der KI-Nutzung unterscheiden sich die Anforderungen erheblich. So bedarf bspw. die HR-Abteilung regelmäßig einer umfangreicheren Schulung als andere Abteilungen, insbesondere, wenn sog. „Hochrisiko-KI-Systeme“ im Sinne des Art. 6 KI-VO zum Einsatz kommen. Gemäß Art. 6 Abs. 2 KI-VO und Anhang III Nr. 4 zur KI-VO gelten als Hochrisiko-KI-Systeme die im Bereich der Beschäftigung und Personalmanagement ausgeführten

• KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten;
• KI-Systeme, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen (z. B Gehaltsanpassungen), Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale, oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden soll.

Beim Einsatz von „Hochrisiko-KI-Systemen“ ist darüber hinaus Art. 86 Abs. 1 KI-VO von Bedeutung. Danach steht Mitarbeitern (und auch Bewerber), die von einer Entscheidung betroffen sind, die das Unternehmen auf der Grundlage eines „Hochrisiko-KI-Systems“ getroffen hat, das Recht zu, vom Unternehmen eine klare und aussagekräftige Erläuterung zur Rolle des KI‑Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.

IV. Folgen eines etwaigen Verstoßes

Ein Verstoß gegen die Schulungspflicht ist unmittelbar weder bußgeld- noch strafbewehrt, sodass (derzeit noch) keine klaren (finanziellen) Sanktionen zu befürchten sind. Denkbar wäre jedoch eine mittelbare Sanktionierung bei Nichteinhaltung von Informationspflichten gegenüber den zuständigen nationalen Behörden, Art. 99 Abs. 5 KI-VO. Ob sich diese theoretische Möglichkeit in der Praxis verwirklicht bleibt jedoch abzuwarten.

Unabhängig davon können bei unzureichender oder unterlassener Pflichtschulung zivilrechtliche Haftungsrisiken für Unternehmen bestehen, sofern durch die fehlerhafte Nutzung eines KI-Systems ein Schaden entsteht. In dem Fall könnte hierin ein Verstoß des Unternehmens gegen die allgemeinen Sorgfaltspflichten (hier: Pflichtschulung) liegen, der den Geschädigten zu Schadensersatzansprüchen berechtigen könnte.

V. Arbeitsrechtliche Einordnung: Vergütung, Arbeitszeit, Nachweis

Ist der Arbeitgeber durch Gesetz oder aufgrund eines Gesetzes (hier: Art. 4 KI-VO) verpflichtet, dem Arbeitnehmer eine für die Erbringung der Arbeitsleistung erforderliche Fortbildung (hier: Pflichtschulung) anzubieten, dürfen dem Arbeitnehmer gem. § 111 Gewerbeordnung (GewO) die Kosten hierfür nicht auferlegt werden. Die Kosten der Pflichtschulung trägt somit der Arbeitgeber.

Weiter gibt § 111 Abs. 2 GewO vor, dass die Pflichtschulung während der regelmäßigen Arbeitszeit durchgeführt werden soll. Außerhalb der regelmäßigen Arbeitszeit durchgeführte Pflichtschulungen gelten als Arbeitszeit und sind zu vergüten.

Schließlich sollte die Durchführung der Pflichtschulung und die Teilnahme der Arbeitnehmer dokumentiert und z. B. durch Teilnehmerzertifikate nachgewiesen werden, um im Falle von Rechtsstreitigkeiten mit etwaigen Behörden vorbereitet zu sein.

VI. Handlungsempfehlung

Sofern noch nicht geschehen, sollten Unternehmen:

• ermitteln, welche Mitarbeiter im Rahmen ihrer beruflichen Tätigkeit KI-Systeme verwenden und diese ggf. gemäß ihrem Kenntnisstand in Gruppen einteilen,
• den spezifischen Schulungsbedarf dieser Mitarbeiter analysieren,
• geeignete Schulungsprogramme (inkl. Folgeschulung) entwickeln und implementieren,
• eine Richtlinie oder einen Verhaltenskodex über den Umgang mit KI einführen.

Unternehmen können auch die erforderliche KI-Kompetenz bündeln und so mittels einer zentralen Stelle sicherstellen, dass die Beschäftigten entsprechend über die für ihr konkretes Einsatzfeld von KI über die notwendige Kompetenz verfügen, indem sie einen KI-Beauftragten oder AI Officer einberufen (mehr Informationen dazu finden Sie in unserem Beitrag „Brauchen Unternehmen einen KI-Beauftragten (AI Officer) für ausreichende KI-Kompetenz?“).

VII. Fazit: Schulungspflicht ernst nehmen – Risiken vermeiden

Die Schulungspflicht nach Art. 4 KI-VO betrifft Unternehmen aller Größen, die KI-Systeme im betrieblichen Kontext einsetzen. Eine einheitliche Standardschulung für alle Mitarbeiter reicht regelmäßig nicht aus, da der Schulungsbedarf insbesondere vom Einsatzbereich abhängig ist. Besonders beim Einsatz von Hochrisiko-KI-Systemen – etwa in der Personalabteilung – besteht akuter Handlungsbedarf.

Auch wenn ein Verstoß derzeit noch nicht bußgeldbewehrt ist, drohen bei fehlerhafter Anwendung zivilrechtliche Haftungsrisiken.

Sie möchten wissen, ob Ihr Unternehmen betroffen ist – oder benötigen Unterstützung bei der Umsetzung der Schulungspflicht?

Gerne unterstützen wir Sie bei der rechtlichen Einordnung und der Entwicklung passender Schulungskonzepte – pragmatisch, zielgerichtet und rechtssicher.

Wir stehen auch als externer KI-Beauftragter zur Verfügung. Sprechen Sie uns an!

Oder nutzen Sie die von Blackboat und uns aufgesetzte Ausbildung zum zertifizierten AI Officer nach Art. 4 KI-VO.

* Die in diesem Beitrag verwendeten Personenbezeichnungen beziehen sich immer gleichermaßen auf Personen mit dem Geschlechtseintrag f/m/d. Auf eine Mehrfachnennung wird zugunsten einer besseren Lesbarkeit verzichtet.