Die KI-VO verlangt von Unternehmen, nach besten Kräften für KI-Kompetenz zu sorgen. Doch was bedeutet das konkret? Was müssen Unternehmen jetzt tun? Die wichtigsten Punkte haben wir in dem folgenden Q&A für Sie zusammengefasst.
Q&A zur KI-Kompetenz
Welche Pflichten treffen Unternehmen?
Anbieter und Verwender von KI-Systemen müssen Maßnahmen ergreifen, um ein ausreichendes Maß an KI-Kompetenz bei ihrem Personal und beauftragten Personen sicherzustellen, die mit dem Betrieb und der Nutzung von KI-Systemen betraut sind.
Was bedeutet „KI-Kompetenz“?
„KI-Kompetenz“ bezeichnet die Fähigkeiten, das Wissen und das Verständnis, KI-Systeme informiert einzusetzen sowie sich der Chancen und Risiken der KI und möglicher Schäden bewusst zu sein.
Wer muss über KI-Kompetenz verfügen?
Alle Personen eines Anbieters oder Verwenders von KI-Systemen, die unmittelbar mit einem KI-System arbeiten.
Müssen Unternehmen auch die KI-Kompetenz ihrer Dienstleister sicherstellen?
Ja, sie tragen eine entsprechende Kontroll- und Auswahlverantwortung. Anbieter oder Nutzer von KI-Systemen tragen die Verantwortung, dass alle in ihrem Auftrag handelnden Personen, die mit einem KI-System arbeiten, über die notwendigen Kompetenzen verfügen. Daher müssen sie sicherstellen, dass auch externe Partner, die z. B. ein System trainieren, betreiben oder konfigurieren, entsprechend geschult oder qualifiziert sind.
Das bedeutet: Unternehmen müssen geeignete Dienstleister auswählen und deren Kompetenzen vertraglich absichern bzw. dokumentieren.
Besteht eine Pflicht, den Wissensstand der Mitarbeitenden zu messen?
Artikel 4 sieht keine Verpflichtung zur Messung des KI-Wissensstands von Mitarbeitenden vor. Anbieter und Verwender sollen jedoch sicherstellen, dass ein ausreichendes Maß an KI-Kompetenz besteht – unter Berücksichtigung des technischen Wissens, der Erfahrung, Ausbildung und Schulung der betreffenden Personen.
Wie entwickeln Unternehmen ein geeignetes Programm zur Bildung von KI-Kompetenz?
Es gibt keine One-fits-all-Lösung, schon weil es so viele verschiedene Einsatzfelder gibt und sich die Technologie rasant entwickelt. Entsprechend des risikobasierten Ansatzes der KI-VO müssen Unternehmen bei ihrem individuellen Programm insbesondere ihre Rolle (Anbieter/Verwender von KI-Systemen) sowie die Risiken der konkreten von Systeme berücksichtigen.
Checkliste für ein individuelles KI-Kompetenzprogramm:
- Rolle meines Unternehmens:
Entwickelt mein Unternehmen eigene KI-Systeme (Anbieter) oder nutzt es die Systeme anderer (Verwender)? - Allgemeines Verständnis von KI:
Was ist KI? Wie funktioniert sie? Welche KI wird in unserem Unternehmen genutzt? Welche Chancen und Risiken bestehen? - Risiken der eingesetzten KI-Systeme:
Was müssen Mitarbeitende wissen, um mit dem jeweiligen System sicher umzugehen? Welche Risiken bestehen, und wie können sie reduziert werden? - Vorwissen der Mitarbeitenden:
Was wissen Mitarbeitende bereits, über welche Erfahrung, Ausbildung und Schulungen verfügen sie, und was sollten sie noch wissen? - Kontext der Nutzung:
In welchem Sektor und für welchen Zweck wird das System eingesetzt? - Recht und Ethik:
Welche rechtlichen und ethischen Aspekte sind in Bezug auf mein Unternehmen und die konkrete KI-Nutzung zu berücksichtigen?
Ist eine Schulung zu KI nach Artikel 4 verpflichtend?
Artikel 4 zielt darauf ab, angemessene Schulungen und Anleitungen bereitzustellen – abgestimmt auf das jeweilige Vorwissen der Zielgruppe sowie auf Kontext und Zweck der eingesetzten KI-Systeme.
Welchen Inhalt muss die verpflichtende KI-Schulung in Unternehmen haben?
Auch hier gibt es keine „One-size-fits-all“-Lösung. Die Anforderungen an Schulungen hängen vom jeweiligen Kontext ab.
Faustregel: Die Schulungen sollten die technischen Grundlagen, die praktische Anwendung sowie die Risiken inkl. der rechtlichen Rahmenbedingungen der konkret im Unternehmen eingesetzten KI-Systeme beinhalten.
Unternehmen können sich von den im „Living Repository zu AI Literacy“ gesammelten Initiativen verschiedener Unternehmen inspirieren lassen.
Gibt es branchenspezifische Anforderungen, z. B. für Finanzdienstleister oder den Gesundheitsbereich?
Nein, es gibt keine sektorbezogenen Vorgaben. Allerdings können besonders sensible Bereiche und Sektoren sowie der Zweck des KI-Einsatzes das Risiko erhöhen und somit höhere Anforderungen an die Konzeption von KI-Kompetenzmaßnahmen stellen.
Mein Unternehmen nutzt nur Tools wie ChatGPT oder Copilot – braucht es trotzdem KI-Kompetenz?
Ja. Die Mitarbeitenden sollten über die spezifischen Risiken – wie etwa Halluzinationen oder urheberrechtliche Fragestellungen – informiert sein und wissen, wie das KI-Tool korrekt einzusetzen ist.
Genügt das „Human-in-the-Loop“-Modell als Schulungsersatz?
Nein. Sowohl die Mitarbeitenden als auch die „Human-in-the-Loop“-Personen benötigen gezielte KI-Kompetenzen – abgestimmt auf das jeweilige System, das sie verwenden.
Müssen auch technisch vorgebildete Mitarbeitende geschult werden?
Auch wenn dies wahrscheinlich ist, hängt es vom jeweiligen KI-System und der konkreten Qualifikation ab. Es ist eine Einzelfallprüfung erforderlich:
- Verfügen sie über das nötige Wissen zu den eingesetzten Systemen?
- Brauchen sie zusätzliche Kenntnisse (z. B. zu rechtlichen/ethischen Aspekten)?
- Sind sie sich der Risiken bewusst und wissen, wie diese minimiert werden können?
Dürfen Unternehmen unterschiedliche Schulungen je nach Kenntnisstand anbieten?
Ja. Artikel 4 fordert ausdrücklich, dass Wissen, Erfahrung, Ausbildung und Schulung der Mitarbeitenden berücksichtigt werden sollen.
Daher ist es angemessen, verschiedene Schulungsniveaus und Lernansätze zu entwickeln.
Wie müssen Organisationen ihre Maßnahmen dokumentieren?
Ja, Unternehmen müssen ergriffene Maßnahmen dokumentieren.
Dazu können interne Aufzeichnungen über Schulungen oder unterstützende Maßnahmen genügen.
Ein Zertifikat ist nicht zwingend erforderlich, aber zur Dokumentation geeignet.
Müssen Unternehmen eine:n KI-Beauftragte:n oder AI-Officer benennen?
Anders als bei der DSGVO ist das nicht verpflichtend. Es sprechen jedoch viele unternehmerische Gründe für die Benennung eines KI-Beauftragten oder eines KI-Boards. (→ Weitere Informationen hier.)
Muss ein AI-Governance-Board eingerichtet werden?
Nein, nicht zwingend. Eine geeignete Struktur kann jedoch dabei helfen, gesetzliche Vorgaben effizient einzuhalten, Synergien zu schaffen und Ressourcen zu sparen.
Ab wann müssen Unternehmen ein KI-Kompetenzprogramm eingerichtet haben?
Die Verpflichtung gilt bereits jetzt.
Die Überwachung beginnt spätestens am 3. August 2026.
Drohen bei Verstößen Bußgelder?
Ja. Die (noch nicht benannten) Marktüberwachungsbehörden – in Deutschland voraussichtlich die Bundesnetzagentur – können bei Verstößen Sanktionen verhängen.
Grundlage sind nationale Gesetze, die bis zum 2. August 2025 erlassen werden müssen.
Können Unternehmen bei mangelnder KI-Kompetenz verklagt werden?
Ja. Personen, die durch fehlende Schulung im Sinne von Artikel 4 geschädigt wurden, können das Unternehmen verklagen.
Wo finde ich weitere Informationen zur KI-Kompetenz?
Die EU-Kommission hat hier weitere Informationen sowie ein eigenes Q&A zu den Anforderungen an die KI-Kompetenz nach Artikel 4 veröffentlicht.
Sie benötigen Unterstützung? Sprechen Sie uns an, wenn wir Ihr Unternehmen bei dem Aufbau angemessener KI-Kompetenz unterstützen können.
Sie mchten Ihre KI-Kompetenz oder die Ihrer Mitarbeiter ausbauen? Dann lassen Sie sich jetzt von uns und Blackboat zum AI Officer schulen – in Präsenz oder online. Termine und weitere Informationen finden Sie hier