Bei der Frage, in welchem Umfang Unternehmen Mitarbeitende fortbilden müssen und ob im Zusammenhang mit dem KI-Einsatz ein KI-Beauftragter erforderlich ist, muss man sich zukünftig am Artificial Intelligence Act (kurz: AI-Act oder auch KI-Verordnung) orientieren. Maßgeblich ist Art. 4 des AI Act, der die Anforderungen an Unternehmen mit Blick auf ihre „KI-Kompetenz“ regelt. Art. 4 sieht vor, dass Anbieter und Betreiber von KI-Systemen Maßnahmen müssen, um für ein „ausreichendes Maß an KI-Kompetenz“ bei ihren Mitarbeitenden und in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befassten Personen zu sorgen. Neben technischen Kenntnissen nennt das Gesetz zur Bestimmung des ausreichenden Maßes an Kompetenz auch entsprechende Schulungen.
Wann verfügen meine Mitarbeitenden bzw. mein KI-Beauftragter über „ausreichend“ KI-Kompetenz?
Art. 4 AI Act verlangt ein „ausreichendes Maß an KI-Kompetenz“ bei allen Personen, die in einem KI-Systeme nutzenden oder betreibenden Unternehmen eben damit befasst sind.
Wann etwas „ausreichend“ ist, dazu haben 3 Juristen 4 Meinungen und auch im Zusammenhang mit der KI-Kompetenz ist dies eine auslegungsbedürftige Frage. Klar ist aber jetzt schon Folgendes:
- Eine „one fits all“-Lösung gibt es nicht.
- Wie umfangreich Mitarbeitende geschult werden müssen, damit bei den betreffenden Personen ausreichend Kompetenz vorhanden ist, hängt insbesondere von folgenden Faktoren ab
- Vorkenntnisse, Erfahrungen und Ausbildung der Personen,
- der Kontext, in dem die KI-Systeme eingesetzt werden sollen
- die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen.
Braucht jedes Unternehmen einen eigenen KI-Beauftragten?
Nicht jedes Unternehmen wird einen KI-Beauftragten brauchen. Je intensiver und umfangreicher Unternehmen aber Künstliche Intelligenz implementieren, nutzen und anbieten, desto eher wird die Schaffung einer entsprechenden Position erforderlich:
Ausdrücklich verlangt wird ein KI-Beauftragten durch den AI Act nicht. Ob Unternehmen einen dezidierten KI-Beauftragten, also eine Person brauchen, die über (mehr als das Mindestmaß an) KI-Kompetenz verfügt und innerhalb des Unternehmens KI-Vorhaben koordiniert, dazu berät und für ausreichende Kompetenzen bei sonstigen Mitarbeitenden sorgt, hängt v.a. davon ab, wie und in welchem Umfang im Unternehmen KI zum Einsatz kommt. Das Erfordernis kann sich dann aus der Anforderung an die ausreichende KI-Kompetenz, konkret aus Art. 4 AI Act in Verbindung mit dem Erwägungsgrund 20 ergeben.
Maßgeblich: Interne KI-Kompetenz schaffen
Die KI-Kompetenz soll Anbieter und Betreiber in die Lage versetzen, fundierte Entscheidungen über KI-Systeme zu treffen, v.a. um entsprechende KI-Konzepte für das Unternehmen zu erstellen. Wie entsprechende KI-Konzepte konkret auszusehen haben, ist im Einzelfall zu entwickeln. Klar ist aber, dass es nicht genügt, einmal KI-Richtlinien aufzusetzen und sie dann in der Schublade aufzubewahren. KI-Konzepte müssen anhand der konkreten KI-Systeme und deren Anwendungsgebieten unter Einbeziehung der relevanten Stakeholder entwickelt, implementiert, überwacht und stetig weiterentwickelt werden.
Erwägungsgrund 20 sieht dementsprechend ausdrücklich vor, dass KI-Konzepte und damit die erforderliche KI-Kompetenz im Unternehmen
„das Verstehen der korrekten Anwendung technischer Elemente in der Entwicklungsphase des KI-Systems, der bei seiner Verwendung anzuwendenden Maßnahmen und der geeigneten Auslegung der Ergebnisse des KI-Systems umfassen“
muss. Darüber hinaus soll im Zusammenhang mit der Anwendung des AI Acts,
„die KI-Kompetenz allen einschlägigen Akteuren der KI-Wertschöpfungskette die Kenntnisse vermitteln, die erforderlich sind, um die angemessene Einhaltung und die ordnungsgemäße Durchsetzung der Verordnung sicherzustellen.“
Mit anderen Worten: KI-Kompetenz erfordert nicht nur ein grundsätzliches technisches Verständnis, sondern Kenntnisse über die konkret eingesetzten KI-Systeme und KI-Anwendungen entlang der gesamten Wertschöpfungskette sowie ausreichend rechtliche Kompetenz, um die Einhaltung des AI-Acts sicherzustellen. Aus den Anforderungen an die KI-Kompetenz wird deutlich, dass es nicht nur um spezifische Fachkenntnisse in den Bereichen Technologie und Recht geht, sondern auch um ein umfassendes, interdisziplinäres Verständnis.
Ein KI-Beauftragter stellt die notwendigen KI-Kompetenzen aller relevanten Stakeholder sicher, nimmt eine vermittelnde Rolle zwischen ihnen ein und sorgt so für die Einhaltung der Vorschriften des AI Acts im Unternehmen.
Was muss ein KI-Beauftragter können?
Ein KI-Beauftragter ist ein Spezialist mit interdisziplinären Fähigkeiten und Fachwissen und muss über folgende Kenntnisse verfügen:
- Technische Elemente der konkreten KI-Systeme,
- Korrekte Anwendung entlang der Wertschöpfungskette,
- Rechtliche Vorgaben zur Einhaltung und Durchsetzung des AI-Acts.
Es ist zu erwarten, dass die EU-Kommission und die Mitgliedstaaten in Zusammenarbeit mit einschlägigen Interessensträgern zukünftig freiwillige Verhaltenskodizes entwickeln werden, die den Maßstab für KI-Kompetenz maßgeblich mitbestimmen wird.
Fazit
Das Gesetz verlangt nicht konkret, einen KI-Berater oder KI-Beauftragten zu benennen – anders als dies im Zusammenhang mit der Verarbeitung personenbezogener Daten in der Rolle des Datenschutzbeauftragten Art. 37 DSGVO bzw. § 37 BDSG der Fall ist. Das bedeutet aber nicht, dass es für Unternehmen, die Künstliche Intelligenz (KI) einsetzen oder nutzen, nicht sinnvoll oder sogar erforderlich sein kann, die Stelle eines KI-Beauftragten zu schaffen. In jedem Fall müssen Unternehmen sicherstellen, dass Mitarbeitende, die mit KI befasst sind, ausreichend geschult werden. Je intensiver und umfangreicher Unternehmen aber Künstliche Intelligenz implementieren, nutzen und anbieten, desto eher wird die Schaffung einer entsprechenden Position erforderlich.
In Ihrem Unternehmen wird KI genutzt oder in Ihren Produkten eingesetzt? Wir unterstützen Sie dabei
- die notwendigen Kompetenzen zu identifizieren
- Schulungen zu organisieren und
- die richtige Strategie zur Einführung eines KI-Beauftragten zu entwickeln.
Wir stehen auch als externer KI-Beauftragter zur Verfügung. Sprechen Sie uns an!