Anbieter oder Betreiber? Die Schlüsselrollen im AI Act entschlüsselt

Die beiden ersten Fragen, die sich Unternehmen daher stellen sollten, lauten:

• Ist das relevante Produkt bzw. die fragliche Anwendung „Künstliche Intelligenz“ im Sinne des KI-Gesetzes unterfällt. Dies ist grundsätzlich dann der Fall, wenn es sich um ein KI-Modell mit allgemeinem Verwendungszweck oder einem KI-System handelt.
• Welche Rolle spielt mein Unternehmen in Bezug auf das KI-System oder das KI-Modell?

Erst dann ist im Rahmen einer Gesamtbetrachtung von Produkt und der konkreten Einsatzart unter Berücksichtigung der konkreten Risikoklasse eine abschließende Bestimmung der konkreten Pflichten möglich.

„KI-Modell“ oder schon ein „KI-System“?

Die KI-Verordnung definiert künstliche Intelligenz nicht ausdrücklich, sondern behandelt sie als einen Oberbegriff für „KI-Modelle“ und „KI-Systeme“.

 KI-System gemäß Art. 3 Nr. 1 KI-VO

Wie genau ein „KI-System“ zu definieren ist, war im Laufe der Verhandlungen bis zur finalen Fassung der Klausel höchst umstritten. Am Ende hat sich der EU-Gesetzgeber für eine recht konkrete, auf dem ersten Blick schwierig nachvollziehbare Formulierung festgelegt. Die Legaldefinition von KI-System findet sich in Art. 3 Nr. 1 KI-VO. Demnach ist ein KI-System:

„ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können“.

Schaut man genauer hin, wird klar, dass hier mehrere einzelne Merkmale bewertet werden müssen, die ein KI-System ausmachen. Im Folgenden klären wir kurz auf, was grundsätzlich mit diesen Begriffen gemeint ist:

• Maschinengestützt ist selbsterklärend und bedeutet, dass das KI-System von Maschinen betrieben werden muss. Gemeint wird vorrangig eine Computerumgebung, auf die entweder direkt oder per Fernzugriff zugegriffen werden kann.
• Unterschiedlicher Grad an Autonomie bedeutet, dass bestimmte Aufgaben ohne Überwachung oder Voreinstellung von Menschen bewältigt wird oder werden kann.
• Anpassungsfähigkeit nach seiner Einführung bedeutet die Fähigkeit, Ergebnisse zu produzieren, die über die einfache Datenverarbeitung hinaus gehen und eigene, auf entsprechendes Training zurückzuführende Lern-, Schlussfolgerungs- und Modellierungsprozesse ermöglicht. Sie bedeutet jedoch auch, dass die Möglichkeit besteht, das System lernfähig sein kann und entsprechend auch nach Inbetriebnahme
• Die Fähigkeit, Ableitungen zu treffen bedeutet, dass das System eigenständige Schlussfolgerungen aus analysierten Datenmengen ziehen kann, um Vorhersagen zu treffen, Entscheidungen zu fällen oder Handlungsempfehlungen zu geben.
• Die Ableitungen müssen sich dabei auf die im Rahmen des Inputs vorgegebenen Ziele der Verwender des Systems beziehen und
• die Ausgabe muss derart erfolgen, dass sie Auswirkungen auf die digitale oder reelle Welt haben kann, wie z.B. als Output als Text, Bild, Video, Audio etc.

In den meisten Fällen, wird die von Ihnen eingesetzte KI als ein KI-System zu werten sein und nicht als reines KI-Modell.

 KI-Modell (mit allgemeinem Verwendungszweck) gemäß Art. 3 Nr. 63 KI-VO

Im Gegensatz zum KI-System bezieht sich ein „KI-Modell“ auf eine spezifische Komponente innerhalb eines KI-Systems, die oft durch maschinelles Lernen entwickelt wird. Man kann sich das KI-Modell als das Gehirn vorstellen, welches den Körper steuert und über die Sinne des Körpers mit seiner Umgebung interagiert.

Ein KI-Modell dient als Grundlage für die Entscheidungsfindung oder Vorhersagen innerhalb eines KI-Systems, stellt jedoch für sich genommen noch kein funktionsfähiges System dar. Diese Modelle können in verschiedene KI-Systeme integriert werden, sind aber erst durch zusätzliche Komponenten und Funktionen voll funktionsfähig und damit als „KI-System“ zu betrachten. Der AI Act sieht ausschließlich eine Legaldefinition für „KI-Modellen mit allgemeinem Verwendungszweck“ vor, denn bei ihnen liegt der Fokus auf einer breiten Einsetzbarkeit für eine Vielzahl von Aufgaben. Hier geht der EU-Gesetzgeber davon aus, dass aus derartigen Modellen ein erhöhtes Gefahrenpotenzial für natürliche Personen hervorgeht, sodass ausschließlich für sie Pflichten bestehen.

Die KI-Verordnung definiert in Art. 3 Nr. 63 KI-VO ein KI-Modell mit allgemeinem Verwendungszweck als:

„ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden“.

 Rolle des Unternehmens:  Anbieter oder Betreiber?

Die KI-Verordnung sieht eine Reihe von Akteuren vor. So werden insbesondere Anbieter, Betreiber, Einführer und Händler in Art. 3 KI-VO definiert. Die Rolleneinordnung ist dabei maßgeblich für die Verpflichtungen, die auf ein Unternehmen zukommen.

In der Praxis wird es bei der Bestimmung der eigenen Rolle des Unternehmens in den meisten Fällen auf eine Unterscheidung zwischen „Anbieter“ und „Betreiber“ ankommen. Die genaue Einordnung in eine dieser Kategorien hängt von der Art und Weise ab, wie die KI entwickelt, in eigene Produkte integriert und/oder verwendet wird. Diese Differenzierung ist entscheidend, um die jeweiligen regulatorischen Anforderungen zu erfüllen und sicherzustellen, dass die gesetzlichen Vorgaben korrekt umgesetzt werden.

 Wann sind Sie Anbieter?

Gemäß Art. 3 Nr. 3 KI-VO ist ein Anbieter:

„eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich.“

Das bedeutet, dass ein Unternehmen als Anbieter gilt, wenn es aktiv an der Entwicklung beteiligt ist oder ein bereits bestehendes KI-Modell in ein eigenes Produkt integriert und dieses unter seiner Marke vertreibt. Beispiele hierfür sind Unternehmen, die eine KI-basierte Plattform als SaaS (Software as a Service) anbieten, ein KI-System für die interne Nutzung entwickeln und vermarkten, oder bestehende KI-Modelle in eigene Produkte integrieren und diese unter eigenem Namen anbieten. Ob die bloße Einbettung des KI-Systems eines fremden Unternehmens in die Umgebung (z.B. Website) ausreicht, um als Anbieter eingestuft zu werden, ist noch nicht abschließend geklärt. Es spricht jedoch vieles insbesondere aber der Wortlaut der Norm dafür, dass das nicht der Fall ist.

 Wann sind Sie Betreiber?

Gemäß Art. 3 Nr. 4 KI-VO ist ein Betreiber:

„eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet“

Das bedeutet, dass ein Unternehmen als Betreiber eingestuft wird, wenn es ein KI-System für interne Zwecke einsetzt, ohne es weiterzuentwickeln oder als eigenes Produkt anzubieten. Beispiele hierfür sind die Nutzung eines externen KI-Tools zur Unterstützung des Kundenservice oder die interne Anwendung eines KI-Modells zur Optimierung von Geschäftsprozessen. Als Betreiber tragen Unternehmen die Verantwortung dafür, das KI-System regelkonform zu nutzen, ohne jedoch die umfassenden Pflichten eines Anbieters zu übernehmen.

 Versteckte Risiken des schleichenden Übergangs von Betreiber zu Anbieter

Für die endgültige Rollenzuteilung ist insbesondere die Risikoklassifizierung des verwendeten oder entwickelten KI-Systems ausschlaggebend. Es gibt Konstellationen, in denen ein Unternehmen, das nach den allgemeinen Grundsätzen als Betreiber zu kategorisieren wäre, einem Anbieter gleichgestellt wird und somit die gleichen Pflichten erfüllen muss, wie der Anbieter.

Artikel 25 der KI-VO legt die Voraussetzungen für genau diesen Übergang fest und bestimmt die daraus folgenden Konsequenzen. Ein Übergang zu Anbieter betrifft dabei vor allem Situationen, in denen ein bestehendes KI-System:

• unter einem neuen Namen oder einer neuen Marke weiterverbreitet wird (Art. 25 Abs. 1 lit. a);
• wesentliche Veränderungen an der Funktionalität oder Sicherheit vorgenommen werden (Art. 25 Abs. 1 lit. b); oder
• die Zweckbestimmung des Systems so angepasst wird, dass ein KI-System, das ursprünglich nicht als Hochrisiko-System eingestuft wurde nun in die Kategorie der Hochrisiko-KI-Systeme fällt (Art. 25 Abs. 1 lit. c).

Konkret bedeutet dies, dass ein „schleichender“ Übergang von Betreiber zu Anbieter beispielsweise durch Anpassungen wie das Fine-Tuning, den Einsatz von Retrieval-Augmented Generation (RAG) oder das Einbinden von Meta-Prompts erfolgen kann.

Im Falle von Art. 25 KI‑VO gelten die neuen Verantwortlichen als Anbieter und müssen sicherstellen, dass alle regulatorischen Anforderungen eingehalten werden, während der ursprüngliche Anbieter von dieser Pflicht entbunden wird, aber weiterhin mit dem neuen Anbieter kooperieren muss. Es ist von entscheidender Bedeutung, dass jede Anpassung eines KI-Systems sorgfältig geprüft wird, um mögliche rechtliche und finanzielle Risiken zu vermeiden, da eine fehlerhafte Einstufung oder unzureichende Anpassung schwerwiegende Konsequenzen – darunter auch hohe Geldbußen von bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres – haben kann.

Fazit

Die Differenzierung zwischen „Anbieter“ und „Betreiber“ ist für Unternehmen, die KI-Systeme entwickeln oder verwenden, entscheidend, um den Anforderungen des AI Act gerecht zu werden. Diese Rollenbestimmung beeinflusst maßgeblich die rechtlichen Pflichten und potenziellen Risiken, die ein Unternehmen eingehen muss. Die sich daraus ergebenden Verantwortlichkeiten sind nicht nur von der Art der Nutzung, sondern auch von der spezifischen Anpassung und dem Einsatz der KI-Technologien abhängig. Um rechtliche und finanzielle Risiken zu minimieren, ist es essenziell, jede Anpassung eines KI-Systems sorgfältig zu prüfen und eine klare Rollenzuteilung vorzunehmen.

Wir unterstützen Sie gern dabei, Ihr Unternehmen korrekt als Anbieter oder Betreiber nach dem AI Act zu kategorisieren und stehen Ihnen während des gesamten Lebenszyklus Ihrer KI-Systeme mit umfassender rechtlicher Beratung zur Seite. Lassen Sie uns gemeinsam sicherstellen, dass Ihre KI-Technologien den gesetzlichen Anforderungen entsprechen und rechtliche Risiken minimiert werden.