Direkt zum Inhalt wechseln

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat weitreichende Auswirkungen auf alle Lebensbereiche. Die Europäische Union (EU) hat erkannt, dass ein angemessener rechtlicher Rahmen notwendig ist, um den verantwortungsvollen Einsatz von KI zu gewährleisten und strebt für die EU sowohl hinsichtlich Vertrauenswürdigkeit als auch Innovationskraft eine Vorreiterrolle an. Aus diesem Grund wurde der AI-Act (zu deutsch: KI-Verordnung oder KI-Gesetz) entworfen. Die Verordnung, die in den Mitgliedstaaten unmittelbare Wirkung entfalten wird, soll klare Regeln und Standards für den Umgang mit KI-Systemen festlegen.

Stand:

Ziele und geplante Inhalte der KI-Verordnung

Die KI-VO verfolgt mehrere Ziele, insbesondere:

  • Sie strebt den Schutz der Grundrechte und Grundfreiheiten der Bürgerinnen und Bürger an, um sicherzustellen, dass KI-Systeme die Würde, Privatsphäre und andere fundamentale Rechte der Einzelpersonen respektieren. Sie soll gewährleisten, dass KI nicht diskriminierend, manipulativ oder in anderer Weise schädlich agiert.
  • Die Verordnung zielt darauf ab, das Vertrauen der Bürgerinnen und Bürger in KI-Systeme zu stärken. Hierzu sollen Transparenz, Rechenschaftspflicht und Verständlichkeit gefördert werden. Dies bedeutet, dass KI-Systeme nachvollziehbar und erklärbar sein sollten.
  • Die KI-VO will Innovationen und die Wettbewerbsfähigkeit der europäischen Wirtschaft fördern. Indem ein einheitlicher Rechtsrahmen für den Einsatz von KI in der EU geschaffen wird, sollen Unternehmen dazu ermutigt werden, KI-Technologien zu entwickeln und zu nutzen.

Die KI-VO unterscheidet hinsichtlich der Anforderungen in ihrem jetzigen Entwurf zwischen verschiedenen Verpflichtungen und Risikoklassen. Insbesondere wird der Fokus auf Hochrisiko-KI-Systeme gelegt. Hochrisiko-KI-Systeme sind solche, die potenziell signifikante Auswirkungen auf die Rechte und Freiheiten von Personen haben könnten. Beispiele für solche Systeme sind medizinische Diagnosesysteme, autonomes Fahren oder Systeme im Bereich der öffentlichen Sicherheit. Für solche Hochrisiko-KI-Systeme sieht die Verordnung strengere Vorschriften vor. Unternehmen, die solche Systeme entwickeln oder einsetzen, müssen eine umfassende Risikobewertung durchführen, die mögliche Auswirkungen auf die Sicherheit, Gesundheit, Privatsphäre und die Grundrechte von Personen berücksichtigt. Darüber hinaus sind Dokumentationspflichten und die Einhaltung bestimmter technischer Standards vorgesehen, um sicherzustellen, dass diese Systeme den gesetzlichen Anforderungen gerecht werden.

Aktueller Stand des Gesetzgebungsverfahrens

Der Europäische Kommission hat im April 2021 einen ersten Entwurf zum AI-Act vorgestellt und damit das Gesetzgebungsverfahren in Gang gebracht. Kurz darauf begannen der Rat der EU und das Europäische Parlament damit, den Vorschlag anzupassen. Der Rat der EU veröffentlichte seine Position im Dezember 2022, das Parlament einigte sich durch die federführenden Ausschüsse (IMCO und LIBE) im Juni 2023 auf eine Position. Der Vorschlag wurde von verschiedenen Interessengruppen wie der EZB, dem Wirtschafts- und dem Datenschutzausschuss diskutiert, um unterschiedliche Perspektiven und Anliegen zu berücksichtigen. Uneinigkeit besteht derzeit vor allem über den Anwendungsbereich der Verordnung und die Regulierung von Basismodellen.

Das Parlament und der Rat befanden sich bis vor kurzem im sogenannten Trilog, bei dem Vertreter:innen der beiden Organe unter Vermittlung der Kommission einen gemeinsamen Gesetzesvorschlag ausarbeiten, der dann anschließend noch vom Parlament und dem Rat verabschiedet und im Amtsblatt veröffentlicht werden muss. Sie gilt dabei ab dem angegebenen Zeitpunkt verbindlich in der gesamten EU. Eine Ratifizierung durch die nationalen Parlamente ist dann nicht mehr nötig.

Nun, nach langen Verhandlungen verständigten sich die Unterhändler von Europaparlament und EU-Staaten am Freitagabend (08.12.2023) auf den AI-Act. Nachdem die Verhandlungen zuletzt fast scheiterten, müssen das Europaparlament und die Mitgliedstaaten der Einigung um den AI-Act als erstes umfassendes KI-Gesetz der Welt noch zustimmen. Dies hat jedoch nur formelle Bedeutung.

Zwischen Verabschiedung und Inkrafttreten des Gesetzes wird es eine Übergangsphase geben. Zur Überbrückung dieser Phase plant die Kommission die Einführung eines KI-Pakts, welcher KI-Entwickler aus Europa und der ganzen Welt zusammenbringen soll, die sich freiwillig dazu verpflichten, die wesentlichen Bestimmungen des Gesetzes bereits vor dem gesetzlichen Fristablauf umzusetzen.

 

Unseren Mandantinnen und Mandanten raten wir, die Entwicklung auf europäischer und nationaler Ebene im Auge zu behalten. Die KI-Verordnung wird zum Teil erhebliche Auswirkungen auf die Gestaltung von digitalen Geschäftsmodellen, die Vertragsgestaltung (z. B. bei SaaS-Leistungen mit KI-Elementen) und die Informationspflichten haben.

Mehr Informationen zum Thema Künstliche Intelligenz, Regulierungsansätzen und Schwächen des derzeitigen Entwurfs finden Sie in der Podcastfolge „Me, Myself and AI – Regulierung Künstlicher Intelligenz“ von härting.fm mit Dr. Martin Schirmbacher, Marlene Schreiber und ihrem Gast Prof. Dr. Philipp Hacker, der den Chair of Law and Ethics of the digital Society an der Europa-Universität Viadrina innehat.

Einen besonders intensiven Einblick in die praktische Anwendung erhalten Sie in „This is How We Do It- KI in der Praxis“, Folge 45 von härting.fm, aufgenommen an unserem KI-Tag mit Dominik Wojcik (evnxt), Viktor von Essen (Merantix, Libra), Dr. Ralph Hünermann(Odooscope) und Michael Neuber (Google).