Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat weitreichende Auswirkungen auf alle Lebensbereiche. Die Europäische Union (EU) hat erkannt, dass ein angemessener rechtlicher Rahmen notwendig ist, um den verantwortungsvollen Einsatz von KI zu gewährleisten und strebt für die EU sowohl hinsichtlich Vertrauenswürdigkeit als auch Innovationskraft eine Vorreiterrolle an. Aus diesem Grund wurde der AI-Act (informell in Deutschland auch KI-Verordnung oder KI-Gesetz genannt) entworfen. Die Verordnung, die in den Mitgliedstaaten unmittelbare Wirkung entfalten wird, soll klare Regeln und Standards für den Umgang mit KI-Systemen festlegen.
Ziele und geplante Inhalte der KI-Verordnung
Die KI-VO verfolgt mehrere Ziele, insbesondere:
- Sie strebt den Schutz der Grundrechte und Grundfreiheiten der Bürgerinnen und Bürger an, um sicherzustellen, dass KI-Systeme die Würde, Privatsphäre und andere fundamentale Rechte der Einzelpersonen respektieren. Sie soll gewährleisten, dass KI nicht diskriminierend, manipulativ oder in anderer Weise schädlich agiert.
- Die Verordnung zielt darauf ab, das Vertrauen der Bürgerinnen und Bürger in KI-Systeme zu stärken. Hierzu sollen Transparenz, Rechenschaftspflicht und Verständlichkeit gefördert werden. Dies bedeutet, dass KI-Systeme nachvollziehbar und erklärbar sein sollten.
- Die KI-VO will Innovationen und die Wettbewerbsfähigkeit der europäischen Wirtschaft fördern. Indem ein einheitlicher Rechtsrahmen für den Einsatz von KI in der EU geschaffen wird, sollen Unternehmen dazu ermutigt werden, KI-Technologien zu entwickeln und zu nutzen.
Die KI-VO unterscheidet hinsichtlich der Anforderungen in ihrem jetzigen Entwurf zwischen verschiedenen Anwendungsbereichen und Risikoklassen. Insbesondere wird der Fokus auf Hochrisiko-KI-Systeme gelegt. Hochrisiko-KI-Systeme sind solche, die potenziell signifikante Auswirkungen auf die Rechte und Freiheiten von Personen haben könnten. Beispiele für solche Systeme sind medizinische Diagnosesysteme, autonomes Fahren oder Systeme im Bereich der öffentlichen Sicherheit. Für solche Hochrisiko-KI-Systeme sieht die Verordnung strengere Vorschriften vor. Unternehmen, die solche Systeme entwickeln oder einsetzen, müssen eine umfassende Risikobewertung durchführen, die mögliche Auswirkungen auf die Sicherheit, Gesundheit, Privatsphäre und die Grundrechte von Personen berücksichtigt. Darüber hinaus sind Dokumentationspflichten und die Einhaltung bestimmter technischer Standards vorgesehen, um sicherzustellen, dass diese Systeme den gesetzlichen Anforderungen gerecht werden.
Aktueller Stand des Gesetzgebungsverfahrens
Der AI-Act wurde am 14.06.2023 vom EU-Parlament angenommen. Bereits zwei Monate zuvor einigte sich das Europäische Parlament auf einen Entwurf, den die federführenden Ausschüsse (IMCO und LIBE) am 11.05.2023 bestätigt haben. Der Vorschlag wurde von verschiedenen Interessengruppen wie der EZB, dem Wirtschafts- und dem Datenschutzausschuss diskutiert, um unterschiedliche Perspektiven und Anliegen zu berücksichtigen.
Da die KI-VO vom Europäischen Parlament angenommen wurde, wird sie nun im Amtsblatt veröffentlicht. Sie gilt ab dem angegebenen Zeitpunkt verbindlich in der gesamten EU. Eine Ratifizierung durch die nationalen Parlamente ist nicht mehr nötig.
Unseren Mandantinnen und Mandanten raten wir, die Entwicklung auf europäischer und nationaler Ebene im Auge zu behalten. Die KI-Verordnung wird zum Teil erhebliche Auswirkungen auf die Gestaltung von digitalen Geschäftsmodellen, die Vertragsgestaltung (z. B. bei SaaS-Leistungen mit KI-Elementen) und die Informationspflichten haben.
Mehr Informationen zum Thema Künstliche Intelligenz, Regulierungsansätzen und Schwächen des derzeitigen Entwurfs finden Sie in der Podcastfolge „Me, Myself and AI – Regulierung Künstlicher Intelligenz“ von härting|fm mit Dr. Martin Schirmbacher, Marlene Schreiber und ihrem Gast Prof. Dr. Philipp Hacker, der den Chair of Law and Ethics of the digital Society an der Europa-Universität Viadrina innehat.