Gemäss der Parlamentarischen Initiative der Grünen Fraktion vom 15. Juni 2023 soll das nDSG in Art. 21bis nDSG ergänzt werden. Neu soll die Informationspflicht für teilautomatisierte Entscheidungen auch beinhalten, ob eine solche aufgrund künstlicher Intelligenz (KI) ergangen ist. Im folgenden Beitrag erfahren Sie näheres dazu.
Das ab dem 1. September 2023 in Kraft tretende Bundesgesetz über den Datenschutz vom 25. September 2020 (Datenschutzgesetz, nDSG; SR 235.1) wird den Art. 21 nDSG enthalten, welcher eine spezifische Informationspflicht einführt für automatisierte Einzelentscheidungen. Betroffene Personen müssen über eine Entscheidung informiert werden, die ausschliesslich auf automatisierten Bearbeitung beruhen und betroffene Personen erheblich beeinträchtigen.
Innerhalb der Automatisierung von Prozessen und Verfahren, welche den Grund für die Parlamentarische Initiative 23.438 darstellt, ist zwischen verschiedenen Automatisierungsstufen zu unterscheiden. Eine (voll-)automatisierte Bearbeitung im Sinne von Art. 21 nDSG liegt vor, wenn sowohl die inhaltliche Bewertung eines Lebenssachverhalts als auch die gestützt darauf erfolgende Entscheidung durch ein Programm im weitesten Sinne ohne menschliches Zutun erfolgt. Teilautomatisierte Systeme hingegen können als Entscheidungsunterstützung dienen und behilflich sein bei der Sachverhaltsermittlung. Das System ermittelt Informationen, stellt sie zusammen und wertet sie aus. Diese Informationen können dann von der natürlichen Person bei ihrer Entscheidungsfindung berücksichtigt werden – mit Betonung auf können, denn sie müssen nicht. Die endgültige Entscheidung liegt weiterhin beim Menschen selbst.
Das aktuelle Datenschutzgesetz sieht in Art. 21 nDSG nur für vollautomatisierte Entscheide eine Kennzeichnungspflicht sowie gewisse Rechte der betroffenen Personen vor, nicht aber für teilautomatisierte, obwohl diese eine ähnliche Auswirkung auf betroffene Personen haben können. Zudem wird Künstliche Intelligenz (KI) viel häufiger in teilautomatisierten Verfahren eingesetzt, als in vollautomatisierten. Um diese Punkte zu berücksichtigen, soll die Ergänzung in die Formulierung „KI-gestützte Einzelentscheidung“ enthalten und so als Art. 21bis nDSG die teilautomatisierte Entscheidung bei Verwendung von KI miteinbeziehen.
Artikel 21bis Informationspflicht beim Einsatz künstlicher Intelligenz
1 Der Verantwortliche informiert die betroffene Person über eine Entscheidung, die massgeblich auf künstlicher Intelligenz beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt (KI-gestützte Einzelentscheidung).
2 Er gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass die KI-gestützte Einzelentscheidung von einer natürlichen Person überprüft wird.
3 Die Absätze 1 und 2 gelten nicht, wenn:
a) die KI-gestützte Einzelentscheidung in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags zwischen dem Verantwortlichen und der betroffenen Person steht und ihrem Begehren stattgegeben wird; oder
b) die betroffene Person ausdrücklich eingewilligt hat, dass die Entscheidung KI-gestützt erfolgt.
4 Ergeht die KI-gestützte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen. Absatz 2 ist nicht anwendbar, wenn die betroffene Person nach Artikel 30 Absatz 2 des Verwaltungsverfahrensgesetzes vom 20. Dezember 19686 (VwVG) oder nach einem anderen Bundesgesetz vor dem Entscheid nicht angehört werden muss.
Die Parlamentarische Initiative wird zu einer politischen Debatte führen, da sowohl in der Privatwirtschaft wie auch in der Bundesverwaltung der Privatwirtschaft KI bereits stark Einzug gehalten hat.