KI in der (Rechts-)Praxis – der 2. KI-Tag bei HÄRTING

Hier ein paar Highlights:

• Dr. Maria Börner (Westernacher Consulting) mit der Frage: „Ist KI die Lösung aller Probleme?“
  • Bias in KI-Trainingsdaten: Ausgewogene und diverse Datensätze sind essenziell für faire KI-Systeme
  • Innovationsgeschwindigkeit vs. Regulierung: Ein Mittelweg zwischen Innovation und Awareness kann den EU-Standort stärken
  • Ressourcenverbrauch von KI: Kleine spezialisierte Modelle sind oft effizienter und nachhaltiger
  • Praktische Tipps: Plattformen wie HuggingFace bieten Zugang zu frei verfügbaren Modellen und Datensätzen, die individuell angepasst werden können
• Thomas Fuchs mit den „Hamburger Thesen“ zum Thema „KI & Datenschutz“
  • DSGVO und KI: Unternehmen setzen häufig auf berechtigtes Interesse, öffentliche Stellen benötigen eine gesetzliche Grundlage
  • Praxisbeispiele: KI-generierte Entlassungsbriefe im UKE; KI-Kamerasysteme bei der Polizei
  • Hamburger Thesen: LLM speichern keine personenbezogenen Daten
  • EDSA-Opinion: EDSA wird sich noch in diesem Jahr differenziert dazu äußern
  • Unterschiedliche Regulierungsansätze: DSGVO regelt den Systemeinsatz, AI-Act das Modelltraining
• den AI Act auf den Punkt gebracht hat unser Kollege Vitorio Dimov
  • EU-KI-Verordnung: Die Verordnung ist seit August 2023 in Kraft, Pflichten greifen stufenweise bis 2027
  • Risikoklassen: Der AI Act arbeitet mit einem risikobasierten Ansatz
  • Pflichten im Fokus: Hochrisiko-KI-Systeme erfordern umfangreiche Compliance-Maßnahmen
  • KI-Kompetenzpflicht: Ab Februar 2024 muss KI-Wissen in Unternehmen nachweisbar sein
  • Bußgeldkeule: Verstöße können bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes kosten – frühzeitig handeln lohnt sich
• Hands-on mit Teachable Machine war die Session mit Martin Raasch (brainosphere 1 GmbH
  • Bias in KI-Modellen erkennen: Trainingsdaten müssen repräsentativ und divers sein
  • Modelldiagnose: Tools wie SHAP können helfen, Entscheidungen von KI-Modellen zu erklären und potenzielle Biases zu identifizieren
  • Synthetische Daten: günstig, gut gelabelt und datenschutzfreundlich
  • Anonymisierung: Komplex und oft unpraktisch für das Training, weil es zu „Data Poisoning“ führen kann
  • Bewusstsein schaffen: Sensibilität für gute und ausgewogene Daten ist wichtig
• Rebekka Weiß, LL.M. sprach über die Umsetzung der KI-Verordnung bei Microsoft Deutschland
  • KI-Governance bei Microsoft: Ein umfassendes System namens „Responsible AI“ mit 400 Mitarbeitenden
  • Transparenz als Prinzip: Microsoft veröffentlicht Standards und Tools, die Orientierung bieten
  • Iterativer Ansatz: KI-Governance ist ein kontinuierlicher Prozess
  • Data-Governance: KI-Governance beginnt mit einer soliden Datenstrategie
  • KI-Kompetenz fördern: Unternehmen sollten Mitarbeitende entsprechend ihrer Rolle schulen
• Fabio Vigliar (Haenel) (Merantix Momentum) stellte uns ein Framework für schlanke KI-Governance in Unternehmen vor
  • Schlanke KI-Governance: Effektive Governance ist pragmatisch und anpassbar.
  • Individuelle Lösungen: Governance sollte an Unternehmensgröße und Bedürfnisse angepasst werden.
  • Risikobasierter Ansatz: Systeme müssen nicht immer Hochrisiko sein oder bleiben.
  • Iterative Integration: KI-Projekte starten mit klar definierten Zielen und einer flexiblen Struktur.
  • KI als Chance: Transparenz und frühes Einbeziehen aller Stakeholder fördert eine erfolgreiche Integration.
• gemeinsam haben Rebekka Weiß, Fabio Vigliar und unsere Kollegin Marlene Schreiber über die Implementierung von KI Governance und Anforderung an KI Kompetenz diskutiert
  • Start mit den Basics: Identifikation aller genutzten KI-Systeme und deren Zweck.
  • Pflichten prüfen: Klärung der Risikoklassen und Rollen.
  • Effizienz nutzen: Bestehende Datenschutz- und Sicherheitsprozesse erweitern.
  • KI-Kompetenz aufbauen: Schulung von Mitarbeitenden angepasst und individuell.
  • KI als Chance: Gute Governance schafft nicht nur Compliance, sondern auch Wettbewerbsvorteile und effizientere Prozesse.
• Malini Nanda hat für uns die arbeitsrechtlichen Herausforderungen beim Einsatz von KI dargestellt (Achtung Betriebsrat!)
  • Mitbestimmung: Leistungskontroll-systeme sind mitbestimmungspflichtig
  • Typische Beispiele: Zeiterfassung, Ticketsysteme, integrierte KI-Tools
  • ChatGPT: Keine Pflicht den Betriebsrat einzubeziehen, wenn das Tool extern genutzt wird und keine Integration in die IT des Arbeitgebers erfolgt
  • KI-Richtlinien: Betriebsrat sollte frühzeitig einbezogen werden
  • Betriebsvereinbarungen schaffen Klarheit: Gut abgestimmte Regelungen erhöhen die Rechtssicherheit und fördern ein vertrauensvolles Miteinander
• auch Stefan Brink (wida) berichtet aus dem Arbeitsrecht
  • KI-Beispiele im HR-Bereich: Bewerberauswahl, Videoanalysen und Performance-Tracking
  • Dauerüberwachung: KI zur Kontrolle am Arbeitsplatz ist häufig unzulässig
  • KI-VO: Aus dem AI Act ergibt sich keine Rechtsgrundlage für die Datenverarbeitung
  • Automatisierte Entscheidungen: Art. 22 DSGVO ist oft KI-Killer; es braucht echte menschliche Entscheidungen
  • Transparenz: Betriebsvereinbarungen schaffen Klarheit und Akzeptanz. Sie sind essenziell, um den Einsatz von KI-Systemen im Arbeitsumfeld zu regeln
• was es im Zusammenhang Geistigen Eigentumsrechten und Patenten zu beachten gibt, haben Fabian Reinholz und Till Prömmel (Bundesdruckerei GmbH) berichtet
  
  • KI-Training: Ob eine Urheberrechtsver-letzung vorliegt, ist umstritten
  • Text- und Datamining-Schranke: Sammeln geschützter Werke für Analysezwecke ist erlaubt, Reichweite der Schranke unklar
  • Output: Rechtsverletzung ist denkbar, aber unwahrscheinlich
  • Patentschutz und KI: KI-Modelle sind grundsätzlich patentfähig, jedoch nur, wenn sie mit anderen Verfahren kombiniert werden; Erfinder kann nur eine natürliche Person sein, nicht die KI selbst

Eine ausführliche Zusammenfassung in außergewöhnlichem Setting haben Dr. Martin Schirmbacher und Marlene Schreiber für Sie. Die beiden haben mit den Speaker:innen direkt nach ihrem Vortrag gesprochen und zwei Sonderfolgen für unseren Podcast härtingfm aufgenommen:

• Bridge Over Troubled Water – AI-Act und KI-Governance (Folge 61)
• Take a Walk on the Wild Side – Datenschutz, Biases und Urheberrecht in der KI (Folge 62)

Wenn Sie rechtliche Unterstützung zum Thema KI brauchen, melden Sie sich gern bei uns. Wir helfen Ihnen bei der zulässigen Implementierung von KI-Tools in Ihrem Unternehmen, unterstützen Sie bei der Umsetzung von KI-Compliance nach der KI-VO (AI Act) und schulen Ihre Mitarbeitenden, um die erforderliche KI-Kompetenz in Ihrem Unternehmen nachzuweisen.

Sie haben Interesse an einer Schulung zum AI Officer? Dann haben wir hier das richtige Angebot für Sie: ai-officer.io