Künstliche Intelligenz und Recht

Künstliche Intelligenz (KI) hat sich in den vergangenen Jahren zu einem der wichtigsten Technologietreiber entwickelt. Internet der Dinge, autonomes Fahren, maschinelles Lernen - die Einsatzgebiete von KI sind vielfältig und versprechen einen hohen Nutzen für die Gesellschaft. Spätestens seit der Veröffentlichung der europäischen KI-Verordnung (EU AI Act) am 12. Juli 2024 besteht akuter Handlungsbedarf für alle Unternehmen, die mit KI-Systemen arbeiten. Die KI-Verordnung ist in Deutschland unmittelbar anwendbar.

Verordnung über Künstliche Intelligenz

Die Entwicklung und Nutzung von KI in der Europäischen Union sollen durch den gesetzlichen Rahmen weiter gefördert werden. Das ist ein wesentliches Ziel der EU-Kommission. Gleichermaßen wird mit der KI-Verordnung ein sicherer und vertrauensvoller Einsatz von KI angestrebt, um mögliche Risiken von KI einzudämmen. Die bestehenden technischen „best practices“ im Zusammenhang mit KI werden durch die KI-Verordnung regulatorisch – erstmalig weltweit –festgelegt.

Regulierung von KI-Systemen und -Modellen mit unterschiedlichen Risiken

Die KI-Verordnung auf einem risikobasierten Ansatz. Verboten ist die Nutzung von KI-Systemen mit unannehmbaren Risiken wie z.B. die biometrische Erkennung durch KI oder sog. Social Scoring. Hochrisiko-KI-Systeme unterliegen umfassenden strengen Anforderungen. So wird ein umfassendes Qualitäts- und Risikomanagementsystem etwa für Anwendungen in der Kritischen Infrastruktur verlangt. Für bestimmte KI-Systeme mit begrenztem Risiko sind die Pflichten demgegenüber deutlich reduziert, umfassen aber jedenfalls spezifische Transparenzverpflichtungen, die einzuhalten sind. Die KI-Verordnung enthält schließlich einige Regelungen für KI-Modelle mit allgemeinem Verwendungszweck und ggf. systemischen Risiken.

Handlungsbedarf

Unternehmen sollten spätestens mit Veröffentlichung der Verordnung beginnen, sich mit den Inhalten und praktischen Folgen dieses komplexen Regelungswerks auseinanderzusetzen. Fällt unser Unternehmen in den Anwendungsbereich der Vorschriften? Zu welcher Risikoklasse dürfte die KI-Anwendung zählen? Welcher Sorgfaltsmaßstab muss bei der Entwicklung neuer KI-Anwendungen herangezogen werden?

Die Anwältinnen und Anwälte unserer Kanzlei haben das Gesetzgebungsverfahren der KI-Verordnung intensiv begleitet und die finale KI-Verordnung ausgewertet. Unsere Spezialisten unterstützen Sie gerne dabei, den hohen Compliance-Anforderungen für Ihr Unternehmen gerecht zu werden, um Haftungsrisiken bzw. Bußgelder zu vermeiden.