Künstliche Intelligenz und Recht

Künstliche Intelligenz (KI) hat sich in den vergangenen Jahren zu einem der wichtigsten Technologietreiber entwickelt. Internet der Dinge, autonomes Fahren, maschinelles Lernen - die Einsatzgebiete von KI sind vielfältig und versprechen einen hohen Nutzen für die Gesellschaft.

Gesetz über Künstliche Intelligenz

Die Entwicklung und Nutzung von KI in der Europäischen Union sollen durch einen gesetzlichen Rahmen weiter gefördert werden. Das ist ein wesentliches Ziel des Entwurfs der Verordnung zur Regulierung der Künstlichen Intelligenz (EU-KI-VO), den die EU-Kommission im April 2021 vorgelegt hat. Gleichermaßen werden mit der EU-KI-VO ein sicherer und vertrauensvoller Einsatz von Künstlicher Intelligenz angestrebt, um mögliche Risiken von KI einzudämmen. Der Vorschlag der EU-KI-VO muss das europäische Gesetzgebungsverfahren aber noch durchlaufen. Nach dem aktuellen Stand des Entwurfs ist keine Umsetzung der Verordnung in nationales Recht erforderlich: er sieht vor, dass die EU-KI-VO 24 Monate nach ihrem Inkrafttreten unmittelbar in der EU gilt.

Regulierung der unterschiedlichen Risikoklassen

Der EU-Vorschlag differenziert in vier Risikoklassen und knüpft unterschiedliche Anforderungen daran. Verboten werden „inakzeptable“ Risiken wie z.B. die biometrische Erkennung durch KI oder sog. Social Scoring. „Hochriskante“ Risiken unterliegen strengen Anforderungen. So verlangt der Entwurf ein umfassendes Qualitäts- und Risikomanagementsystem etwa für Anwendungen in der Kritischen Infrastruktur. Für Anwendungen mit „geringen“ Risiken sind die Pflichten demgegenüber deutlich reduziert. Keine rechtlichen Verpflichtungen sind für Systeme mit „minimalen“ Risiken vorgesehen.

Bereits jetzt Handlungsbedarf

Es ist noch nicht absehbar, wie der neue Rechtsrahmen konkret ausgestaltet sein wird. Dennoch empfiehlt es sich bereits jetzt, die neue Regulierung intensiver in den Blick zu nehmen. Fällt unser Unternehmen in den Anwendungsbereich der Vorschriften? Zu welcher Risikoklasse dürfte die KI-Anwendung zählen? Welcher Sorgfaltsmaßstab sollte in Erwartung der EU-KI-VO bei der Entwicklung neuer KI-Anwendungen herangezogen werden? Die Anwältinnen und Anwälte unserer Kanzlei begleiten für Sie das laufende Gesetzgebungsverfahren und unterstützen Sie dabei, die zu erwartenden hohen Compliance-Anforderungen frühzeitig zu erkennen, um Haftungsrisiken bzw. Bußgelder zu vermeiden.