September 2024 Blog

Der Kampf gegen die Blackbox-Eigenschaft: Transparenz von KI-Systemen nach dem BSI-Whitepaper

Spätestens seit Inkrafttreten der KI-VO stellen sich die Adressaten dieser (und das sind sehr viele - vgl. dazu unseren Blogpost) die Frage, was genau „Transparenz“ von KI-Systemen meint und wie man eine solche Transparenz im eigenen Unternehmen erzeugen und aufrechterhalten kann. Eine Hilfestellung gibt nun das am 5. August 2024 vom Bundesamt für Sicherheit in der Informationstechnik („BSI“) veröffentlichte Whitepaper zur Transparenz von KI-Systemen („Whitepaper“).

Allgemeine Erläuterungen

„Transparenz von KI-Systemen ist die Bereitstellung von Informationen über den gesamten Lebenszyklus eines KI-Systems sowie über dessen Ökosystem. Transparenz forciert die Zugänglichkeit zu Informationen, die eine Einschätzung des Systems hinsichtlich unterschiedlicher Bedarfe und Ziele ermöglichen, für alle Interessenträger“, so lautet die Definition, welche das BSI in seinem Whitepaper vorstellt. Hiermit möchte das BSI den breit gefassten Transparenzbegriff der KI-VO „greifender“ formulieren und umgrenzen. Im Hinblick auf „KI-Systeme“ wird auf die Legaldefinition in Artikel 3 KI-VO Bezug genommen.

Das BSI erklärt das Erfordernis der Offenlegung von Informationen damit, dass Informationen die Grundlage für das Wissen sind, welches die Interessenträger (z.B. Verbraucher oder Entwickler - zum vielseitigen Begriff der Interessenträger vgl. die Übersicht auf S. 10 des Whitepapers) benötigen, um ein KI-System und dessen Verwendung, Veränderung oder Bereitstellung hinsichtlich seiner Angemessenheit und Vertretbarkeit zu bewerten. Nur so sind (so das BSI) Interessenträger in der Lage, eigenständig zu entscheiden, ob ein KI-System für ihre Bedürfnisse geeignet ist. Dabei können unterschiedliche Interessenträger auch unterschiedliche Anforderungen an Transparenz haben.

Mögliche Hilfestellungen

Aus dem Whitepaper des BSI können mehrere Maßnahmen („Anforderungen an Transparenz“) abgeleitet werden, die schon jetzt von Interessenträgern – ohne konkrete Umsetzungs-Leitlinien des Gesetzgebers bzw. der Kommission – ergriffen werden können, um die Transparenz von KI-Systemen zu erhöhen. Diese Maßnahmen sind:

Generell

  • Prüfung und Gewährleistung, dass KI-Systeme den gesetzlichen Rahmenbedingungen und Transparenzanforderungen entsprechen, wie sie beispielsweise in der KI-VO festgelegt sind (vgl. Art. 13 und Art. 50 KI-VO).
  • Erstellung und Pflege einer umfassenden technischen Dokumentation der KI-Systeme (z.B. zu den verwendeten Algorithmen, Datenquellen und Entscheidungsprozesse), die zudem öffentlich zugänglich gemacht wird, um so Schnittstellen zu anderen Systemen und Datenquellen identifizieren zu können.
  • Bereitstellung einer Gebrauchsanweisung für Anwender (also die Erklärung der Funktionsweise von KI-Systemen), um die Ergebnisse (Entscheidungen) der KI-Systeme nachvollziehbarer zu machen, die Beurteilung der Angemessenheit von KI-Systemen zu fördern und so Anwendungsfehler zu vermeiden.

IT-Sicherheit

  • Offenlegung und Bewertung von Risiken, die mit dem Einsatz und der Nutzung des KI-Systems einhergehen sowie Kenntlichmachung von Rollen und Verantwortlichkeiten bei Schadensfällen und unerwünschten Ereignissen, um fehlerhaftes Systemverhalten zu detektieren, Reaktionszeiten zu verkürzen und so mögliche Folgeschäden einzudämmen.
  • Sowohl Entwickler als auch Nutzer sollten über die Bedeutung von Transparenz und die entsprechenden Maßnahmen informiert und hierzu geschult werden, um die erforderliche Sensibilisierung zu schaffen, aber auch das Vertrauen in KI-Systeme zu stärken.
  • Anwendung des Prinzips der Datensparsamkeit (Art. 5 DSGVO), welches für jeden individuellen Anwendungsfall separat beantwortet wird: Es sollten so viele Informationen wie notwendig, aber nicht mehr als unbedingt erforderlich preisgegeben werden ("need-to-know"-Prinzip).
  • Nach dem BSI kann außerdem die Beantwortung der Leitfragen "Welche Informationen benötigt ein Interessenträger zur Entscheidungsfindung?" und "Welche Informationen sind nicht von Relevanz?" hilfreich sein, um zu ermitteln, wie viele Informationen öffentlich gemacht werden müssen.

Ausblick

Transparenz stellt eine zentrale Anforderung nach der DSGVO und der KI-VO dar. Nutzer haben oft Schwierigkeiten, die internen Prozesse von KI-Systemen zu verstehen (Problem der “Blackbox”-Eigenschaften der KI-Systeme). Das BSI-Whitepaper gibt Interessenträgern hilfreiche Leitlinien und Impulse für Maßnahmen zur Herstellung und Gewährleistung von (mehr) Transparenz von KI-Systemen. Diese Maßnahmen bzw. die damit erzeugte Transparenz sollen (so das BSI) dazu beitragen, das Vertrauen in KI-Systeme zu stärken und eine verantwortungsvolle Nutzung zu fördern. Zudem könne Transparenz das Zusammenspiel verschiedener Akteure/Interessenträger entlang der Lieferkette vereinfachen, was wiederum dem Funktionieren des Binnenmarktes dienlich sein könne.

Auch das BSI betont aber, dass Transparenz von KI-Systemen ein „zweischneidiges Schwert“ sei, da die Ziele und Probleme (zumindest teilweise) gegenläufig sind und daher nicht simultan gelöst werden können. Trotz vieler nützlicher Impulse und Hilfestellungen bleiben also nach wie vor viele Fragen zur praktischen Umsetzung offen, die – nicht zuletzt auch durch den Gesetzgeber – beantwortet werden sollten. Insofern sei darauf hingewiesen, dass die Kommission Leitlinien für die praktische Umsetzung der Transparenzpflichten gemäß Artikel 50 KI-VO erarbeitet (siehe Art. 96 Absatz 1 Buchstabe d KI-VO).

Anmeldung zum GvW Newsletter

Melden Sie sich hier zu unserem GvW Newsletter an - und wir halten Sie über die aktuellen Rechtsentwicklungen informiert!