Regulierung als Wettbewerbsvorteil

Regulierung als Wettbewerbsvorteil

von Dr. Dirk Schlesinger, Chief Digital Officer, TÜV SÜD AG

Der Vormarsch Künstlicher Intelligenz (KI) ist unaufhaltsam und wird unser aller Leben verändern. Eine stetig steigende Anzahl von Apps, Sensoren und Geräten generieren eine Flut an Daten und damit die Grundlage für neue KI-Systeme. Es gibt viel Gutes, das mit Hilfe von KI-Systemen geschaffen werden kann – ob in der Medizintechnik, im Umweltschutz, oder in der Logistik – aber wir sind uns ebenso bewusst, dass KI-Anwendungen auch missbraucht werden können. Gleichzeitig tritt der internationale Wettbewerb bei der Entwicklung und Anwendung von KI-Systemen in eine entscheidende Phase und man fragt sich zu Recht, welche der mannigfachen Möglichkeiten von KI-Systemen wie mit dem europäischen Wertekanon vereinbart werden können.

Unternehmen & Gesellschaft fordern mehr Überprüfung

Kein Wunder, dass nach klaren und nachvollziehbaren Aussagen zur funktionalen sowie ethischen Qualität von KI-Systemen gerufen wird. Das belegen auch Studien des VdTÜV-Verbandes – wie die Unternehmer-Studie 2020 oder die Verbraucher-Studie. Standards und Normen sollen geschaffen werden, Regulierung scheint unverzichtbar. Allerdings wird ebenso gefordert, dass die Balance zwischen Stringenz und Aufwand bei möglichen Prüfungen gewahrt bleiben – Regulierung darf keine Innovationsbremse sein, sondern muss Werte schaffen.

Regulierung – besser als ihr Ruf

Viele – so auch ich – zucken bei dem Stichwort Regulierung erstmal zusammen. Dabei bringt eine maßvolle und praktisch umsetzbare Regulierung viele Vorteile mit sich:

  • Mit „KI-Qualität Made in Germany / in der EU“ können sich Unternehmen mit ihren KI-Systemen von Marktbegleitern aus anderen Ländern differenzieren.
  • Regulierung schafft Transparenz und Vertrauen, ermöglicht somit eine schnellere Marktdurchdringung und damit Umsatzwachstum.
  • Eine schlüssige Regulierung schafft Leitplanken für die Entwicklung von KI-Systemen, welche als Katalysator für die hohe Qualität dienen können.
  • Unternehmen erhalten einen stabilen und sicheren Rechtsrahmen zum Wirtschaften.

Ansatzpunkte für die Regulierung & Qualitätssicherung

Qualität von KI hat mehr Dimensionen als die von Hard- und Software, die wir kennen. Zur klassischen Performanz (bspw. erkennt das KI-System Anomalien & Muster schnell und zuverlässig), kommen Kriterien wie Robustheit, Datenschutz, aber auch Transparenz, Erklärbarkeit und Berücksichtigung ethischer Werte. So weit so gut. Aber wie leitet man die konkreten Sicherheitsanforderungen an ein KI-System ab? Es scheint sich ein risikobasierter Ansatz zu etablieren, der KI-Systeme, je nach ihrem Anwendungsfall, in Klassen mit unterschiedlichen Prüfanforderungen einteilt.

EU-Regulierung mit neuer Dimension der Risikobetrachtung

Auf europäischer Ebene wurde im April 2021 der weltweit erste Gesetzesentwurf zur Einordnung von KI in Risikoklassen veröffentlicht. Wichtig dabei: Es wurden nicht nur Risikopotentiale betrachtet, sondern auch die Möglichkeiten für die von Entschei­dungen von KI betroffenen Menschen mit diesen umzugehen – d.h. sie gegebenenfalls nachzuvollziehen, anzuzweifeln oder sogar rückabzuwickeln. Dies ist eine neue Dimension der Risikobetrachtung und geht über das heute praktizierte Risikomanagement hinaus.

Abstrakte Regulierung muss in die Praxis übersetzt werden

Weiterhin stellt sich die Frage, wie mit möglichen Zielkonflikten von Schutzzielen umgegangen werden soll: Was wiegt schwerer: bessere Performanz bei der Erkennung von z.B. Krebs, oder Datensparsamkeit bei der Erhebung höchst­persönlicher Patientendaten? Wie rechnet man verschiedene Schutzziele gegeneinander auf und gibt es k.o.-Kriterien? Ungeachtet dieser noch zu lösenden, eher normativen Aufgaben, stellen sich Fragen der praktischen Umsetzung: Wie lassen sich aus allgemeingültigen Kriterien zur Quantifizierung von Risken eines KI-Systems konkrete Prüfbedarfe sowie Akzeptanzkriterien ableiten und dann praktisch mit vernünftigem Aufwand prüfen?

Es bleibt also viel zu tun für Gesetzgeber, Forschungseinrichtungen und Hochschulen, Prüfunternehmen, Hersteller und Verwender von KI: Sicherheitsstandards müssen formuliert, ethische Fragen geklärt, Prüfprozesse entwickelt und Institutionen für deren Umsetzung benannt werden. Diese Aufgaben lassen sich nur gemeinsam zu lösen. Erste Pilotprojekte dazu sind bereits angelaufen.

Letztendlich ist für den Erfolg künftiger Anwendungen von KI das Vertrauen der Nutzer entscheidend, egal ob nun Unternehmen, Behörden oder Privatpersonen – auch hier kann Regulierung einen positiven Beitrag leisten.