Mit Blick auf den zunehmenden Einfluss von Algorithmen auf Entscheidungen in Wirtschaft und Gesellschaft wird auch über einen Algorithmen-TÜV debattiert. Wie stehen Sie dazu?
Algorithmen werden mit der Digitalisierung immer wichtiger für Wirtschaft und Gesellschaft. Der Vorschlag der Verbraucherzentrale Bundesverband einen Algorithmen-TÜV zu etablieren zeugt von der Sorge, dass durch Algorithmen Entscheidungen getroffen werden, die für Verbraucher nicht nachvollziehbar und möglicherweise diskriminierend sind. Ich sehe im Vorschlag eines Algorithmen-TÜV vor allem einen hilfreichen Beitrag zur Debatte, der Bewusstsein für die Probleme von Algorithmen schafft. Dem Problem der „Blackbox“ von der der Verbraucher nur das Ergebnis des Algorithmus mitgeteilt bekommt, kann durch Fehlererkennung, Korrekturmöglichkeiten und Transparenz begegnet werden. Durch selbstlernende Systeme und künstliche Intelligenz werden diese Fragen noch interessanter.
Nach welchen Kriterien sollten Algorithmen entscheiden dürfen und wie könnte das kontrolliert werden?
Für Algorithmen einen Katalog zulässiger Kriterien aufzustellen, wird den vielfältigen Anwendungen nicht gerecht. Algorithmen werden von Menschen gemacht und enthalten Wertungen. Dessen müssen sich die Programmierer bewusst sein. Denkbar sind abstrakte Vorgaben oder Leitlinien für bestimmte Anwendungen, die dazu beitragen, dass potentiell diskriminierende Ergebnisse vermieden werden. Eine Kontrolle der Algorithmen selbst wäre äußerst schwierig. Die Konfiguration der Algorithmen ist als Betriebs- und Geschäftsgeheimnis geschützt.
Aber selbst wenn der Algorithmen-TÜV in den Quellcode gucken dürfte, wäre damit noch nicht gesagt, dass ein bestimmtes, kritikwürdiges Verhalten des Algorithmus erkennbar ist. Denn Algorithmen können im „laufenden Betrieb“ in Verbindung mit Daten zu unbeabsichtigten, unfairen oder diskriminierenden Ergebnissen kommen, die vorher nicht erkennbar sind. Einzelentscheidungen zu generieren und zu vergleichen ist vielleicht der bessere Ansatz, da eine Prüfung und Beobachtung auch ohne Einblick in den Quellcode möglich ist. Dabei wird ein problematisches Ergebnis eines Chatbots, der rassistische Äußerungen aufgreift, leichter festzustellen sein, als ein wettbewerbsverzerrendes Sortieren der Ergebnisse einer Suchmaschine. Schon heute gibt es Kriterien, Protokollpflichten und auch Kontrollen durch den gesetzlichen Rahmen. Zum Beispiel durch die Regelungen zum Scoring und die Umsetzung der Datenschutzgrundverordnung.
Auch wenn man den Staat oder einem Beliehenen befugt den Code zu lesen, stellt sich die Folgefrage nach den weiteren Befugnissen des TÜV. Darf der TÜV den Algorithmus wie einen PKW „stilllegen“, wenn er nach bestimmten Kriterien als nicht mehr „verkehrssicher“ angesehen wird?
Wer könnte eine solche Kontrolle vornehmen?
Je nach Gebiet der Anwendung könnte Technische Überwachungsvereine, Verbraucherzentralen, Landesmedienanstalten oder Datenschutzaufsichtsbehörden ihre bisherige Expertise einbringen und weiterentwickeln. Ob eine Kontrolle überhaupt möglich ist, hängt auch davon ab, wie umfangreich die Kontrolle sein soll und kann.
Welche Algorithmen sollten kontrolliert werden und welche nicht? (Gibt es ggf. eine Relevanzschwelle, sollten behördliche Entscheidungen ggf. stärker kontrolliert o.ä.?)
Ein Algorithmen-TÜV könnte aufgrund der Anzahl von Algorithmen nur einen Bruchteil überprüfen. Dabei wäre darauf zu achten, dass die Prüfung nicht willkürlich vorgenommen wird. Insofern böte sich eine thematische Eingrenzung an. Ob man das mit „sensiblen Internet-Dienstleistungen“ beschreibt und dabei an Online-Angebote zu Versicherungstarifen oder Studienplätzen denkt oder andere Anknüpfungspunkte findet, würde sich zeigen. Für Verbraucher werden die Algorithmen besonders relevant sein, die ihnen gegenüber rechtliche Wirkungen entfalten.
Es wird vor allem die Frage zu beantworten sein, was nach der Kontrolle passiert und wie weit Befugnisse eines Algorithmen-TÜV gehen sollen. Bedenken bestehen dort vor allem bei der praktischen Umsetzbarkeit. Man könnte den Fokus aber auch verschieben – weg von reaktiver Kontrolle hin zu aktivem Gestalten, wo dies möglich ist. Das wäre bei quelloffener Software und der Blockchain-Technologie denkbar. Eine Anwendung könnten in Zukunft „smarte“ Verträge sein. Wenn derartige Standardverträge mit dem Anspruch fair zu sein erstellt werden, hätte der „TÜV“ oder eher eine „Stiftung smarte Verbraucherverträge“ die Kontrollmöglichkeiten und könnte damit Verbrauchervertrauen schaffen.
Wie sehen Sie die Rechtslage in Deutschland bezüglich von Algorithmen im internationalen Vergleich?
Über verschiedene Rechtsgebiete hinweg haben wir bereits heute Prüfmöglichkeiten mit durch die Rechtsprechung gezogenen Grenzen. Mit der Datenschutzgrundverordnung werden nächstes Jahr neue Werkzeuge europaweit eingeführt. Auch nach der Europäischen Richtlinie „Market in Financial Instruments“ (MiFID II) werden Berichts- und Protokollpflichten für die Aktivität von Algorithmen im Hochfrequenzhandel geschaffen. Auch andere nationale Parlamente beschäftigen sich mit der Frage, wie Algorithmen reguliert werden können. Unabhängig von konkreten gesetzlichen Regelungen sollten länderübergreifend Grundsätze einer Algorithmus-Ethik durch die Forschung entwickelt werden.
