Vertrauen stärken, Missbrauch bekämpfen – Richtungsweisende Empfehlungen der Datenethikkommission

Die Antikorruptionsorganisation Transparency Deutschland begrüßt die Empfehlungen der von der Bundesregierung eingesetzten Datenethikkommission (DEK) und fordert eine jährliche parlamentarische Überprüfung über den Stand der Umsetzung.

Dazu erklärt Jochen Bäumel, Leiter der Arbeitsgruppe Digitalisierung von Transparency Deutschland:

„Die 75 Handlungsempfehlungen sind praktische Leitlinien dafür, wie das Potential der Digitalisierung gefördert und in gute Bahnen gelenkt werden kann. Jetzt ist die Bundesregierung gefordert, Fehlentwicklung im Bereich Digitalisierung endlich konsequent anzupacken. Nur so kann das Vertrauen in die neuen Technologien gestärkt und Machtmissbrauch verhindert werden.“

Schutz der freien Meinungsbildung

Besonderes Augenmerk hat die DEK auf algorithmische Systeme bei Intermediären gelegt, da ihnen eine ‚Torwächterfunktion für die Demokratie‘ zukommt.

„Die Datenethikkommission verweist zurecht auf die verfassungsrechtliche Pflicht, die freie, demokratische und plurale Meinungsbildung zu schützen. Dafür braucht es deutlich mehr Transparenz. Daher unterstützen wir beispielsweise die vorgeschlagene Offenlegung von technischen Verfahren der Nachrichtenauswahl und eine Kennzeichnungspflicht von Social Bots“

macht Jochen Bäumel deutlich. Beim Einsatz algorithmischer Systeme durch staatliche Stellen erinnert die DEK an deren Vorbildfunktion. Staatliche Entscheidungen müssen transparent und begründbar bleiben.

Regulierung algorithmischer Systeme

Die Datenethikkommission schlägt eine Regulierung algorithmischer Systeme durch eine neue europäische Verordnung vor. In dieser Verordnung sollen die „Zulässigkeit und Gestaltung algorithmischer Systeme“, „Transparenz“ und „Betroffenenrechte“ reguliert werden. Die DEK empfiehlt zur Beurteilung von Algorithmen das Potential der Schädlichkeit heranzuziehen – das heißt, dass die Eingriffstiefe abhängig von den möglichen Schäden für Individuen und Gesellschaft ist. Das ermöglicht, die Rechte von Nutzerinnen und Nutzern besser zu schützen.

Bereits ab Stufe 2 bei einer Skala von 5 soll eine „bedarfsgerechte Regulierung“ einsetzen, beispielsweise eine angemessene Folgenabschätzung der Risiken. Bei einem Schädlichkeitsfaktor 4 werden verschärfte Kontroll- und Transparenzpflichten bis hin zur Veröffentlichung von einfließenden Faktoren und deren Gewichtung gefordert. Die Stufe 5, die Anwendungen mit einem „unvertretbaren Schädigungspotential“ erfasst, soll ein vollständiges oder teilweises Verbot des algorithmischen Systems nach sich ziehen.

Dazu Jochen Bäumel:

„Das vorgeschlagene Verfahren würde den verantwortungsbewussten Umgang mit algorithmischen Anwendungen ermöglichen, der zurzeit nicht gegeben ist. Transparenz und Erklärbarkeit von Algorithmen sind Voraussetzung für die Vermeidung von Missbrauch. Wir finden es essentiell, dass die DEK ausdrücklich die Klagerechte von Wettbewerbern, Wettbewerbs- und Verbraucherverbänden unterstützt, um die Einhaltung von Rechtsvorschriften sicherzustellen.“

Laut DEK sollen die Aufsichtsfunktionen den sektoralen Kontrollbehörden übertragen werden, die von einem zu schaffenden bundesweiten Kompetenzzentrum für Algorithmische Systeme unterstützt werden sollten. Transparency Deutschland hält es für notwendig, dass diese Behörden frei von Weisungen arbeiten können und mit angemessenen Kapazitäten ausgestattet werden, um eine effektive Aufsicht sicherzustellen.

Kontakt

Jochen Bäumel
Leiter der Arbeitsgruppe Digitalisierung

Dr. Anna-Maija Mertens
Geschäftsführerin

030 - 54 98 98 0
presse@transparency.de