Themen

© Linforth Pete / Pixabay

Digitalisierung

Die zunehmende Digitalisierung der Gesellschaft hat zu neuen Formen der Machtausübung und damit auch zu neuen Risiken von Machtmissbrauch geführt, insbesondere bei der Manipulation administrativer und demokratischer Prozesse. Dabei kommt es zur Verletzung von Grundrechten, mangelhafter Durchsetzung geltenden Rechts und der Missachtung von Werten, die für Freiheit und Selbstbestimmung konstitutiv sind. Einer übermäßigen Transparenz der Nutzerinnen und Nutzer – Stichwort „Gläserner Bürger“ – stehen Intransparenz, manipulative Praktiken sowie wettbewerbs- und demokratieschädigende Geschäftsmodelle der Datensammler gegenüber.

Hintergrund

Das Grundgesetz und die Grundrechte-Charta der Europäischen Union sind Ausdruck der Schutzrechte des Einzelnen und organisieren unser Zusammenleben. Die Technologien der Digitalisierung gestalten dieses Zusammenleben neu. Grundrechte wie die informationelle Selbstbestimmung, das Recht auf Vertraulichkeit, die Achtung der Privatheit und der Schutz personenbezogener Daten werden um des ökonomischen Nutzens in Frage gestellt. An diesem Punkt besteht die Möglichkeit des Machtmissbrauchs gegenüber Millionen von Menschen.

Das Geschäftsmodell großer Internetkonzerne besteht in einem ersten Schritt im Sammeln großer Mengen persönlicher und verhaltensgenerierter Daten, die sie als Gegenleistung für kostenlose Dienstleistungen beanspruchen. Dazu gehören die Nutzung von Browsern, Suchmaschinen, die Kommunikation in sozialen Netzwerken, die Verwendung von Fitnesstrackern, Anwendungen im „smart“ Home oder der „smart“ City, die Aufzeichnung von Standort- und Verkehrsdaten, die Sammlung von Fahrzeugdaten sowie Sprach- und Gesichtserkennungen.

In einem zweiten Schritt werden diese Datenmengen mit künstlicher Intelligenz analysiert und für eine zielgerichtete, personalisierte Werbung aufbereitet oder für Vorhersagen der verschiedensten Art genutzt. Mit diesen Prognosen sollen dann Geschäftsrisiken minimiert oder Preismodelle für Geschäfte gestaltet werden. Diese Erkenntnisse können verkauft werden und sind damit Träger des Profits. Auf diese Art abgeschöpfte, verhaltensbezogene Daten sind der Rohstoff für neue Dienste und Industrieprodukte. Das ist jedoch noch lange nicht der Endpunkt der Entwicklung.

Der dritte Schritt ist auf die Steuerung der Betroffenen durch Präzisierung von Vorhersagen und Minimierung von Geschäftsrisiken gerichtet. Techniken wie Profiling, Scoring und Nudging, aber auch Monopole und Netzwerkeffekte auf den Märkten führen zur Anpassung des Verhaltens der Kunden an ökonomische Zwänge. Ziel ist letztlich die Profitmaximierung, der alles untergeordnet wird.

So stehen Personen mit ihren in den Grundrechten garantierten Freiheiten den Profitinteressen einzelner Unternehmen gegenüber, die das freie Verhalten in Form von Daten nicht nur abschöpfen, sondern auch in ihrem Sinn umgestalten und einschränken wollen.

An diesem Schnittpunkt beginnt das Risiko des Machtmissbrauchs, wenn Verhalten mit psychologischen Tricks manipuliert wird, wenn Märkte keine Alternativen mehr bieten, wenn Normen – gesetzlich festgeschrieben wie in der Datenschutzgrundverordnung – missachtet werden.

Es gilt, Monopolstellungen zu verhindern und die Umsetzung der gesetzlichen Vorgaben – zur Sparsamkeit bei der Datenerhebung, der Zweckbindung der Datenverarbeitung oder auch der Verständlichkeit und Erklärbarkeit von Algorithmen – einzufordern. Das ist besonders für Algorithmen notwendig, die in den Bereichen Gesundheitswesen, Kreditvergabe oder im Personalwesen eingesetzt werden. Es geht um die Wahrung von Lebenschancen, wenn Algorithmen die Kaufkraftentwicklung bei Personen vorhersagen, wenn Charaktere beurteilt werden, das soziale Umfeld gescannt wird, die Kreditwürdigkeit beurteilt wird oder die (vermeintliche) Achtsamkeit gegenüber der eigenen Gesundheit in den persönlichen Score und in andere wirtschaftliche Prozesse einfließt.

Nur wenn Bürgerinnen und Bürger den Sinn und die Grundstrukturen der kausalen Zusammenhänge von Algorithmen erkennen, sind sie in der Lage, ihre demokratischen Rechte wahrzunehmen und durchzusetzen sowie Machtmissbrauch zu bekämpfen.


Pressemitteilungen

Jochen Bäumel

Leiter der Arbeitsgruppe Digitalisierung