Aktuelles
Artikel Wissenschaft

Künstliche Intelligenz und kommerzielle Forschung

Mangelnde Transparenz und fehlende Verfahren

Arbeitspapier von Dr. Hans Amann mit Unterstützung der Arbeitsgruppe Wissenschaft von Transparency Deutschland

1. Die großen Internetfirmen betreiben mit ihren immensen Mittelzuflüssen vielfältige Projekte in der Anwendungs- wie in der Grundlagenforschung. Sie berichten darüber wenig oder überhaupt nicht. Alphabet/Google, Apple oder Facebook, um drei große US Gruppen als Beispiele zu nennen, wenden jährlich viele Milliarden Dollar auf, mit zunehmender Tendenz, um ihre Positionen in Forschung, Technologie, Verkauf, Finanzen und in der Gesellschaft auszubauen. Auffallend ist die schnelle Entwicklung von Daten-Plattformen, die ohne Hardware in Produktion und Vertrieb sehr profitabel sein können. Die Einflüsse der Internetfirmen und insbesondere der sozialen Medien auf alle Lebensbereiche jedes Einzelnen wie der Gemeinschaft wachsen ebenso rasant, wie deren Wirtschafts“leistung“. Im Fokus der aktuellen Diskussion stehen insbesondere die Entwicklung künstlicher neuronaler Netzwerke mit kognitiven Fähigkeiten („künstliche Intelligenz“, „Deep Learning“), sich selbst zu verbessern und eigenständig zu handeln sowie die ökonomische Verwertung einzeln erhobener und aggregierter Daten. Neben den Chancen (intelligente Logistik, nachhaltige Energieversorgung, individualisierte Medizin etc.) werden als Risiken vor allem die sich bildenden Oligopole mit Auswirkung auf die gesellschaftliche Struktur (digitales Prekariat), fehlende demokratische Legitimierung sowie die Verselbstständigung dieser Technik, insbesondere in Sicherheitstechnik und Militär (Gesichtserkennung, Cyborgs, Chatbots, Drohnen etc.) thematisiert.

2. Nach der Definition von Transparency wird unter Korruption der Missbrauch anvertrauter Macht verstanden. Ansatzpunkt ist hier das Schutzgut (Grundrecht) der infomationellen Selbstbestimmung, das zur ökonomischen Disposition Dritter („anvertraut“) gestellt wird. Probleme solcher Marktmacht werden insbesondere in der verborgenen Nutzung von (persönlichen) Daten erkennbar, die nur bedingt durch staatliche Regularien wie die neue europäische Datenschutz Grundverordnung kontrolliert werden können. Daneben zeigt das Beispiel der Partnerfirma von Facebook, Cambridge Analytica, wie Personendaten zweckentfremdet werden und zu fragwürdigen Anwendungen mit zunächst verdeckten Vorteilen bei Dritten führen, ein Skandal, Korruption ohne finanzielle Bestechung im konventionellen Sinn.

3. Wie ist Abhilfe des Mangels an Transparenz möglich?

Einmal über ein dichtes und häufiges Monitoring der Einhaltung der zügig anzupassenden gesetzlichen Vorgaben. Ein Beispiel wäre die Einführung von Datenschutz Plaketten, ähnlich wie etwa die umfangreich geprüften TÜV Plaketten für Kraftfahrzeuge. Solche gut fassbaren Plaketten gewährleisen wirkungsvoll und weitergehend transparent die Sicherheit technischer Systeme.

4. Wichtig wäre auch die näher zu konkretisierende Kontrolle der Algorithmen, mit denen Internetfirmen optimieren, wo, wann und wie Daten erhoben und eingesetzt werden. Know how Schutz für solche Algorithmen auf der einen Seite und das Interesse der Öffentlichkeit und des Staates an den Algorithmen auf der anderen Seite sind in Einklang zu bringen. Eine schwierige aber langfristig wahrscheinlich lösbare Aufgabe mit z.B. folgendem Ansatz: die Folgen der Algorithmen und ihres Einsatzes, die transparente Wirkung also, nicht die Algorithmen selbst, könnten brauchbar für die Findung wirksamer Kompromisse sein. Insoweit ist auch denkbar, diese Datenbestände in Gemeineigentum zu überführen und durch ein international, demokratisch legitimiertes und kontrolliertes Gremium zu verwalten. (vergleichbar BlockchainTechnologie)

5. Die Bedeutung von Transparenz der Internetfirmen ist für deren gerechte und notwendige Besteuerung, sowie ihre kartellrechtliche Einordnung entscheidend wichtig. Auf diese wahrlich zwingenden staatlichen Aufgaben kann hier lediglich am Rande hingewiesen werden. Gleiches gilt für die Bedeutung von Transparenz für die drei großen Technologiethemen „Digitalisierung", „Internet der Dinge" und „Künstliche Intelligenz", die hier schon ausführlicher behandelt wird. Daneben ist auf die Verknappung der Forschungsressourcen durch die ungleiche Konkurrenz zwischen den Forschungszentren für künstliche Intelligenz der Internetgiganten und (öffentlich geförderten) Forschungseinrichtungen hinzuweisen. (1) Eine zweckfreie, erkenntnisorientierte Lehre und Forschung ist unter diesen Rahmenbedingungen erschwert.

6. Transparenz in einer immer wichtigeren Internet Welt muss Transparency International zentral interessieren. Hier sind erst einmal einige Stichworte zur Anregung von Aufmerksamkeit gegeben. Sie mögen auch als Hinweise für weitergehende Analysen und für den Entwurf eines Arbeitsbuchs zum Beheben von bedenklicher Intransparenz hilfreich sein. Denkbar wäre zum Beispiel die Vertiefung des Themas in der Projektgruppe Digitalisierung von Transparency Deutschland. Auch der Bundestag hat kürzlich eine Enquete-Kommission zur künstlichen Intelligenz eingesetzt. (2)

Insoweit sollte Transparency Deutschland auch die Kernforderungen des gemeinnützigen Artificial Intelligence Now Institutes diskutieren (3) : (Hervorhebung von Aspekten mit konkretem Bezug zu TI, Übersetzung aus dem Englischen Amann(Friese):

  1. Die Kernverwaltung, die Aufgaben der Kriminalitätsbekämpfung, des Gesundheits-/Sozial-/Bildungswesens, wahrnimmt, soll keine sog. Black box KI und Algorithmen Systeme nutzen.
  2. Unternehmen, die Systeme der KI veröffentlichen, sollten erst einmal mit VorVersuchen sicherstellen, dass sie nicht Tendenzen und Fehler vergrößern, die Vorgängen in Übungsdaten, Algorithmen oder anderen Elementen des Systementwurfs entstammen.
  3. Nach der Veröffentlichung von KI Systemen sollten die Unternehmen ihren Gebrauch in verschiedenen Zusammenhängen und bei verschiedenen Gemeinschaften weiter verfolgen.
  4. Weitere Forschung und Maßnahmen sind nötig für den Gebrauch von KI Systemen am Arbeitsplatz inklusive der Anstellung neuer Mitarbeiter.
  5. Standards für die Auffindung und Verfolgung der Herkunft, Weiterentwicklung, und dem Gebrauch von Datenätzen für die Ausbildung sind während ihres Gebrauchs zu erstellen.
  6. Erweiterung der KI Forschung über einen rein technischen Ansatz hinaus (Folgenabschätzung).
  7. Erforderlichkeit von wirksamen Standards zur Prüfung und zum Verständnis von KI-Systemen.
  8. Unternehmen, Forschungseinrichtungen, Konferenzen und andere Akteure im Bereich der künstlichen Intelligenz sollten Daten mit Beteiligung von Frauen, Minderheiten und anderen in der Forschung und Entwicklung der künstlichen Intelligenz marginalisierten Gruppen veröffentlichen.
  9. Die KI-Unternehmen sollten auch Experten aus anderen Disziplinen als die der Informatik oder dem Ingenieurwesen einstellen und sicherstellen, diese über Entscheidungsbefugnisse verfügen.
  10. Spezifische Ethik-Kodizes zum Thema KI sollten durch strenge Aufsichts- und Rechenschaftsmechanismen begleitet werden.

(1) Betroffen von diesem Braindrain sind auch private Ivy-League Universitäten wie Stanford, Harvard et., Apple hat seit 2014 die Zahl der KI-Experten mehr als verdoppelt. Facebook hat allein in den vergangenen Wochen drei der weltweit führenden Forscher eingestellt.

(2) www.bundestag.de/dokumente/textarchiv/2018/kw26-de-enquete-kommissionkuenstlicheintelligenz/560330.

(3) medium.com/@AINowInstitute/the-10-top-recommendations-for-the-ai-field-in-2017- b3253624a7

Schlagwörter