Recht und Demokratie im Zeitalter der künstlichen Intelligenz: Der Beitrag der Europäischen Union

Michael KnollZukunft der Demokratie Hinterlasse einen Kommentar

Paul Nemitz, Chefberater der Generaldirektorin für Justiz und Verbraucher der Europäischen Kommission, zuvor Direktor in der EU-Grundrechte-Agentur, erörtere am 23. Januar 2017 auf Einladung der Schwarzkopf-Stiftung und des Hertie-Innovationskollegs den Einfluss von künstlicher Intelligenz auf den öffentlichen Meinungsbildungsprozess.

Er begann seinen Vortrag mit einem Kurzabriss zur Demokratie in Europa. Hierbei war ihm wichtig, mit dem Vorurteil aufzuräumen, dass die Geschichte der EU eine Geschichte der Entdemokratisierung und nicht der Demokratisierung sei. Zugleich betonte er, dass er in der öffentlichen Kritik an der EU vermisse, dass die EU auf Rechtstaatlichkeit beruhe und ihre Beziehungen zu anderen Staaten auf das Recht und nicht – wie weltpolitisch immer noch vorherrschend – auf Ausübung von Macht stütze. Die aktuell zu erlebende Diskreditierung der Integration der EU durch die Verfassungsänderungen in Polen und Ungarn fuße aus seiner Sicht auf dem Mangel an Integration, wie er sich im Einstimmigkeitserfordernis des Art. 7-EUV – Verfahrens äußere, nicht auf einem Überfluss derselben.

Nemitz fuhr dann mit einigen Schlaglichtern auf das Feld der künstlichen Intelligenz und ihre aktuellen Entwicklungen fort. Das Neue an der künstlichen Intelligenz, die diese von der bekannten Automatisierung durch Roboter unterscheide, liege darin, dass die KI-Maschine autonom sei. Sie habe die Fähigkeit zu selbstlernender Weiterentwicklung. Deshalb würden sich nun Grundfragen der Verantwortlichkeit stellen, die aktuell vor allem in Bezug auf selbstfahrende Autos diskutiert werden. Man müsse bei Künstlicher Intelligenz (KI) die (bekannten) Arten der speziellen KI (kann eine Sache besonders gut) und der generellen KI (kann alle Sachen so gut wie der beste Mensch) unterscheiden [Anm. – Auf die die Fähigkeiten des Menschen übersteigende „Künstliche Superintelligenz“ ging er insoweit nicht ein]. Der generellen KI sei ein Risiko inhärent, das der schwedische Philosoph Nick Bostrom in einem Satz zusammengefasst hatte: „KI wird unsere letzte Erfindung sein“. Was das politische Agieren schwierig mache, sei die Tatsache, dass niemand wisse, wie weit wir von dem Erreichen der generellen KI entfernt seien. Denn ein Großteil der Forschung finde hinter den verschlossenen Türen der fünf amerikanischen Digitalriesen (Apple, Google, Facebook, Amazon, Microsoft) und chinesischen Firmen (wie Ali Baba, Baidoo, 10cent etc.) statt. Evgeny Morozov, Publizist im Bereich der Digitalisierung und Kenner der Szene, schätze, dass in jedem der Unternehmen 2.000–3.000 Ingenieure mit Budgets von bis zu 12 Milliarden USD arbeiteten. Selbst die jeweiligen ehemaligen Doktorväter, Professoren an renommierten US-Unis, wüssten über das aktuelle Treiben ihrer Schüler nicht gut Bescheid. Viele der Professoren rechneten damit, dass die Entwicklung noch bis zu 40 Jahre dauern werde. Nemitz berichtete jedoch auch von Schätzungen, die ihn bei seinem jüngsten Besuch am MIT mitgeteilt wurden, wonach in spätestens fünf bis zehn Jahren KIs in der Lage sein werden, alle Spiele zu gewinnen. Dabei dürfe man nicht an Schach denken – „Spiele“ seien für die Informatiker vielmehr alle komplexen, regelbasierten, aber auch Unsicherheiten enthaltenden Aufgabenstellungen – und die beliebtesten davon seien der Aktienmarkt sowie Wahlen.

Mit dem Zusammenhang zwischen KI und Demokratie in der sog. automated public sphere kam Nemitz zu seinem Kernanliegen, dem Schutz der Demokratie vor KI. „Automated public sphere“ entstehe durch die von KI gesteuerten Medien, die zur Grundlage der Demokratie gemacht werden. Eines der populärsten Beispiele hierfür war die von dem Unternehmen Cambridge Analytics behauptete Erfolgskampagne für Trump, die anhand der Auswertung von Daten aus sozialen Netzwerken u.a. besonders im eigentlich pro-demokratischen „rust belt“ durch wahlkreisgenaue Beeinflussung den Sieg Trumps erreicht habe. Ähnliches sei auch von der Kampagne von Mitt Romney bekannt, in der eine App benutzt wurde, um in bestimmten Gebieten die Menschen anhand von Hochrechnungen am Wahltag zum Wählen zu animieren – ein höchst erfolgreiches Unterfangen, das letztlich lediglich an einem Absturz der App scheiterte. Im letzten US-Wahlkampf wurden über 1 Milliarde USD allein für diese Wähler-Profilbildung ausgegeben. Hieran sei die hohe Relevanz der Digitalisierung für die Wahlen erkennbar. Eine derartige Beeinflussung, so die kategorische und nachdrückliche Aussage Nemitz‘, wäre in Deutschland bzw. der EU allerdings nicht möglich. Denn die von den Kampagnenhelfern genutzten Daten fielen seit langem unter einen besonders strengen Datenschutz, der in der DS-GVO jetzt noch ausgebaut wurde. Der Hintergrund für dieses hohe Schutzniveau liege schlicht darin, dass Datenschutz in Europa zum Grundrechtekatalog gehöre, während es in den USA der politischen Opportunität ausgesetzt sei. Obama sei zweimal damit am Kongress gescheitert, ein entsprechendes Datenschutzrecht einzuführen. Die Neuerungen der Datenschutz-GVO, nämlich die Sanktionierung von Verstößen mit Zahlungen von 4% des Weltumsatzes sowie die Einführung/Vertiefung eines allgemeinen Auskunfts- und Löschungsrecht für jedermann gegenüber allen „Datensammlern“, zeitige bereits im Vorfeld Wirkung und werde deshalb den beschriebenen jetzigen Zustand, dass eine interessenbasierte Wählerbeeinflussung wie in den USA ausgeschlossen bleibe, absichern. Datenschutz sei aus Sicht von Nemitz, dessen beruflicher Schwerpunkt zuletzt auch im Datenschutzrecht lag,  insofern nicht nur ein Individualgrundrecht, sondern gleichsam konstitutiv für die Demokratie. Es müsse verhindert werden, dass derjenige die Wahlen gewinne, der lediglich das bessere (technische) Programm bzw. Datensätze habe, mit dem er bzw. aufgrund derer er dann Wähler ausgehend von ihren Vorlieben und Interessen jeweils anders beeinflussen könne. Das zentrale Problem der KI liege darin, dass es dann an einer gemeinsamen Gesprächsgrundlage für einen öffentlichen Diskurs fehle. Es gehe deshalb nicht nur um die Transparenz in der Entwicklung von KI, sondern auch um Transparenz in der Anwendung von KI. Es sei notwendig, zu wissen, was die Parteien den Bürgern im Vorfeld von Wahlen sagen. Jeder Bürger erfahre potentiell etwas anderes; man wisse nicht mehr, auf welchem Wege und mit welchen Inhalten der Nachbar überzeugt wurde, zu wählen. In Amerika werde deshalb z.Z. überlegt, alle digitalen Aussendungen von Parteien im Wahlkampf in ein Register aufzunehmen.

Nemitz betrachtete anschließend die Auswirkungen der Digitalisierung auf die Presse, verstanden als vierte Gewalt in der Demokratie. Die Presse habe die Aufgabe, staatliche oder wirtschaftliche Macht zu kontrollieren. Die Presse befinde sich zum einen in einer ökonomischen Krise, denn 80% der relevanten Werbeeinnahmen, die früher vor allem an die gedruckte Presse gingen, gehen nun an Facebook und Google. Die Presse sei zum anderen aber auch einem Bedeutungsuntergang gegenüber dem Internet (v.a. Facebook und Google) ausgesetzt, wie die jährliche Rangliste des Grimme-Instituts über quellenpolitischen Information zeige. In der Gruppe der unter 30-Jährigen lägen Facebook und Google als Informationsquellen auf den ersten drei Plätzen. Nemitz zufolge sei das Internet jedoch – zumindest in den Ländern der westlichen Welt mit entwickelter Presse – nicht in der Lage, die Presse als Vierte Gewalt zu ersetzen. Das Internet schaffe u.a. keine Gegenstimmen und Gegenwichte und gewähre keine Transparenz.

Als abschließend Handlungsrichtlinie im Umgang mit KI verwies Nemitz auf den Philosophen Hans Jonas und dessen im 1979 erschienen Buch „Prinzip Verantwortung“ entwickelten [Anm. auch als „ökologisch(en)“ bezeichneten] Imperativ [Anm. „Handle so, dass die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden.“] Dies bedeute auch, dass es, wenn es eine Technologie gebe, die langfristige Wirkungen haben könne und bei der man nicht ausschließen könne, dass sie Schlechtes für die Menschen mit sich bringen könne, bereits heute die notwendigen Schritte getroffen werden müssen, um diese negativen Auswirkungen, auch wenn sie sehr weit in der Zukunft liegen, zu vermeiden. An dieses Vorsorgeprinzip appellierte Nemitz auch in Bezug auf den Umgang mit KI.

In der anschließenden Diskussion legte Nemitz u.a. dar, warum die Digitalriesen aus den USA und China eine nie dagewesene Stellung innehatten. Sie vereinten (i) einen enormen Börsenwert, also Geld, mit der Tatsache, dass sie (ii) den öffentlichen Diskussionsraum in der Hand hätten und (iii) über Datenprofile von jedem (auch von anderen Personen als ihren Nutzern!) verfügten, mit (iv) einer hohen Innovationsdichte, von der die Politik nur entfernt eine Ahnung habe. Es werde in den USA überlegt, ob es eines neuen Sherman Acts zur Zerschlagung der Digitalriesen bedürfe; eine Idee die Nemitz wohl zumindest bedenkenswert erschien. In Deutschland sei diesbezüglich zumindest eine kleinere erfreuliche Entwicklung eingetreten: Das Internet-Institut werde inzwischen mit öffentlichen Forschungsgeldern und nicht mit Geldern der Digitalriesen gefördert. Auf eine Nachfrage, ob er angesichts des in den Vordergrund gestellten Datenschutzes momentan diesen allein als ausreichend erachte um vor den möglichen Risiken im Zusammenhang mit KI gefeit zu sein oder ob eine weitere Regulierung nötig sei, um dem Vorsorgeprinzip Genüge zu tun, antwortete Nemitz, dass die europäische Rechtsordnung gut aufgestellt sei: „Wir brauchen viel weniger als die Amis“. Die Datenschutz-GVO genüge wohl ebenso wie die zivilrechtlichen Haftungsregeln. Als persönliche Arbeitshypothese stellte er aber in den Raum, dass es in Zukunft einer verbindlichen Kennzeichnungspflicht bedürfen werde, sobald eine KI-Maschine etwas sage, um den demokratischen Diskurs in seiner jetzigen Form aufrechtzuerhalten. Im weiteren Verlauf trat er vehement weiteren klassischen Argumentationsmustern gegen Regulierung im Internet entgegen. Die 1999 auf dem World Economic Forum propagierte „Independence of the Internet“ existiere nicht. Technik sei vom Sicherheitsgurt im Auto über das AtG, Pharmazeutikaregulierung bis zu Regeln für den Umgang mit Chemikalien immer schon reguliert worden. Das vermeintliche Problem, dass der Schnelligkeit der technologischen Entwicklung, die in der Demokratie und im Rechtsstaat – nach Nemitz zwingend – bestehende Langsamkeit gegenüberstehe, sei durch technikneutrale Regulierung zu lösen. Auch Durchsetzungsprobleme seien kein Argument gegen eine Regulierung, denn auch seit den 10 Geboten seien Morde begangen worden und die ziehe deshalb auch niemand in Zweifel. Die Diskussion schloss er mit einer Forderung nach einem Metadialog zwischen Ingenieuren und Juristen, so wie er seit neuestem am MIT praktiziert werde. Ingenieure und Juristen würden gemeinsam unterrichtet: „Ingenieure lernen Demokratie und Rechtsstaat, den sie ja ggf. in die Programmierung schreiben sollen; Juristen lernen die technische Seite.“

Von Kristin Vorbeck
Die Verfasserin ist Doktorandin an der Westfälischen Wilhelms-Universität Münster und arbeitet bei der internationalen Rechtsanwaltssozietät Freshfields Bruckhaus Deringer in Berlin.

Teile diesen Beitrag

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.