"Algorithmen empfehlen, ob man Menschen sterben lässt"

Der digitale Wandel ist in der Gesellschaft angekommen. Die Herrschaft der Künstlichen Intelligenz zieht herauf. Drohen Freiheit und Demokratie zwischen Politikversagen und Big Data zerrieben zu werden? In ihrem Buch "Das Ende der Demokratie" warnt Yvonne Hofstetter: Die Rückkehr in eine selbst verschuldete Unmündigkeit hat begonnen - im smarten Gewand der Selbstoptimierung. Mit Yvonne Hofstetter sprach Johannes Beetz.

"Es führt zu neuen Formen der Diskriminierung"

„Ein Roboter darf kein menschliches Wesen verletzen“. So lautet die erste „Grundregel des Roboterdienstes“, die Isaac Asimov in einer Kurzgeschichte bereits 1942 formulierte. Heute warnt Stephen Hawking vor künstlicher Intelligenz, weil sie diesen Gesetzen nicht notwendigerweise folgt: Sie könne „die großartigste Idee der Menschheit“ werden – aber auch „unsere letzte“, schrieb er vor kurzem. Warum teilen Sie diese zwiespältige Bewertung?

Yvonne Hofstetter: Roboter und Künstliche Intelligenz sind nicht dasselbe, sondern zwei völlig unterschiedliche Technologieströme, die erst ganz langsam und für bestimmte Anwendungsbereiche zusammenwachsen. Industrieroboter, z.B. am Fließband, wiederholen immer und immer wieder dieselbe Tätigkeit, etwa Schrauben oder Gießen. Für immer die immer gleiche Bewegung braucht man keine Intelligenz, man kann die Aufgabe „hart“ programmieren. Bei der Abarbeitung der Aufgabe sollen Roboter Menschen, die sich in ihrer Nähe befinden, nicht verletzen. Deshalb werden Industrieroboter entweder in Käfige gesperrt – trotzdem passieren immer wieder tödliche Arbeitsunfälle –, oder sie erhalten eine Ausstattung von Sensoren, damit sie erkennen, wenn sich ein Mensch zu nahe heranwagt, um in ihrer Tätigkeit sofort innezuhalten.

Künstliche Intelligenz (KI) hingegen ist „nur“ ein Computerprogramm, das eine mathematische Aufgabe löst: die optimale Lösung für eine Aufgabe zu berechnen, anders gesagt: eine Funktion zu approximieren. Klingt unspektakulär, wird aber auch als „maschinelles Lernen“ bezeichnet. KI wird künftig überall sein, etwa wie Strom, denn es gibt viel zu optimieren: Risiken vermindern, Werbeeffizienz steigern, Lebenszeit verlängern. Warum nicht bald 210 Jahre alt statt nur 85 werden? Genau das ist die Agenda des 21. Jahrhunderts, für das das Silicon Valley u.a. KI einsetzt.

"Zum Lernen braucht eine KI viele Daten"

Zum Lernen – beim Abtasten des Suchraums – braucht eine KI viele Daten. Ab hier wird es problematisch, wenn diese Daten von Menschen kommen. Denn Humandaten werden durch Überwachung erhoben, am besten durch lückenlose Überwachung: mit dem Smartphone, mit Smartcars, Smart Cities, Smart Homes … Aus den Daten erstellt die KI Situationsanalyen über den Einzelnen: wie gesund er lebt, wie moralisch, ob er ein guter Bürger ist. Die KI erstellt Verhaltens- und Lebensprofile über den Einzelnen. Diese Profile werden weiterverkauft – an Versicherungen, Arbeitgeber. Auch der Staat kann Käufer sein und Profile, wie im Fall Chinas, zur Bewertung der Bürger einsetzen: Wer einen hohen »Citizen Score« hat, ist für einen Staatsjob qualifiziert oder ein zweites Kind. Wer über einen niedrigen Score verfügt, ist vielleicht arbeitslos oder kriminell oder einfach nur ein Demokrat und Menschenrechtsaktivist. Der Einsatz von KI führt zu ganz neuen Berechtigungen im 21. Jahrhundert – wer hat Anspruch auf eine Leistung und wer nicht? –, zu neuen Formen der Diskriminierung und massiven Einschränkungen der Selbstbestimmung. Damit widerspricht der Einsatz von KI wie er heute stattfindet, dem europäischen Menschenbild, unseren Werten und Grundrechten.

"Wer glaubt, das sei Gerede, sei gewarnt"

Bill Gates bemüht Goethes Zauberlehrling: Künstliche Intelligenz könne eines Tages zu einer Bedrohung für die Menschheit werden und - wie die gerufenen Geister - unserer Kontrolle entgleiten. Die Digitalisierung hat unseren Alltag von Grund auf verändert und tatsächlich viele Dinge leichter gemacht. Aber wir geben mit Smartphone & Co. bedenkenlos eine Fülle persönlicher Daten preis und bezahlen damit für unsere Bequemlichkeit. Rufen wir gerade die Geister, die niemand kontrollieren kann?

Yvonne Hofstetter: Der Mensch baut alles, was technisch möglich ist und was er sich vorstellen kann. Das ist es, was wir unter »Kulturleistung« des Menschen verstehen. Mit Sicherheit verändert die Digitalisierung gerade unser europäisches Menschenbild vom dualistischen Wesen, das aus Körper und Geist bzw. Seele besteht, hin zum bloß naturalistischen Verständnis vom Menschen als blankem Datenhaufen ohne Geist und Seele, der durch algorithmische Eingriffe leicht manipulierbar ist. In diesem Zusammenhang sind die Äußerungen aus Silicon Valley zu verstehen: Der Mensch ist die ultimative Maschine. Der Mensch ist nur ein Algorithmus. Er ist ein Softwarefehler der Natur, und man müsse nur neue Software in sein Hirn laden, und schon funktioniere er besser.

Wer glaubt, das sei Gerede, sei gewarnt: Genau daran arbeiten digitale Technologieunternehmen mit fast grenzenlosem Kapitaleinsatz. Algorithmen berechnen die verbleibende Lebenszeit des Einzelnen und geben eine Empfehlung ab, ob sich eine Medikamentengabe noch lohnt und man den Menschen einfach sterben lässt (Fa. Aspire Health, ein Investment von Google Ventures). Oder man lässt Tote mit Hilfe der KI auferstehen, indem man die Datenspuren eines Toten rekonstruiert (ein Projekt des MIT).

Das hat mit unserem Verständnis von »Person« nichts mehr zu tun. Aber an unserer Auffassung von Person und Rechtssubjekt hängt unser gesamtes europäisches Verfassungs- und Rechtsverständnis einschließlich Demokratie und soziale Marktwirtschaft und die EU als solche. Digitalisierung, wie sie heute von amerikanischen Tech-Konzernen betrieben wird, zerstört diese Grundlagen. Was sie stattdessen ersetzen soll, sagen uns ebenfalls die Tech-Konzerne: der rationale Betrieb des Globus als Unternehmen, das nach wirtschaftlichen Kennzahlen funktioniert. Im 21. Jahrhundert stellt sich also die Frage nach der Herrschaft erneut, und sie lautet: Staat – oder Markt?

"Die Politik steckt in der Klemme"

Die Politik müsste gegen die Datensammlung Dämme bauen, aber sie verliert selbst an Boden: In einer unüberschaubarer werdenden Welt suchen immer mehr Menschen einfache Antworten – und seien es „alternative“ „Fakten“. Das ist keine gute Grundlage, um sich gegen eine wenig fassbaren Bedrohung wie „Big Data“ zu wappnen ...

Yvonne Hofstetter: Das Ideal vom »Primat der Politik« gilt nicht mehr. Es besagt, dass Entscheidungen (demokratischer) politischer Institutionen denen des Militärs oder der Wirtschaft vorgehen.

Bei der Digitalisierung nehmen politische Institutionen viel Rücksicht auf die Tech-Konzerne. Denn die Politik steckt im Dilemma: Sie braucht stetiges Wirtschaftswachstum, sonst sinkt unser Lebensstandard. Die Digitalisierung hat zu Goldgräberstimmung geführt und zum Versprechen von Wirtschaftswachstum in einer Ära, in der die drei fiktiven Güter des Kapitalismus, die Karl Polanyi im 20. Jahrhundert definiert hat, bereits aufgebraucht sind. Denn mit menschlicher Arbeit, mit der Natur und mit Kapital können im 21. Jahrhundert nur noch wenige Geld verdienen. Aber mit dem vierten fiktiven Gut des Kapitalismus, der Daten und Bürgerrechten, ist das wieder möglich. Deshalb steckt die Politik in der Klemme: Wie viel Digitalisierung soll sie regulieren?

"Soziale Medien fördern populistische Strömungen"

Sie unterstreichen in Ihrem Buch, dass die Demokratie durch künstliche Intelligenz bedroht sei. Fundamental für die Demokratie ist eine funktionierende Meinungsbildung. Wenn unsere Eltern eine Tageszeitung abonniert hatten, haben sie in einer Legislaturperiode an die 4.000 Zeitungsseiten Information aufgenommen – genug, um sich einer politischen Seite zuordnen zu können. Heute stehen Printmedien in der Konkurrenz zu einer gewaltigen digitalen Datenflut – Meinungsbildung wird ersetzt durch anonyme Kommentare in Foren oder durch suggestive Auswahl von Beiträgen in „sozialen“ Netzwerken. Erdrückt die Datenflut die Demokratie?

Yvonne Hofstetter: Ja. Es ist aber nicht die Datenflut, die die Demokratie erdrückt, sondern die Algorithmen im Internet, die die Datenflut für uns filtern. Sie zeigen und nur das, was für uns »relevant« ist und sperren uns so in Gummizellen, aus denen keine Tür und keine Fenster in die Realität führen. Das sind die vielzitierten Echokammern oder Filterblasen. Jeder erhält nur noch eine stark personalisierte Sicht auf die Welt, anders als bei den demokratisierten deutschen Leitmedien nach dem 2. Weltkrieg.

Dass wir alle ein gemeinsames und möglichst gleiches Verständnis von der Welt haben – ein Wir-Gefühl haben –, ist deshalb essentiell für das Funktionieren einer Demokratie. Heute haben wir dieses gemeinsame Verständnis nicht mehr, ähnlich wie im frühen 20. Jahrhundert. Die sozialen Medien fragmentieren die Gesellschaft in Gesinnungen, also zahlreiche Meinungen, wie es die Gesinnungsblätter vor dem Ersten und Zweiten Weltkrieg schon taten, etwa die Rote Fahne, der Völkische Beobachter oder Der Gerade Weg. Die Vielzahl von Meinungen sieht dann für den Einzelnen wie Chaos aus, und nur zu gerne ist er bereit, der einen Person zu folgen, die aus dem Chaos aufsteigt und verspricht: Wir zuerst! Lasst uns wieder großartig sein.

Soziale Medien insbesondere fördern deshalb populistische Strömungen. Auch wenn sie das nicht beabsichtigen sollten – es ist schlicht ein Systemfehler. Das erinnert mich an meinen australischen Kollegen Scott Muller, einen Informationstheoretiker. Er sagte einmal: »The Internet is a transient. It will never work.« Das Internet ist eine vorübergehende Erscheinung, weil es nicht funktionieren kann.

"Bin ich nun selbstbestimmter Mensch – oder bin ich es nicht?"

Zum Profiling tragen die Klicks auf den „Einkaufswagen“ bei, aber auch nicht von uns Beinflussbares: Aus wenigen gesprochenen Sätzen analysieren Rechner erschreckend zutreffend unsere Stimmungen, unsere Krankheiten, unsere Motivationen, unsere Lügen. Wozu brauchen wir Wahlen, wenn Maschinen anhand unserer Stimme definieren können, für wen wir stimmen wollten? Sind wir am Ende nur Lochkarten für ein Rechenprogramm?

Yvonne Hofstetter: Das ist wieder die Frage nach dem Menschenbild. Bin ich nun selbstbestimmter Mensch mit eigener Würde – oder bin ich es nicht? Wenn nicht, und so findet Digitalisierung heute statt, brauche ich weder Grundrechte noch eine Demokratie, deren Mindestanforderung die freie Wahl ist. Ein Mensch, der nur Maschine ist, ist eine Sache, und eine Sache ist nicht frei und hat keine Rechte. Deswegen würde auch die freie Wahl hinfällig.

Denkbar ist das Gegenmodell, für das die Digitalisierung à la Silicon Valley steht: Wenn mich ein Profiling-Algorithmus mit dem optimalen Lebenspartner zusammenbringen kann, warum dann nicht auch mit dem für mich optimalen Kandidaten einer politischen Wahl?

Und noch einen Schritt weitergedacht: Der Algorithmus schleift meine Absichten und Gedanken, also mein Verhaltensprofil, direkt an die Regierung durch, ohne Umweg über Wahlen und Parlament. Das würde eine Menge Geld für Abgeordnete und ihren Apparat sparen (also zu einer Kostenoptimierung führen) und auch die lästigen Debatten unnötig machen (also die Kommunikation mit der Regierung effizienter machen).

"Ihr seid das eigentliche Ziel des Überwachungskapitalismus"

Sie messen der Digitalisierung einen ähnlichen Quantensprung an Zerstörungskraft zu wie der Atombombe. Kritiker wie jüngst im Spiegel nennen Sie auch deswegen eine „Kassandra“ und werfen Ihnen vor, die technischen Möglichkeiten weit zu übertreiben. Kassandra scheiterte jedoch nicht daran, dass sie Falsches prophezeite, sondern daran, dass ihre Mitmenschen zu sorglos waren. Als die Titanic 1912 in See stach, hielt man sie für unsinkbar. Das Leck, das nur vier Tage später 1.500 Menschen den Tod brachte, maß indes lediglich die unglaubliche Winzigkeit von 1,1 qm – das sind weniger als acht DIN-A3-Seiten. Sind wir zu sorglos?

Yvonne Hofstetter: Wir unterschätzen die Macht der Ideologien, die hinter der Digitalisierung stehen. Was sind Ideologien? Es sind Ansprüche, Claims. Etwa der Anspruch des Silicon Valley auf »kreative Zerstörung« bestehender gesellschaftlicher Strukturen, Prozesse und gesellschaftlicher Übereinkünfte. Oder den Anspruch, mit der Extraktion der Freiheitsrechte des Einzelnen Geld zu verdienen, also den »Überwachungskapitalismus«. Oder den Anspruch, mit KI »alle Probleme« der Menschheit zu lösen, von Klimawandel bis zum Tod (so Google Deep Mind). Diese Ansprüche werden bereits mit Macht umgesetzt. Nur: Um zu verstehen, wie Technologie dafür eigesetzt wird, muss man sich auf die Meta-Ebene der politischen Theorie und der Philosophie begeben. Diesen Schritt, der zu mehr Klarheit und Verständnis führt, gehen viele Menschen nicht mit, selbst viele Technologen nicht. Sie sind Experten für ihre Technologien und nicht Experten für die Technikfolgenbewertung.

Und diejenigen, die diese Ansprüche verfolgen, geben aktuell die Devise aus: Es sollen nur optimistische Nachrichten über die Digitalisierung verbreitet werden. Bloß nichts Negatives erzählen, was den Menschen Angst macht oder erklärt: Ihr seid das eigentliche Ziel des Überwachungskapitalismus, der Begleitmusik der Digitalisierung, denn ihr verfügt im Gegensatz zu überwachten Sachen über Geld. Und dieses Geld muss umverteilt werden, und zwar von unten nach oben. Fragt sich denn niemand, wie AppleGoogleFacebook&Co. zu den wertvollsten Unternehmen der Welt wurden und warum ihre Eigentümer, einschließlich ihrer Kapitalinvestoren, zu den Reichsten gehören?

"Du wirst zwanzig und mehr Berufe haben"

Eine Abschlussfrage zum Weltfrauentag: Sie leiten ein großes Unternehmen: Was raten Sie Mädchen, die vor der Berufswahl stehen?

Yvonne Hofstetter: Ich leite kein großes, sondern ein kleines Unternehmen mit einem Team aus Technologen. Wir betreiben angewandte Forschung. Zeigt sich für einen unserer KI-Prototypen die Möglichkeit einer wirtschaftlichen Verwertung, wird ein passendes Geschäftsmodell in ein anderes Unternehmen, also einen Start-up, ausgegründet. Diese Start-ups betreuen wir einige Zeit weiter, bis sie sich – und das hängt hauptsächlich von einer gesunden Finanzierung und der Marktakzeptanz ab – selbstständig weiterentwickeln können.

Junge Frauen sollten den Beruf erlernen, der ihren Begabungen am meisten entspricht. Du willst Imkerin werden? Dann tu’s. Harfinistin? Mach’s, damit du motiviert auf einen Abschluss hinarbeitest. Nur: Geh nicht davon aus, dass du diesen Beruf tatsächlich und schon gar nicht ein Leben lang ausüben wirst. Du gehörst einer Generation an, deren Aufgabenstellung sich alle ein, zwei Jahre ändern wird. Ich selbst habe sicher schon zehn verschiedene Berufe ausgeübt, von Juristin über Hotellerie über Geschäftsentwicklung, Produktmanagement bis zum Schreiben von Büchern. Andere Kollegen haben Jura studiert und sind dann Berufspilot oder Heilpraktikerin geworden. Du wirst zwanzig und mehr Berufe haben. Mach wenigstens vor Beginn deines Berufslebens etwas, das dir ultimativen Spaß macht. Denn ganz sicher steht fest: Eine hochvernetzte Gesellschaft ist so komplex, dass man mit Lebensplanung nicht weit kommt. Besser als Planung ist die Echtzeitsteuerung des Lebens auf der Basis von Echtzeitdaten. Damit wirst du Teil einer ganz anderen Gesellschaft sein, als es deine Eltern waren.