Das Dilemma der künstlichen Intelligenz
€ 18
Lieferung in 2-7 Werktagen
-
+
Kurzbeschreibung des Verlags:

Das dystopische Versprechen der künstlichen Intelligenz ist die Heimkehr in ein Paradies, in dem unsere eigene Schöpfung unser Gott ist und uns das Erkennen und Entscheiden abnimmt.
Algorithmen beherrschen die Welt, so hört man, heute schon und morgen noch viel mehr. Sie sitzen am Steuer selbstfahrender Autos und lenken mehr und mehr gesellschaftliche Prozesse. Wie programmieren wir sie und was passiert, wenn sie sich schließlich selbst programmieren? Die Angst ist so groß wie die Hoffnung und das moralische Dilemma. Dürfen Algorithmen im Ernstfall entscheiden, wer sterben muss? Wird die künstliche Intelligenz dem Menschen den freien Willen nehmen, ihn vor sich selbst schützen und zurück ins Paradies der Entscheidungslosigkeit befördern? Dieses Buch lädt ein zu einer philosophischen Spekulation über unsere Zukunft. Es handelt von den Aporien und Paradoxien der künstlichen Intelligenz. Es vagabundiert im Denken, verbindet das scheinbar Unverbundene und sieht am Ende in den Erfindern des Silicon Valleys nicht mehr und nicht weniger als die Geschäftsführer von Hegels Weltgeist.

weiterlesen
FALTER-Rezension

Gott ist Bot

Die Erde steht vor dem Kollaps. Der Medientheoretiker Roberto Simanowski weiß einen Ausweg:
die künstliche Intelligenz als gütigen Diktator

Die Menschen halten inne, um den Mercedes-Benz zu bestaunen. Das Ambiente ist Kaiserzeit, das Auto Gegenwart. Zuerst stoppt das Luxusfahrzeug vor zwei spielenden Mädchen. Doch dann rennt ein Bub mit einem Drachen über die Straße, und diesmal kommt es zu einem Unfall. Hat der Bordcomputer versagt? Als der Name des Kindes genannt und die Ortstafel eingeblendet wird, versteht man die Pointe: Adolf, Braunau am Inn. Der von Studierenden der Filmakademie Ludwigsburg 2013 gedrehte Spot war eine Satire auf die Perfektion des deutschen Autobauers, der mit dem Slogan wirbt: „Erkennt Gefahren, bevor sie entstehen.“

Der deutsche Medienwissenschaftler Roberto Simanowski beschreibt in seinem neuen Buch „Todesalgorithmus“ die moralischen Probleme, die mit künstlicher Intelligenz (KI) einhergehen. Simanowski zieht in seinem kühnen Essay einen überraschenden Schluss. Rechenmaschinen könnten, ähnlich dem Bordcomputer im Werbespot, die Menschheit vor dem Schlimmsten bewahren. Was der Autor beim Verfassen nicht wissen konnte. Die Corona-Krise entwickelt sich zur Probe für eine Technologie, die im Kampf gegen den Klimawandel in den Normalbetrieb gehen könnte.

Streicheln und töten

Maschinen mit künstlicher Intelligenz helfen den Menschen. Sie erinnern ihn an Einkäufe und streicheln ihn im Altersheim. Smarte Wohnungen regulieren die Wärme, Google-Maps bringt einen ans Ziel. Selbstfahrende Autos senken den Energieverbrauch und haben kein Alkoholproblem. Doch eine Frage haben die KI-Ingenieure noch nicht hinreichend beantwortet. Können die Dienstleistungssklaven auch eigene Entscheidungen treffen? Im Extremfall stellt sich die Frage: Dürfen Maschinen über Leben und Tod richten?

Der Mercedes in Braunau verfügt offenbar über einen Algorithmus, der das Tötungsverbot gegen die Gefahren abwägt, die von dem Buben ausgehen. Versuchen wir uns kurz vorzustellen, was ein perfektes Auto alles leisten müsste. Der Bordcomputer würde die Merkmale des Opfers registrieren, dessen Erbanlagen, das antisemitische Umfeld des kleinen Adolf, das Aufbegehren gegen den autoritären Vater und die politische Krise des untergehenden Habsburgerreiches. Aus diesem Datenberg könnte der Computer den Schluss ziehen, dass Adolf Hitler besser ein frühes Begräbnis beschieden sei. Aufgrund seines „Todesalgorithmus“ erkennt der Mercedes: Besser einer als zig Millionen. Patsch!

Simanowski dekliniert die moralischen Fragen durch, die mit der neuen Technik verbunden sind. Das deutsche Grundgesetz etwa lehnt die Tat ganz klar ab. Hier steht die „Würde des Menschen“ über allem. Der moralische Imperativ wertet das Tötungsverbot höher als das Gebot, Leben zu retten. Der Grundsatz lehnt es kategorisch ab, zwischen Alten, Jungen, Menschen mit Behinderung, Guten und Bösen zu unterscheiden. „Gäbe es Zeitreisen in die Vergangenheit, säße in dem Mercedes nach Braunau eine Sozialarbeiterin, die Adolf wieder auf die rechte Bahn bringt“, kommentiert Simanowski süffisant.

Gesellschaften, die in einer „Was nützt es?“-Tradition stehen, haben weniger Hemmungen. Die US-Regierung etwa erlaubt Folter, weil sie überzeugt ist, damit Terrorattentate verhindern zu können. Auch beim Drohnenkrieg wird gezählt: Die Generäle nehmen den Tod weniger unschuldiger Menschen in Kauf, um potenzielle Mörder auszuschalten. Ein regulärer Krieg würde viel mehr Menschenleben kosten.

Die Corona-Krise liefert ein anschauliches Beispiel. Die kontinentaleuropäischen Staaten ergreifen drastische Maßnahmen, um die Ausbreitung des Virus abzuwenden. Sie wollen verhindern, dass sich Personen aus Risikogruppen anstecken. Eine rasche Ausbreitung von Covid-19, wie die durch den Virus ausgelöste Krankheit genannt wird, würde das Gesundheitssystem überlasten. Die resistenten Jungen sollen auf die verletzlichen Alten Rücksicht nehmen. „Jedes Leben und jeder Mensch zählt“, sagt die deutsche Bundeskanzlerin Angela Merkel.

Die Kulturgeschichte überliefert radikale Beispiele: Der Philosoph Cimon wird im Alten Rom zum Tod durch Verhungern verurteilt. Seine Tochter Pero hilft ihm, indem sie ihn mit Muttermilch ernährt. Die „Caritas romana“ (so ein anderer Titel für die Geschichte von Cimon und Pero) erklärt die Fürsorge zur Tugend.

Der britischen Tradition des Utilitarismus ist dieses familiäre Pathos fremd. Hier würde Pero abwägen, wer ihre Milch nötiger hat, der Vater oder das Kind. Die in Oxford ausgebildeten Gesundheitsberater von Premierminister Boris Johnson gingen anfangs davon aus, dass eine rasche Ausbreitung des Virus zu einer „Herdenimmunität“ führt. Infizierten sich etwa 60 Prozent der Bevölkerung, dann wird Schutz für die ganze Gemeinschaft durch Immunität aufgebaut. Lieber ein Ende mit Schrecken – und geschätzten 250.000 Toten – als ein Schrecken ohne Ende.

Die von vielen Kollegen kritisierten Planspiele der Statistiker fußen auf einem rationalen Denken, das einem Roboter nicht fremd ist. Er würde die Kosten in Rechnung stellen, die durch den Zusammenbruch der Wirtschaft entstehen. Wer wird die Müllabfuhr und das Krankenhauspersonal bezahlen? Wer kümmert sich um die Millionen Arbeitslosen? Werden Bürgerwehren die Aufgabe der Polizei übernehmen? Die KI könnte in der Lage sein, die Argumente abzuwägen und eine Empfehlung auszusprechen. Vielleicht doch lieber Boris Johnson als Angela Merkel? „Die Zweckethik blickt auf das Ergebnis und hält die Opferung der wenigen zur Rettung der vielen durchaus für vertretbar“, schreibt Simanowski. Darf der Zweck die Mittel heiligen?

Der Zweck heiligt die Mittel

Der Common Sense reagiert flexibel. In Ferdinand von Schirachs Gerichtsdrama „Terror“ sitzt das Publikum über einen Major der Bundeswehr zu Gericht, der eigenmächtig ein von einem Terroristen entführtes Passagierflugzeug abgeschossen hatte. Der Offizier hatte die Personen im Flugzeug geopfert, um 70.000 Menschen in einem Stadion, dem Angriffsziel des Attentäters, zu retten. Seit 2015 entscheidet das Publikum bei Theater- und TV-Aufführungen, ob der Major wegen Mordes angeklagt wird. Eine große Mehrheit der Laienschöffen sprach den Mann frei – und dachte und fühlte mithin verfassungswidrig.

Das Gewissen pocht. Eine Extremsituation wird dazu verwendet, um die moralische Errungenschaft der Aufklärung infrage zu stellen, die Gleichheit der Menschen. Aus dem Dunkel der Geschichte tauchen mörderische Beispiele auf, etwa die Tötung „lebensunwerten Lebens“ durch die Nazis. Es geht um die Freiheit des Individuums. Keiner soll mir vorschreiben, wie ich zu leben – und zu sterben – habe.

In der Corona-Krise lässt sich die Erosion ethischer Prinzipien live miterleben. Die chinesischen Behörden arbeiten eng mit Kommissar KI zusammen. Jeder Bürger besitzt einen QR-Code, der gescannt wird, wenn er seine Wohnung oder das Büro betreten will. Er muss seinen Namen und seine Identifikationsnummer angeben und die Körpertemperatur messen lassen.

Drohnen melden Passanten ohne Gesichtsmaske der Polizei. Die Programme für Gesichtserkennung sind so weit fortgeschritten, dass sie verraten, wer Fieber hat. Wer sich mit zu hoher Temperatur erwischen lässt, wird aus dem Verkehr gezogen. Smartphone-Apps warnen vor Nachbarn mit Gesundheitsproblemen.

Auch Israel vertraut der Technik und greift Methoden aus der Terrorismusbekämpfung auf. Schwerter verwandeln sich in Pflugscharen. Über die Standortdaten von Handynutzern lassen sich die Wege infizierter Personen verfolgen. Wer mit ihnen in Kontakt kam, erhält eine SMS mit der Aufforderung, sich in Quarantäne zu begeben. Eine Notfallbestimmung wägt die Rechte des Einzelnen mit den Bedürfnissen der Gesellschaft ab. Österreichische Mobilfunkanbieter greifen diese Idee auf und stellen der Regierung die Bewegungsprofile der Handynutzer zur Verfügung. Das Unternehmen A1 möchte damit nicht einzelne Personen denunzieren, sondern die Entwicklung sozialer Kontakte insgesamt quantifizieren. So können die Behörden prüfen, ob Ausgangssperren wirksam sind.

Corona entwickelt sich zum Testlauf dafür, wie sich Computertechnologien für eine gute Sache einsetzen lassen. Auf der Habenseite steht die Eindämmung des Virus, doch sie wird durch staatliche Repression erkauft. Spinnen wir den Gedanken weiter und überlegen uns ein Szenario aus der Ersten Hilfe in Turin, wo jede Woche hunderte Menschen sterben. Ein Computer erfasst das Gesundheitsprofil eines Patienten und entscheidet darüber, ob er an ein Beatmungsgerät kommt oder nicht.

Ein Rechner, der auf alle Datenbanken zugreifen kann, weiß mehr über den Patienten als der Arzt und entlastet ihn von der moralischen Last, Gott zu spielen. Wer aber verhindert, dass Dr. KI neben den gesundheitlichen Parametern auch noch andere Merkmale – etwa die Zugehörigkeit zu einer Minderheit oder die Mitgliedschaft in einer verbotenen Partei – miteinberechnet? Kritiker stellen die Fehleranfälligkeit der Menschen über die Perfektion der Maschine. Der Algorithmus darf sich nicht in einen Todesengel verwandeln.

Simanowski lässt sich von diesem ethischen Einwurf nicht abschrecken, sondern dreht die Gedankenspirale weiter. Geht nicht gerade von dem Kult des Individuums, der in den Grundrechten festgeschrieben ist, eine zerstörerische Kraft aus? Sollte nicht das große Ganze, die Gesellschaft, über den Interessen des Einzelnen stehen? Die Welt erlebt eine globale Seuche und steht vor dem ökologischen Kollaps. Stellen wir uns den Major, der die Massen im Stadion rettete, als ein Wesen vor, das mit übermenschlichen Fähigkeiten ausgestattet ist. Oder als eine digitale Nanny, die uns durch das tödliche Virus navigiert und das lecke Raumschiff Erde vor dem Totalausfall bewahrt.

Der Meeresspiegel steigt und das Wetter gerät durch den Treibhauseffekt außer Kontrolle. Die Herrschaft des Menschen über die Erde erweist sich immer mehr als schleichender Suizid. Man blickt auf die von Autos eroberten Städte, die versiegelten Böden und von der industriellen Landwirtschaft in Agrarsteppen verwandelten Felder und weiß: Der Mensch ist eine Sau.

Corona oder Cholera

Das biblische Tötungsverbot greift nicht mehr. Der Homo sapiens tötet nicht nur seinen Nächsten, sondern ist gerade dabei, die ganze Gattung auszulöschen. „Die Menschen werden langsam und leidvoll zugrunde gehen“, schreibt Simanowski, „wenn sich nicht rechtzeitig eine Lösung findet.“ Eine digitale Ökodiktatur könnte den Folgen der Klimakrise – Missernten, Umweltflüchtlinge – gegensteuern. In Simanowskis ohne missionarischen Eifer vorgetragener Wissenschaftsfiktion rechtfertigt die Not die Einschränkung von Freiheit. Das kleinere Übel als Ausweg: Corona statt Cholera.

Die Skepsis gegenüber dem Computer überwiegt. Man vermutet dahinter die finsteren Machenschaften von Konzernen, die die Daten der User absaugen und für kommerzielle Zwecke verwenden. Sicherheitsapparate bekommen Einblick in das Innerste der Bürger, jedes Smartphone registriert, wie Menschen arbeiten, reisen, lieben und hassen. Die rote Diktatur Chinas errichtete einen gigantischen Überwachungsapparat, der die Untertanen belohnt und bestraft. Statt in den großen Chor der Kritiker einzustimmen, bleibt der Autor im Lager der Maschinenliebhaber. „Könnte die künstliche Intelligenz den Menschen retten?“ Sie müssten der eigenen Bevormundung zustimmen.

Während Politiker auf den nächsten Wahltermin starren, rechnet der Algorithmus ohne Kalender. Manager sind Shareholdern verpflichtet, die Maschine hingegen der mathematischen Genauigkeit. Die Gier nach mehr und die Lust auf Rindfleisch sind ihr fremd, sie macht Dienst nach Vorschrift. Die EU-Ratspräsidentin Ursula von der Leyen kündigte an, die Europäische Union bis 2050 klimaneutral zu machen, sagt aber nicht, welche Schritte gesetzt werden, um das Ziel zu erreichen. Gute Vorsätze werden am Silvesterabend gemacht und nach dem 2. Jänner wieder gebrochen. Mit dem Rauchen aufhören, ja, aber erst morgen. Die Erdenbürger denken richtig, handeln aber falsch. Der Algorithmus wäre in Simanowskis Traum der Vernunft der bessere Präsident: Empathiefrei und unbestechlich setzt er den notwendigen Verzicht durch.

Das Diktat der Ökologie sorgte für eine umfassende Rationierung. Der Algorithmus weiß, wie viele Autos auf die Autobahn dürfen, um den CO2-Ausstoß zu begrenzen. Er berechnet die Emissionen von Fabriken und gibt darüber Auskunft, ob die geplante dritte Startbahn auf dem Wiener Flughafen mit dem Umweltschutzziel der österreichischen Regierung kompatibel ist. Er könnte der Verbündete der Fridays-for-Future-Bewegung sein, den protestierenden Jugendlichen, die ihren Eltern vorwerfen: „Ihr zerstört unsere Zukunft!“

Die Maschine beendete den maßlosen Individualismus und gäbe Zahlen vor, etwa fünf Kilogramm Fleisch oder 2000 Kilometer im Flugzeug pro Jahr. Voraussetzung wäre natürlich eine Bevölkerung, die sich zur Einhaltung dieser Normen verpflichtet. Dann könnte die ineffiziente Staatsform Demokratie durch ein KI-Government ersetzt werden.

Die Kritiker von Greta Thunberg werfen der Ökobewegung vor, bürgerliche Freiheiten abschaffen zu wollen. Manche sehen ihr Recht auf den SUV und die Fernreise in Gefahr, andere malen das Gespenst einer Diktatur an die Wand und haben, wie die Kommunisten, einen neuen Menschen in einer spaßbefreiten Planwirtschaft vor Augen. Die Technik könnte sich als Hebel erweisen, um die Skeptiker zu überzeugen. Wer eine Allergie gegen Greta Thunberg hat, reagierte aufgeschlossener, wenn die Botschaft aus dem Smartphone oder dem iPad käme. Skeptiker bezweifeln die Richtigkeit der politischen Entscheidungen zur Eindämmung des Coronavirus. Sie stimmten radikalen Maßnahmen eher zu, wenn sie als KI-Diktatur in Erscheinung träten.

Ökobot statt SUV

Schon jetzt sind wir bereit, soziale Beziehungen mit unseren Bots einzugehen. Die Programme von Partnerbörsen rechnen aus, wer zu uns passt. Der digitale Assistent Siri erinnert uns daran, Freunde anzurufen und den Biervorrat aufzufüllen. Warum sollten die Bots nicht auch eingreifen, wenn wir im Winter im Supermarkt in das Regal mit den Himbeeren aus Chile greifen. Wenn etwa der grüne Vizekanzler Werner Kogler nach einer langen Sitzung dem Drang nicht widerstehen kann, in ein Fastfood-Restaurant zu gehen, würde sein Ökobot einfach die Bankomatkarte sperren.

Die österreichische Regierung hat sich der Einhaltung des Zwei-Grad-Ziels verschrieben. Damit soll die globale Erwärmung begrenzt werden. Die Maschine bräuchte nicht darauf zu achten, ob die zu treffenden Maßnahmen populär sind. Ein freundlicher Bot könnte etwa die ständig wachsende SUV-Flotte auf einen Schlag fahruntauglich machen. So wie unser Gesundsheitsarmband blinkt, wenn es wieder Zeit ist für etwas Bewegung.

Bisher diente die KI lediglich dazu, den Menschen zu vermessen, um seinen Konsum noch kalkulierbarer zu machen. Nun könnte das Bot-Regime antreten, um seine Erfinder vor sich selbst zu schützen. Würde man alle Daten von Facebook über Smart City bis zu Smart Home zusammenwerfen, verfügte die digitale Nanny über genug Wissen, um die ungezogenen Terrestrischen in die richtige Richtung zu stupsen.

Simanowskis Essay hebt sich wohltuend von einer Kritik ab, die Maschinen als Entfremdung des Menschen von seinen wahren Bedürfnissen hinterfragt. Er kommt aus der Denkschule des Medientheoretikers Friedrich Kittler (1943-2011). Kittler betrachtete den Menschen als Zwischenwirt der Vernunft, die sich zur künstlichen Intelligenz upgraden wird. Die Technik sei klüger als ihre Erfinder. Die Kittler-Jugend sieht im digitalen Kosmos einen lebendigen Organismus, der nichts anderes will als die Natur: am Leben bleiben und sich ausbreiten.

Ein Schimmer von morgen

In die düstere Gegenwart der ­Defätisten, die auf das Ende warten, blendet ­Simanowski einen Schimmer von morgen. Geben wir nicht auf, hinterlassen wir unseren Kindern eine bewohnbare Erde! Die realen Verhältnisse lassen den Geistesblitz als utopisch erscheinen. Die Vereinten ­Nationen als globale Interessenvertretung steht unter dem Beschuss nationaler Despoten. Im Moment ihrer größten Krise kann sich die Weltgemeinschaft nicht einmal auf eine gemeinsame Notrufnummer einigen. Wer sollte ­einer Öko-KI denn dann überhaupt ein Mandat erteilen?

Doch nicht nur die Realpolitik lässt aufgeklärte Zeitgenossen vor dem digitalen Über-Ich zurückschrecken. Bei Begriffen wie Meister-Algorithmus oder KI-Diktatur klingelt’s. Die Vorstellung einer vernünftigen Instanz, die den Lauf der Welt lenkt, geht auf den Philosophen Georg Wilhelm Friedrich Hegel (1770-1831) zurück.

Hegel entwarf das Konzept eines weltgeschichtlichen Endzwecks, dem die Leidenschaften und Interessen der Individuen zuarbeiten. Er nannte diese höhere Intelligenz „Weltgeist“, als dessen Verkörperung Hegel Napoleon begrüßte. Der Fortschritt des Denkens zeigte sich in den französischen Volksheeren und dem bürgerlichen Gesetzbuch. Heute lässt sich der Weltgeist am ehesten im Silicon Valley finden. Der Facebook-Gründer Mark Zuckerberg bringt nicht nur Katzenliebhaber zusammen, sondern entscheidet auch Präsidentschaftswahlen mit.

Von hier ist es nur ein Schritt zur Metaphysik. Simanowski greift nach dem Jenseits. Besitzen die Algorithmen von Google oder Facebook nicht göttliche Eigenschaften? Man darf sich Gott Bot nicht als alten Mann mit Bart vorstellen, sondern als Göttin der Vernunft, der schon die Französische Revolution huldigte.

Simanowskis Predigt für den digitalen Pantheismus entlässt den Leser mit dem beruhigenden Gefühl, dass doch noch nicht alles verloren ist. Der Dataismus könnte zu jener paradiesischen Versöhnung mit der Natur führen, die im Anthropozän, dem Zeitalter der Menschen, zerstört wurde. Simanowski bringt den Fluchtpunkt seines Ideenspaziergangs lapidar auf den Punkt: „Das Hauptproblem ist das Verbrechen der Menschheit und ihr Überleben an sich.“ Zuerst muss Botman aber noch rasch das Virus in den Griff kriegen.

Matthias Dusini in Falter 13/2020 vom 27.03.2020 (S. 28)

weiterlesen
Produktdetails
Mehr Informationen
ReihePassagen Thema
ISBN 9783709204177
Erscheinungsdatum 01.03.2020
Umfang 144 Seiten
Genre Philosophie/20., 21. Jahrhundert
Format Taschenbuch
Verlag Passagen
Reihe herausgegeben von Peter Engelmann
Diese Produkte könnten Sie auch interessieren:
Slavoj Žižek, Peter Engelmann, Andreas Pöschl
€ 22,60
Roberto Simanowski, Peter Engelmann
€ 17,40
Roberto Simanowski, Peter Engelmann
€ 20,50
Slavoj Žižek, Peter Engelmann, Aaron Zielinski
€ 15,30
Souleymane Bachir Diagne, Peter Engelmann, Richard Steurer-Boulard
€ 23,10
Françoise Vergès, Peter Engelmann, Esther von der Osten
€ 20,50
Robert Skidelsky, Peter Engelmann, Katharina Hasewend, Evangelos Karagia...
€ 15,30
Timothy Snyder, Peter Engelmann, Andreas Wirthensohn
€ 10,20