FALTER-Rezension 
"Eine Machine hat keine Ideen"
Klaus Nüchtern in FALTER 35/2025 vom 27.08.2025 (S. 30)
Das Museumscafé hat am Montag geschlossen, und dann fängt es auch noch wie blöd zu regnen an. Also wird das Treffen mit Thomas Raab spontan in die hochfrequentierte Filiale einer Bäckereikette verlegt. Nicht gerade das ideale Umfeld für ein Interview, aber - wie sich im Laufe desselben herausstellen wird - dennoch ein passender Ort für ein Gespräch über künstliche Intelligenz und die Frage, wie diese unseren Alltag bestimmt und strukturiert.
Dass Raab Basketball gespielt hat, sieht man ihm an; das Studium der technischen Geologie nicht unbedingt. Nach dem Doktorat an der TU Graz hat er über 20 Jahre lang immer wieder in einer vom Schriftsteller und Kybernetiker Oswald Wiener (1935-2021) geleiteten Forschergruppe an Selbstbeobachtungsexperimenten teilgenommen. Dabei ging es - sehr einfach ausgedrückt -darum, herauszufinden, was genau im Kopf von Menschen vor sich geht, wenn sie denken.
Nun hat der Sohn eines Psychologen und einer Psychologin, der sich selbst als "naturwissenschaftlich und empirisch orientierter Schriftsteller" bezeichnet, einen Band mit zwei Essays zur künstlichen Intelligenz vorgelegt, wobei sich der Autor weder dem Lager der Euphoriker noch jenem der Apokalyptiker zurechnen lässt. Die Eingangsfrage, was denn der größte derzeit im Umlauf befindliche Unfug im Zusammenhang mit KI sei, beantwortet er jedenfalls bündig mit: "dass die intelligent ist".
Chatbots, so schreibt Raab in seinem Buch, sprechen nicht über etwas, sondern plappern bloß. Gefüttert mit gigantischen Textkorpora verarbeiten sie diese und spucken auf Grundlage statistischer Berechnung von Wortfolgewahrscheinlichkeiten neue, sinnvolle Texte aus. Mit Denken aber habe das nichts zu tun.
"Artificial intelligence needs natural stupidity", zitiert Raab im Gespräch ein Bonmot eines Informatikers aus den 1980er-Jahren. Gerade das, was den KI-Apologeten zufolge die Beschränktheit des Mängelwesens Mensch ausmache, der subjektive, von Emotionen, Wünschen, Hoffnungen und Illusionen bestimmte Faktor, stelle überhaupt die Voraussetzung von Intelligenz dar. Man könne das, räumt der von der Psychoanalyse inspirierte Raab ein, auch als "neurotisch" bezeichnen: "Wenn wir ein Problem lösen wollen, hängt praktisch unsere ganze Lebensgeschichte dran. Sie erst bestimmt, was wir überhaupt als Problem betrachten und warum wir es lösen wollen. Eine Maschine hat keine Probleme und keine Ziele. Wir leiden ja auch an unseren Zielen. Es wäre für eine KI total doof, sich das anzutun."
Begriffe wie "Intelligenz" oder "Fantasie" funktionieren im alltäglichen Sprachgebrauch tadellos, würden aber erhebliche Schwierigkeiten aufwerfen, sobald man sie wissenschaftlich präzise zu definieren sucht. Die KI sei zwar imstande, sehr spezielle, vom Menschen vorgegebene Probleme zu lösen, und darin ist sie diesem -siehe Schachcomputer -auch überlegen. Allerdings sei es falsch, Intelligenz mit Problemlösung gleichzusetzen, bestünde diese doch vor allem im Finden und Formulieren von Problemen.
Umgekehrt biete die KI Lösungen für Probleme, die erst ge-oder gar erfunden werden müssten. Raab: "Es ist ein bisschen wie mit Social Media. Die haben ja auch kein Problem gelöst. Oder hatten Sie ein Problem damit, jemand anzurufen und einen Kinobesuch zu vereinbaren?"
Den Einwand, dass Dating-Apps das Paarungsverhalten schon erleichtern würden, lässt Raab nur zum Teil gelten: "Klar, es gibt sehr schüchterne Menschen, und für die kann das schon hilfreich sein. Alle anderen haben das Problem aber gar nicht gehabt und müssen diese Tools jetzt auch verwenden. Dabei geht sehr viel verloren: Wenn man flirtet, spielt sich ja etwas ganz anderes und vor allem viel mehr ab, als wenn man ein Dating-Profil mit drei Fotos und ein paar Sätzen screent. Deswegen klappt diese ganze Tinderei im besten Falle, wenn's bloß ums Ficken geht. Wenn man sich aber verlieben will, ist man sehr schnell enttäuscht."
Das Szenario "Singularität", also die Annahme, eine "Superintelligenz" würde in einer mehr oder weniger fernen Zukunft jene der Menschen übertreffen und -quasi auf Autopilot gestellt - das Zeitalter des Transhumanismus eröffnen, löst Horrorund Erlösungsfantasien zugleich aus. Für Raab sind solche Vorstellungen "im besten Fall düstere Science-Fiction, im schlechtesten kindlich oder destruktiv". Angst, so merkt er in seinem Buch an, müssten wir also nicht vor Maschinen, sondern vor uns selbst haben: "Wir wissen immer mehr, wenden dieses Wissen aber nach wie vor für archaische Ziele, für Krieg, Gewalt und Unterdrückung, an. Wir wissen, dass wir wissen können, aber nicht, wie viel und wovon -und vor allem wozu".
Die Überzeugung, dass die schiere Akkumulation und Verarbeitung von Daten irgendwann einmal die ominöse "Superintelligenz" hervorbrächte, identifiziert Raab als den alten Mythos des Umschlags von Quantität in Qualität. Ein gutes Stichwort für den Interviewer. Der hat nämlich erst unlängst ChatGPT beauftragt, eine Kolumne in seinem Stil zu verfassen, eine Aufgabe, an der die KI krachend gescheitert war. Begründen ließe sich das freilich auch damit, dass ihr kein hinreichend umfänglicher Korpus von Originaltexten zur Verfügung stand. Was also, wenn sie erst Zugriff auf hunderte "Nüchtern betrachtet"-Kolumnen hätte?
"Wenn Sie die KI mit Ihren Texten füttern", konzediert Raab, "kommt sicher was Ähnlicheres heraus. Ein neuer Gedanke entsteht dabei aber nicht. Wir starren immer nur auf die Buchstabenfolgen und sind begeistert, wenn eine Maschine Sätze hervorbringt, die gut klingen. Was eine interessante Kolumne ausmacht, sind aber die Zusammenhänge, die sie herstellt. Die Maschine hingegen hat keine Idee, sondern verarbeitet nur das, was sie ohnehin schon kennt." Narzisstische Nachfrage: "Bin ich dann im Unterschied zur Maschine kreativ?" Raab: "Das würde ich schon so sehen." Yeah!
Bekanntlich verfügt ChatGTP nur über einen in jeder Hinsicht beschränkten Humor. Ironie geht gar nicht. Wieso?"Weil die nicht in den Buchstaben steckt. Dazu benötigt man etwa ein Wissen zur Person, die spricht, über das die KI nicht verfügt. Für sie besteht Kontext nur aus Worten und deren statistischer Verteilung; bei uns ergibt er sich aus der je eigenen Biografie, den Erfahrungen, die wir in unserem Leben gemacht haben."
Allerdings sei seit geraumer Zeit eine Tendenz zu beobachten, ebendieses immer stärker KI-kompatibel zu gestalten: "Man formalisiert Texte so stark, damit sie die Leute, die man für blöd hält, verstehen; was dazu führt, dass die in der Folge überhaupt nur mehr solch idiotische Texte lesen können. Alles, was bereits bürokratisch hoch formalisiert ist, kann die KI gut simulieren. Und wenn sie das tut und die Unis mit Fake-Papers flutet, jammert man darüber, dass die Bildung den Bach runtergeht. Das war aber ein Eigentor!"
Raab ortet eine Art vorauseilenden Gehorsam, sich der KI zu unterwerfen. Und das betreffe keineswegs nur die Zurichtung von Sprache, sondern auch den öffentlichen Raum. Womit wir bei dem Ort wären, an dem das Gespräch stattfindet - im Eingangsbereich einer U-Bahn-Station. Raab: "Warum funktioniert Gesichtserkennung mit KI hier so gut? Weil die Wege und Bewegungsabläufe durch die Architektur bereits so vorformatiert sind, dass wir an den Kameras vorbeigehen und unser Gesicht gut lesbar präsentieren."
Tatsächlich sei die KI, so Raab, nur in der Lage, Muster zu identifizieren, nicht aber dazu, Gegenstände tatsächlich zu erkennen. So kommt es, das Inception v3, ein künstliches neuronales Netzwerk, das zur Bilderkennung eingesetzt wird, einen Schulbus aus ungewöhnlicher Perspektive (etwa im Zusammenhang mit einem Verkehrsunfall) als "Müllauto","Schneepflug" oder "Sandsack" identifiziert.
Und selbst wenn sich maschinelles Lernen optimieren lässt, bleibt die entscheidende Frage, zu welchem Zweck diese eingesetzt wird, und landet somit, wie Raab schreibt, "im Feld der politischen Debatte":"Entweder man traut den Menschen zu, dass sie GPT-Antworten als ,Vorschläge' oder ironisch als sinnvoll oder als Quatsch deuten können -oder nicht. Wenn nicht, stellt sich aber die Frage, warum der menschengemachte Quatsch weniger gefährlich sein sollte als jener von ChatGPT?"