FALTER-Rezension 
Mathematische Massenvernichtung
Armin Thurnher in FALTER 41/2017 vom 13.10.2017 (S. 38)
Neue Medien: Cathy O’Neil erklärt, warum das Unbehagen an einer von Algorithmen getakteten Welt begründet ist
Algorithmen sind ins Gerede gekommen. Zu Recht. Dieses unbehagliche Gefühl, dass man mithilfe kleiner oder großer Rechenprogramme ausspioniert, dokumentiert, ausgehorcht und weiterverkauft wird, von denen man nicht einmal weiß, was sie beinhalten oder nach welchen Prinzipien sie funktionieren, beginnt sich zu verbreiten. Nun ist Teil des Problems unserer kommunikativen Misere, dass sie uns irgendwie den Brexit und Donald Trump bescherte, dass sie uns Fake-News und dubiose Politberater brachte und dass sie bei jedem kleinsten von uns auf dem Smartphone ausgeführten Vorgang dabei ist.
Der nicht geringste Teil des Problems besteht jedoch darin, dass auch aufgeklärten Menschen diese Angelegenheit gleichgültig ist. Sie werden durch Versprechungen ruhiggestellt, sei es durch Zugewinn von narzisstischer Befriedigung, mehr Komfort im Alltag oder einfach angenehme, spielerische Ablenkung auf hohem technischen Niveau zu günstigen Preisen.
Wer sein Unbehagen mit der neuen kommunikativen, von Algorithmen getakteten Welt gern konkretisieren möchte, ist bei Cathy O’Neil an der richtigen Adresse. O’Neil hat in Harvard Mathematik studiert, um dann die Seiten zu wechseln und bei einer Wallstreet-Finanzfirma anzuheuern, wo sie die Finanzkrise von 2008 aus nächster Nähe erlebte.
Ihre These, Algorithmen seien allgegenwärtig, operierten geheim und wirkten zerstörerisch, konnte sie dort untermauern. Dass die Mathematiker in ihrer Firma nach dem Prinzip von Al-Kaida-Mitgliedern operierten, also voneinander zwecks Geheimhaltung nichts wissen durften, ist nur eine Zusatzanekdote. Die verwendeten Programme dienten dazu, die Risiken zu verschleiern und die Gewinne der Banken zu maximieren.
Vor allem aber arbeiteten die Banken und ihre Mathematiker darauf hin, jene Menschen, die am dümmsten waren und sich mit unlauteren Mitteln oder etwa mithilfe von Priestern Kredite aufschwatzen ließen, am Ende die Rechnung zahlen zu lassen. Was auch geschah. O’Neil prägt für derart schädliche Algorithmen den Terminus „Weapons of Math Destruction“ (WMDs), analog zu Weapons of Mass Destruction. Denn die Leistungsfähigkeit moderner Computer „ermöglichte Betrügereien in einem Maßstab, der in der menschlichen Geschichte beispiellos ist“.
Die Finanzkonzerne blieben übrigens straffrei. Was O’Neil, die sich nach ihrem ernüchternden Wall-Street-Intermezzo in der Occupy-Wallstreet-Bewegung engagierte, insofern doppelt zynisch findet, da WMDs längst auch in der Arbeit von Polizei und Justiz ihr unheilvolles Wesen treiben. Und zwar, wie könnte es anders sein, zuungunsten sozial Schwächerer.
Auch Agorithmen sind von Eingaben abhängig, und wenn man Kleinkriminalität vor allem von Schwarzen verfolgt, wird man mehr davon registrieren. Das Programm „Predictive Policing“ führt dazu, dass arme Viertel weiter kriminalisiert werden. Ihre Bewohner verfangen sich einfach leichter in den „digitalen Schleppnetzen“. Digitale Schleppnetze nach Finanzkriminellen auszulegen, scheint hingegen offenbar eine absurde Idee.
O’Neil nennt zahlreiche weitere Gebiete, in denen WMDs ihre unselige Tätigkeit entfalten: Erziehung und Bildung, Politik und Strafvollzug, Arbeits- und Kreditsuche, Onlinewerbung – kurz: unser ganzes Leben.
Was hilft? Zuerst einmal kann man dieses Buch lesen, um sich die Dimension des Problems klarzumachen. Dann muss man politisch handeln und die öffentliche Kontrolle über jene Algorithmen zurückgewinnen, die es geschafft haben, große Teile unserer gesellschaftlichen Kommunikation zu privatisieren. Wir brauchen ein Regelwerk, sagt O’Neil, mit dem wir Algorithmen kontrollieren und zur Rechenschaft ziehen können. Das ist in der Tat die politische Aufgabe unserer Tage.