Im medialen Diskurs haben Algorithmen derzeit eine tendenziell negative Konnotation. Für Fachleute aus den Bereichen Informatik und Mathematik mag dies unverständlich sein, steht der neutrale Fachbegriff Algorithmus im Allgemeinen doch lediglich für eine automatisierte Berechnungsmethode, eine Art abstrakter Programmcode. Algorithmen sind allgegenwärtig, beispielsweise beim Finden der schnellsten Route in Navigationssystemen oder beim „Entwackeln“ von Smartphone-Fotos. Vom „Angriff der Algorithmen“ zu sprechen wäre demnach in etwa so, wie den Einsatz von Schießpulver als „Angriff der Chemie“ zu bezeichnen. Der Bedeutungswandel der Algorithmen vom neutralen Tool zur Bedrohung hat jedoch nachvollziehbare Gründe, die Cathy O’Neil in diesem Buch herausarbeitet.
Grundsätzlich beschäftigt sich ihr Buch mit einer speziellen Klasse von Algorithmen, nämlich computergestützten Modellen der prädiktiven Statistik auf Basis großer Datenmengen, landläufig als „Big Data Algorithmen“ bekannt. Die Kurzform von O’Neils Kritik ist, dass diese Algorithmen meist intransparent sind und mit unsauberen bis unwissenschaftlichen Annahmen gefüttert werden. Dabei gelingt es der Autorin aber stets, ein differenziertes Bild zu zeichnen: Die Algorithmen sind nicht bösartig per se; ihr destruktives Potenzial entfalten sie dann, wenn ihre Entscheidungen nicht hinterfragt werden – in der Regel, weil sie eine Aura der Objektivität und Unfehlbarkeit umgibt. Als einprägsame Analogie für die kritisierte Scheinobjektivität erwähnt O’Neil den Body-Mass-Index (BMI). Es ist mittlerweile bekannt, dass der BMI in vielen Fällen kein verlässlicher Indikator für Übergewicht ist. Dennoch genießt er als präzise gemessene Zahl oft noch unreflektierte Autorität, auch im Gesundheitswesen. Im Bereich von Big Data gibt es zahlreiche solcher falsch interpretierter Indikatoren – in der Regel sind sie jedoch erheblich komplexer als die BMI-Formel. Im Buch wird verdeutlicht, dass dies zahlreiche Anwendungsdomänen betrifft, zum Beispiel durch Modelle zur Bewertung der Kreditwürdigkeit von BankkundInnen, der Rückfallquote von Verurteilten oder der Persönlichkeit von BewerberInnen.
Negative Feedbackschleifen als größte Gefahr
Die größte Gefahr am unhinterfragten Auslagern von Entscheidungen an Algorithmen wittert O’Neil in sogenannten negativen Feedbackschleifen. Diese führen dazu, dass Algorithmen Realität erzeugen anstatt sie einfach nur abzubilden. Als eindrucksvolles Beispiel erläutert sie den Einsatz von Computerprogrammen zur Vorhersage von Straftaten. Diese werden in den USA vermehrt verwendet, um knapper werdende personelle Ressourcen auszugleichen. Streifenpolizisten patrouillieren zielgenau in jenen Bezirken, in denen das System eine Straftat zum aktuellen Zeitpunkt für wahrscheinlich hält. In der Praxis läuft dies jedoch darauf hinaus, dass vermehrt Bagatelldelikte in Armenvierteln verfolgt werden. Die durch verstärkte Kontrollen hervorgerufene Steigerung der Kriminalitätsrate in diesen Bezirken wertet das Computer- system wiederum als erhöhte Kriminalitätsbereitschaft für die Zukunft. Dies ergibt eine Feedbackschleife, die objektiv gesehen die Effizienz der Streifenpolizisten erhöht. Allerdings stellt sich die Frage, ob es tatsächlich wünschenswert ist, die knappen Ressourcen durch die Verfolgung von Bagatelldelikten zu binden, anstatt sie zur Verhinderung von Gewaltverbrechen zu nutzen.
Wichtiger Beitrag zu Digitalisierungsdebatte
Die promovierte Mathematikerin O’Neil war jahrelang in der Wissenschaft tätig, bevor sie als Analystin in der Finanzindustrie arbeitete. Nach Ausbruch der Finanzkrise engagierte sie sich in der Occupy-Bewegung und gilt seitdem als scharfe Kritikerin von Data Science. Sie schafft es, auf mathematische Formeln zu verzichten und komplexe Zusammenhänge schlüssig zu erklären. Ebenso gelingt es ihr, positive Einsatzmöglichkeiten für die in Verruf geratenen Algorithmen zu skizzieren. Einziger Wermutstropfen dieses Buches ist die Fixierung auf die USA. Manche der beschriebenen Szenarien sind, meist aufgrund strengerer Datenschutzgesetze, momentan nicht eins zu eins auf Österreich übertragbar. Auch wenn dies zunächst beruhigend klingt, ist es dennoch wichtig, die Situation in den USA zu verstehen. Denn auch viele europäische BürgerInnen nutzen die Dienste US-amerikanischer Anbieter und werden somit auch von deren Algorithmen erfasst.
Letztlich verdeutlicht die Lektüre dieses Buches, dass Algorithmen nur so mächtig sein können wie die Datenbasis, die ihnen zur Verfügung gestellt wird. O’Neils Buch leistet deshalb einen wichtigen Beitrag zur Digitalisierungsdebatte. Denn nur wenn die Konsequenzen eines unbeschränkten „Datenreichtums“ wirklich verstanden werden, kann eine ernsthafte gesellschaftliche Diskussion über dieses abstrakte Thema stattfinden. Sebastian Krinninger
O’Neil, Cathy: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden. München: Hanser, 2017. 345 S., € 24,- [D], 24,70 [A] ; ISBN 978-3-446-25668-2
