Die Tyrannei der Algorithmen

Der amerikanische Autor und IT-Professor Ian Bogost forderte im vergangenen Jahr zu einem interessanten Gedankenexperiment auf. Das nächste Mal, wenn man den Begriff „Algorithmus“
höre, solle man ihn einfach durch „Gott“ ersetzen und beobachten, ob sich der Sinn des Satzes wesentlich verändere. Bogosts Punkt: Heutzutage haben Algorithmen das Schicksal abgelöst und den Zufall abgeschafft. Sie formen unser digitales Dasein. Im Jahr 2016 leben wir in einer Computer-Theokratie.

Die Filteralgorithmen von sozialen Netzwerken und Suchmaschinen bestimmen, was Milliarden von Nutzern weltweit auf ihren Bildschirmen zu sehen bekommen. Anhand unseres Nutzerprols empfehlen sie, was wir kaufen (Amazon), welche Richtung wir einschlagen (Google Maps), mit wem wir ausgehen (Tinder) und wie wir unsere Langeweile vertreiben sollen (Netflix). Mit jedem Mausklick, jeder neu installierten Smartphone-App und jeder unterschriebenen Endbenutzerlizenz bahnen wir einer Zukunft den Weg, in der Software, Sensoren und Computer unser Leben vermeintlich besser und effizienter machen.

Algorithmen steuern den Aktienhandel, sie komponieren Musik, malen Bilder, schreiben Zeitungsartikel, entscheiden über Darlehen. Sie werden schon bald Autos über die Straßen lenken, und inzwischen programmieren die einen Algorithmen bereits die nächsten. Menschliches Handeln? Kaum noch nötig. Haben Algorithmen vielleicht sogar schon das Sagen über unsere Welt?

Transformation und Visualisierung des Quellcodes der Website www.google.com © Christian Riekhoff / Science Photo Library

Beinahe mythische Macht

Ian Bogost hat also Recht. Dem Algorithmus wird heutzutage eine beinahe mythische Macht zugestanden. Für den Normalnutzer ist er undurchsichtig, durch ihn erklärt er sich die Wunder der digitalen Sphären. Dabei ist das Konzept des Algorithmus eigentlich trivial. Es bedeutet nicht mehr als eine Sequenz von vorgegebenen Schritten. Stark vereinfacht kann man sie sich als Kochrezepte vorstellen: Man nehme dies und jenes, schneide und hacke es klein, erhitzen, köcheln lassen, voilà!

Die Zutaten sind in diesem Beispiel Daten. Etwa der Name eines Nutzers, sein Standort, seine Gewohnheiten, online wie offline. Computeralgorithmen bestimmen, wann welche Berechnungen ausgeführt werden sollen, oder verwandeln Bilder, Videos und Nachrichtenartikel in Datenpakete, die mit Hochgeschwindigkeit an ihre Ziele im Internet versendet werden.

Das Problem liegt nun darin, dass ein Ungleichgewicht der Kräfte entstanden ist. Irgendwann in den letzten Jahren haben wir unsere Autonomie zu immer größeren Teilen vermeintlich lebensbereichernden Algorithmen übertragen, die Entscheidungen für uns treffen. Die Internetkonzerne wissen immer mehr über uns, während wir ihre Mittel immer weniger verstehen.

Es ist also kein Wunder, wenn man häufig lesen kann, dass wir in einer „Algorithmen-Kultur“ leben oder gar unter einer „Tyrannei der Algorithmen“ leiden würden. Das klingt dann beinahe wie in den bekannten Dystopien der Science-Fiction. Dort gibt es ja den Topos einer dunklen, eigenmächtigen Kraft, die den Maschinen innewohnt und irgendwann mit der schreckenserregenden Absicht zutage tritt, die Menschheit zu knechten.

Urteilende Maschinen

Doch auch in der Realität, schreibt die Internet-Soziologin Zeynep Tufekci, befänden wir uns schon längst in einer Zeit, in der uns Algorithmen Angst einflößen können. Die Welt stehe am Anfang einer Ära von „urteilenden Maschinen. Maschinen, die nicht nur berechnen, wie sie am schnellsten eine Datenbank sortieren oder eine mathematische Gleichung lösen können, sondern auch entscheiden, was gut, relevant, angemessen oder schädigend ist.“

Im Jahr 2016 führen die Algorithmen ein Eigenleben im Netz und werden von den Nutzern, deren Leben sie bestimmen, nur selten bewusst wahrgenommen. Bemerkbar machen sie sich eigentlich nur dann, wenn sie einmal nicht wie vorgesehen funktionieren. Das Resultat kann dabei durchaus absurd sein. Wie etwa im Jahr 2011. Da überboten sich zwei automatisierte Handelsalgorithmen auf Amazon gegenseitig, um den profitabelsten Preis für ein Buch zu bestimmen. Am Ende bezifferten die Programme das Buch, das sich mit Evolutionsbiologie und Fruchtfliegen befasst, auf einen Wert von knapp 24 Millionen Dollar. Es gibt viele dieser Beispiele, in denen die Algorithmen unbeabsichtigt über die Stränge schlagen. Und manchmal sind sie herzzerreißend. Im letzten Jahr etwa präsentierte Facebooks automatisierter Jahresrückblick dem Webdesigner Eric Meyer das Foto seiner vor kurzem an Krebs verstorbenen Tochter, versehen mit der Unterschrift: „Es war ein tolles Jahr! Danke, dass Du dabei warst.“ Das Bild wurde vom Algorithmus ausgewählt, weil es viele Likes bekommen hatte. Der tragische Inhalt war für die Auswahl des Systems dagegen nicht relevant. Mehr resigniert als wütend schrieb Meyer damals: „Algorithmen sind per Definition gedankenlos. Sie bilden Entscheidungsprozesse nur nach; sobald man sie startet, wird nicht mehr nachgedacht. Und trotzdem lassen wir diese gedankenlosen Prozesse auf unser Leben los.“ Algorithmen können auch grausam sein, unbeabsichtigter Weise.

Ist Widerstand noch möglich?

Was kann man also tun? Wie kann man sich wehren? Oder besser: Ist Widerstand überhaupt noch möglich? „Kein Mensch darf zum Objekt eines Algorithmus werden“, schrieb Justizminister Heiko Maas im vergangenen Dezember in einem Gastbeitrag in der „ZEIT“. Weiter heißt es dort: „Jeder Algorithmus basiert auf Annahmen, die falsch oder gar diskriminierend sein können. Wir brauchen deshalb einen Algorithmen-TÜV, der die Lauterkeit der Programmierung gewährleistet und auch sicherstellt, dass unsere Handlungs- und Entscheidungsfreiheit nicht manipuliert wird.“

Maas ist nicht der einzige und auch nicht der erste, der solche Forderungen stellt. Viktor Mayer-Schönberger, Jurist am Oxford Internet Institute und Autor des Buchs „Big Data – Die Revolution, die unser Leben verändern wird“, fordert etwa eine „Umweltfolgenabschätzung“ für neue Algorithmen. So wie beim Bau eines neuen Kraftwerks darauf geachtet werden müsse, dass die Auswirkungen für Umwelt und Anwohner im Rahmen des Erträglichen bleiben, sollte dies auch bei einer Software der Fall sein. Nur dass im Falle der im Internet global verteilten Algorithmen die Umwelt gleich die ganze Welt ist – und die Anwohner die Gesamtheit von drei Milliarden Nutzern.

Umso verständlicher ist der Wunsch nach einer zentralen Steuerungsbehörde. Auf diese Weise haben Staaten und Gemeinwesen schließlich lange Zeit hindurch undurchsichtige Probleme in den Griff bekommen oder zumindest verwaltet. Es gibt da nur drei Probleme.

Erstens sind ihre Algorithmen das am besten gehütete Geheimnis der Internet-Firmen. Mit ihnen und durch sie verdienen sie ihr Geld. IT-Konzerne wie Google, Apple oder Facebook werden sich mit allen Mitteln dagegen wehren, ihre Superrezepte offenlegen oder gar regulieren lassen zu müssen. Zweitens sind die Algorithmen mittlerweile viel zu komplex, um überhaupt noch von Laien verstanden zu werden. Bis zu 100.000 Variablen beeinflussen, welche Inhalte im Facebook-Newsfeed an welcher Stelle zu sehen sind. „Die Menschen überschätzen, inwieweit IT-Firmen verstehen, wie ihre eigenen Systeme arbeiten“, sagt etwa Andrew Moore, Dekan an der Fakultät für Computerwissenschaften der renommierten Carnegie Mellon Universität und bis vor einem Jahr noch Google-Vizepräsident. Drittens ist ein Computeralgorithmus nun mal leider kein Kraftwerk, das – einmal aufgebaut und in Betrieb genommen – auf der grünen Wiese steht und vor sich hin emittiert. Wie es Software eigen ist, ist der Algorithmus flüchtig, wird permanent verbessert, unterliegt ständigem Wandel. Allein Google ändert seinen Suchalgorithmus mehrere hundert Mal im Jahr – ohne dass die Nutzer Kenntnis davon nehmen würden.

Und was ist die Alternative?

Geht es nach Heiko Maas, würde nun eine schwerfällige Behörde jedes Mal einschreiten und um Revision bitten – wer so etwas fordert, hat das Internet nicht verstanden. Die Teilnahme am globalen Informationsnetz bedeutet heutzutage, sich zwangsläufig der Herrschaft der Algorithmen auszusetzen.

Letztendlich sei deren Tyrannei, schrieb der Science-Fiction-Autor Lee Konstantinou einmal recht passend, vor allem eine Tyrannei der Vergangenheit über die Gegenwart. Reduziert auf Bits und Bytes und oftmals aus dem Kontext gerissen, diktiert das Gestern, was heute und morgen passieren wird. Als Alternative bleibt nur, abzuschalten.