wissen.de Artikel
Unsichtbare Strippenzieher - Die Macht der Algorithmen
Ein guter Verkaufs-Algorithmus funktioniert eigentlich wie ein Tante-Emma-Laden um die Ecke. Der Verkäufer dort kennt seine Kunden, er weiß um ihre Bedürfnisse – ob eine Vorliebe für norddeutsches Bier oder die Abneigung gegen Dosenessen – und er versteht sich darin, Produkte zu empfehlen, die zu diesen Gewohnheiten passen.
Was dem Verkäufer im Eckladen seine Erfahrung und sein Gefühl, sind dem Algorithmus Zahlen: Welches Geschlecht haben die Nutzer, welche Vorlieben, wie viel Einkommen – all das wird erfasst und in Nullen und Einsen umgesetzt. Aus diesen errechnet ein Algorithmus mit einer bestimmten Wahrscheinlichkeit, was wir wollen. Ein Algorithmus ist damit zunächst nicht mehr als eine Rechenvorschrift.
Google - Das ganz persönliche Tor zum Internet
Zu berechnen, was wir wollen - das ist auch das Kerngeschäft der Google-Suche. Für die meisten Internet-Nutzerinnen und Nutzer führt an ihr kein Weg vorbei. Das kleine Suchfenster auf der Seite ist das Tor ins weltweite Netz. Ein Algorithmus allerdings sorgt dafür, dass sich die möglichen Ergebnisse in individuell festgelegten Grenzen halten: Googles Suchergebnisse sind hochgradig personalisiert. Im Grunde hat so jeder Mensch eine eigene Google-Suche, der sich nicht bewusst für ein alternatives Suchwerkzeug entscheidet.
Im vergangenen US-Wahlkampf führte diese Filterung zu einer seltsamen Begebenheit: Suchten US-Amerikaner per Google nach Nachrichten über die Flutkatastrophe durch den Hurrikan Sandy, tauchten zumeist mehr Ergebnisse auf, die US-Präsident Obamas Bemühungen um die Opfer zeigten, als jene seines republikanischen Gegners Mitt Romney. Der Grund war einfach: Sehr viel mehr Menschen hatten zuvor nach dem amtierenden Präsidenten Obama gesucht. Google hatte somit verstärkt Ergebnisse ausgeliefert, in denen dieser vorkam, weil der Algorithmus sie für relevanter hielt: in einem hart umkämpften Wahlkampf keine Bagatelle.
Algorithmus is watching you
Die Algorithmen, die uns Bücher oder Schuhe zum Online-Kauf feilbieten, unterscheiden sich dabei gar nicht so sehr von denjenigen, die staatliche Behörden, wie der BND, das BKA, oder der Verfassungsschutz für die Überwachung von Kommunikationswegen einsetzen. Auch bei staatlicher Überwachung weiß kaum jemand, auf welche Vorannahmen und Werturteile der Algorithmus fußt. Ist es schon verdächtig, wenn jemand viel mit Menschen aus der Arabischen Welt kommuniziert? Neigen Linux-Nutzer etwa eher dazu, illegal Musik aus dem Netz zu laden?
Es sind diese Fragen nach den ethischen Gradmessern der Technik, die Tobias Matzner von der Universität Tübingen umtreiben: "Es gibt Forschungen, in denen beispielsweise Überwachungsalgorithmen von Kameras bei Asiaten und Afroamerikanern anders funktioniert haben als bei Weißen“, erklärt Matzner. Gibt es beispielsweise eine Statistik die besagt, dass die Mehrheit an Diebstählen in einem Supermarkt von Afroamerikanern begangen wurde, fließt diese möglicherweise in die Programmierung eines Überwachungsalgorithmus ein und entscheidet so bereits im Vorfeld wer verdächtig ist und wer nicht. Dies sei zwar von den Entwicklern so nicht beabsichtigt gewesen, aber dennoch würden beim Einsatz solcher Technik bestimmte Gruppen diskriminiert.
Wer bestimmt die Bestimmer?
Algorithmen bestimmen demnach die Ergebnisse unserer Suchmaschinen-Suche, unsere Werbung, unsere Sicherheit. Doch wer bestimmt eigentlich, was in den Algorithmen steht? Wir wissen erschreckend wenig darüber, wer eben jene "Rechenvorschriften“ programmiert und welche Interessen er damit verfolgt. Es scheint das Bewusstsein und Wissen zu fehlen, dass Algorithmen von interessierten Vorannahmen gelenkt werden.
Der Technikethiker Tobias Matzner sieht den Grund dafür darin, "dass Menschen Maschinen eher zutrauen, neutral zu sein. Computer haben eine objektive Aura.“ Dass hinter jedem Algorithmus ein Unternehmen mit wirtschaftlichen, ja vermutlich auch politischen Interessen und ein Auftraggeber mit einer eigenen Agenda steht wird dabei vergessen.