KI und Massenüberwachung (Teil 2)
Wie Computercode Realität schafft – und was „Der Herr der Ringe“ damit zu tun hat
In J.R.R. Tolkiens Legendarium sind die „Palantíri“ (Singular: „Palantír“) unzerstörbare Kristallkugeln mit immensen magischen Fähigkeiten. Durch einen Palantír kann man nicht nur in alle Winkel der Welt blicken, sondern auch in die Vergangenheit. Es braucht also nicht viel Fantasie, um sich auszumalen, was Peter Thiel und Alex Karp uns sagen wollten, als sie das Unternehmen „Palantir“ gründeten. Doch die Objektivität der Maschine ist eine Lüge – und Tolkien hat uns gewarnt.
Foto: Adam Purves (S3ISOR) via Flickr CC BY 2.0
Gegründet im Jahr 2003, hat sich Palantir sowohl in den NASDAQ-100 als auch in den S&P-100 hochgearbeitet und muss mittlerweile als ebenso essentiell für den militärisch-industriellen Komplex gelten wie Lockheed Martin oder Boeing. Und mit ihrem Geschäftsmodell macht die Firma dem Namen wirklich alle Ehre.
Foto: Cory Doctorow via Flickr CC BY-SA 2.0
Palantir arbeitet bereits seit den frühen 2010er Jahren mit der Immigrations and Customs Enforcement (ICE) zusammen, seit 2025 allerdings ist das Unternehmen aus den Massenabschiebungen nicht mehr wegzudenken.
Palantir ist insofern einzigartig, als dass sie mit die besten Algorithmen zur Datenzusammenführung und zur Echtzeitüberwachung von Datenströmen haben. Beispielhaft sei hierfür das ImmigrationOS genannt. Dieses System soll ICE „nahezu in Echtzeit Einblick in alle Fälle von Selbstabschiebungen“ ermöglichen. Sprich, eine Echtzeitauswertung darüber, wer das Land gerade betritt oder verlässt.
Es wird vermutet, dass Palantir Zugriff auf „Flock“1-Daten hat, wenn eine Strafverfolgungsbehörde sowohl Flock als auch Palantirs Gotham-Software nutzt. Flock dementiert, dass Palantir freien Zugang zu den eigenen Servern hätte, aber das hilft herzlich wenig, wenn Polizeibehörden Flock-Daten manuell in Gotham einspielen. Palantir-Gründer Peter Thiel ist mit mehreren hundert Millionen US-Dollar in Flock investiert.
Der eine Algorithmus
Das Panoptikon2 von heute braucht weder ein zentral gelegenes Bauwerk noch menschliche Überwachung. Das Panoptikon von heute ist ein allumspannendes Netzwerk von Kameras, Sensoren und Kartenlesegeräten, die überwachende Instanz eine Software, die diese Daten in Echtzeit zusammenführt.
Das Panoptikon von heute ist nicht nur dezentral, sondern automatisiert. Algorithmen schlagen Alarm, wenn sie als "verdächtig" definiertes Verhalten entdecken oder wenn bei der Zusammenführung von Datensätzen als „abnormal“ definierte Muster auftauchen – eine Technologie, die Sachsen-Anhalts Innenministerium auch gerne hätte und ein Service von Palantir, den der Bundesinnenminister auch in Deutschland einsetzen will.
Bild: EFF Photos via Flickr CC BY 2.0
Der Clou an der Sache ist, dass die Palantíri in Tolkiens Epos einen Makel aufweisen, der auch unser reales, dezentral-automatisiertes Panoptikon zum zweischneidigen Schwert macht: sie sind selektiv und beeinflussbar.
Palantir sieht was, was du nicht siehst
Blickt man durch einen Palantír, sieht man zwar die Wahrheit, aber eben nicht die ganze Wahrheit. Wie auch? Die Welt ist zu groß für ein einziges Paar Augen. Es fehlt Kontext, der notwendigerweise durch Annahmen ersetzt wird. Annahmen, die sich bei Tolkien wie in der Realität stets als fatal erweisen.
Außerdem sind die Palantíri nicht objektiv. So ist das auch mit Algorithmen – Stichworte Data Poisoning3, Algorithmic Bias4 und Algorithmic Intent5.
Gemeinhin gehen wir nämlich davon aus, dass Maschinen weder Absichten ("intent") noch Voreingenommenheiten ("bias") haben. Haben sie aber. Die Absichten und Voreingenommenheiten derjenigen, die sie programmieren. Derjenigen, die den Maschinen vorgeben, was „verdächtig“ und „abnormal“ ist und was nicht.
Diese Absichten und Voreingenommenheiten kommen genauso abstrakt und indirekt zur Geltung wie die des Sauron, der Saruman durch die Palantíri beeinflusste: Nicht dadurch, was er dem Zauberer zeigte, sondern dadurch, was er ihm nicht zeigte. Nicht derjenige, der die Maschine bedient, kontrolliert ihre Entscheidungen – sondern derjenige, der ihren Quellcode schreibt und ihre heuristische Matrix definiert.
Foto: Cory Doctorow via Flickr CC BY-SA 4.0
In unserer Welt ist Sauron Palantir und Saruman ist jede Strafverfolgungsbehörde dieser Welt. Wenn Polizeien, Geheimdienste und Behörden sich zum verlängerten Arm eines automatisierten Entscheidungsfindungsprozesses degradieren, gibt der Staat sein Gewaltmonopol einem privaten Unternehmen. Der Staat gibt die gemeinsame, geteilte Realität der Menschen auf und ersetzt sie durch die heuristisch konstruierte Realität der Maschine.
Und das ist das eigentlich Faszinierende an diesem Prozess: Indem der Staat versucht, sich allgegenwärtig und unausweichbar zu machen, macht er sich in Wirklichkeit abhängig und letztendlich überflüssig.
1 „Flock“ ist ein 2017 gegründetes Unternehmen, das sich auf Videoüberwachung, akustische Erkennung von Schusswaffengeräuschen und automatisierte Kennzeichenerkennung spezialisiert hat.
2 Der Philosoph Jeremy Bentham erfand das Konzept des Panoptikons (wörtlich: „alles sehend“) Ende des 18. Jahrhunderts. Die architektonische Struktur eines Panoptikons ermöglicht die gleichzeitige Überwachung vieler Menschen von einem einzigen, zentral gelegenen Punkt aus.
3 „Data Poisoning (zu Deutsch ,Datenvergiftung’) ist die Manipulation von KI-Systemen mit falschen Trainingsdaten.“ (Definition der Bundeszentrale für politische Bildung)
4 Verzerrungen durch Algorithmen
5 Unterstellte Absicht eines Computersystems bei der Eingabe eines Nutzers.
Kommentare
Netiquette für Kommentare