Carmela Troncoso zu Überwachungstechniken in den USA und Deutschland
Prof. Troncoso, laut Medienberichten nutzt die US-Behörde ICE eine Palantir-Software namens Elite, um Personen aufzuspüren, die ohne gültige Aufenthaltsgenehmigung in den USA leben. Wie funktioniert diese App und was ist daran problematisch?
© MPI für Sicherheit und Privatsphäre
Ich bin keine Juristin und kann nur auf der Grundlage meiner Fachkenntnisse antworten. Elite hat angeblich Zugriff auf umfangreiche Informationen zu allen möglichen Personen aus öffentlichen und privaten Quellen und nutzt KI, um Querverbindungen herzustellen und eine Wahrscheinlichkeit abzuleiten, mit der jemand Ziel sein könnte. Das könnten Daten sein wie Social-Media-Beiträge, familiäre Verbindungen, Rechnungen, Zukunftspläne oder Hobbys. Hier entstehen schnell willkürliche Kriterien, die intransparent und ohne externe Kontrolle angewandt werden. Strafverfolgungsbehörden gehen anders vor: Sie stellen erst eine verdächtige Person fest und beschaffen sich dann per Gerichtsbeschluss Informationen über sie.
Hängt das Schicksal von Menschen an einer Black Box, deren Entscheidungen nicht erklärbar sind?
Die Schlüsse, die die App herstellt, sind per Definition nicht hundertprozentig stichfest und nicht gut nachvollziehbar. Es besteht immer die Möglichkeit, dass Menschen ohne Grund ins Visier genommen werden. Ein solches System, das automatisiert Zielpersonen identifiziert, kann nicht verhältnismäßig und vernünftig agieren wie eine Strafverfolgung, hinter der ein Gericht steht. Wir haben gezeigt, dass selbst KI-Tools, die automatisch Falschinformationen, Mobbing oder Hass in Online-Chats filtern, voreingenommen sind. In einigen Fällen können sie nicht zwischen richtig und falsch unterscheiden. Daher sollten wir immer vorsichtig sein, wenn wir einer KI Entscheidungen überlassen.
Die AfD sympathisiert mit einer Task Force wie ICE, was in Deutschland grundgesetzwidrig wäre. Aber wäre eine App wie Elite auch hier möglich?
Die identische App wäre schwierig, da sie in Europa gar nicht auf die erwähnten Informationen zugreifen könnte. Sensible medizinische Daten, Bankdaten oder Telefonaufzeichnungen können nicht einfach so abgerufen oder zum Zwecke des Profiling und der Überwachung verarbeitet werden. Aber solche Daten existieren und sind über gerichtliche Anordnungen oder Hacks erreichbar. Und es gibt genug frei verfügbare Daten, mit denen sich viel Schaden anrichten lässt. Wir alle hinterlassen im Internet Fußabdrücke, mit denen sich je nachdem auch Bewegungsprofile erstellen lassen.
Was ist der Unterschied zwischen Elite und Vera, einem weiteren Tool Palantirs, das auch die deutsche Polizei nutzt?
Laut Medienberichten kennt Vera nur polizeilich ermittelte Informationen, Elite dagegen nutzt auch externe Quellen. So wie ich es verstehe, verbietet es die Datenschutz-Grundverordnung aber, Daten aus Aufzeichnungen umzunutzen, etwa um KI-Modelle zu trainieren. Trotzdem nutzt Vera KI und das heißt: Daten, die für andere Zwecke gesammelt wurden, werden ohne Zustimmung, Transparenz oder Kontrolle umgenutzt. Und auch die von Vera getroffenen Schlussfolgerungen sind fehlerbehaftet und systematisch verzerrt, wie auch die Trainingsdaten. Das äußert sich etwa bei Minderheiten. Wie Elite ist auch Vera kein verhältnismäßiges Instrument und wird dazu führen, dass unschuldige Menschen überwacht und geschädigt werden.
Müssen wir uns vor autokratischen / diktatorischen Tendenzen im Datenschutz schützen?
Ich glaube nicht, dass autokratische Tendenzen das Argument dafür sind, Daten besser zu schützen. Wir müssen Daten besser schützen, weil andernfalls Regierungen oder private Player diese leichter zu ihrem Vorteil nutzen und damit manipulieren können. Der Schutz personenbezogener Daten sollte in jedem Fall hohe Priorität haben.
Das Interview führte Tobias Beuchert