Technische Überwachung und der Angriff auf die Privatsphäre

Der vierte Artikel in einer Reihe von Artikeln von Carl Rowlands über die Auswirkungen der Technologie auf Gesellschaft und Politik. Palantir ist in vielerlei Hinsicht zum Schreckgespenst geworden, ein Unternehmen, das im Volksmund die zweite Trump-Ära repräsentiert. Clive Lewis MP hat den öffentlichen Unmut über ihren wachsenden Einfluss und ihr scheinbar unaufhaltsames Wachstum im gesamten britischen Staat, von der Metropolitan Police bis zum NHS und dem Department of Work and Pensions und darüber hinaus, perfekt auf den Punkt gebracht. Palantir ist ein Unternehmen, das von einigen der rechtesten Persönlichkeiten gegründet wurde, die in den 1990er und 2000er Jahren im Silicon Valley große Erfolge feierten, darunter Peter Thiel. Es hat seine Zukunft erfolgreich darauf ausgerichtet, politische Verbindungen zu knüpfen. Es nutzt seine Finanz- und Lobbyarbeit, um sich Zugang zu einer Regierungsstelle in Ihrer Nähe zu verschaffen und erhält so umfassenden Zugriff auf personenbezogene Daten. Tatsache ist: Wenn wir über Überwachung und Privatsphäre sprechen, sprechen wir auch über das Militär. Und Palantirs Verbindungen zum US-Militär, zur ICE und zum israelischen Militär sind offensichtlich und die Auswirkungen sind schwerwiegend.  Möglicherweise war die neue Welt der Daten und IT nicht immer so gedacht. In den ersten Jahren machte das Internet in den 1990er-Jahren Spaß. Websites stellten neue Möglichkeiten für verschiedene Medien dar. Manchmal ermöglichte die Anonymität den Menschen sogar, sich leichter auszudrücken. Schon jetzt bietet das Internet verschiedene Möglichkeiten, mit Interessengruppen und anderen Aktivisten in Kontakt zu treten. Aber die Dinge haben sich geändert, vielleicht mit den Smartphones, die wir mit uns herumtragen und freiwillig nutzen, um selbst unsere Privatsphäre zu verletzen.Zusammen mit der immer aufdringlicheren Datenerfassung und -segmentierung in der Welt der digitalen Werbung hat sich ein regelrechter Wettlauf um die Datenerfassung entwickelt. London und andere Städte im Vereinigten Königreich haben ihre Bürger schon seit langem einem Regime der Videoüberwachung ausgesetzt, das bis in die Mitte der 1990er Jahre zurückreicht. Aber die Intensität nimmt zu. Eine der ersten Anwendungen des auf neuronalen Netzen basierenden maschinellen Lernens bestand darin, Muster zu erkennen – beispielsweise um Panzer in Bildern zu identifizieren. Parallel dazu verlief die Entwicklung der Gesichtserkennung, wie unter anderem von Kate Crawford dokumentiert. Es wurde an Tausenden und Abertausenden verschiedener menschlicher Gesichter trainiert, wobei Daten verwendet wurden, die unter anderem von Websites wie Flickr gesammelt wurden, da Ausdrücke, Emotionen und unterschiedliche Identitäten (nicht immer genau) aus riesigen Datenmengen und Bildern abgeleitet werden konnten, die von größtenteils unwissenden Benutzern „kostenloser“ Online-Dienste freiwillig hochgeladen wurden. Der Einsatz mobiler Live-Gesichtserkennungssysteme (LFR) bei der Polizeiarbeit basiert in erster Linie auf diesen Fortschritten in der Gesichtserkennung und spiegelt die wachsenden realen Datenbanken wider. Die ersten Tests mit LFR-Kameras durch die Metropolitan Police mit stationären Kameras in Kings Cross wurden als Erfolg gewertet und die Festnahme einiger Tatverdächtiger wurde angeführt. Es sind wahrscheinlich die in Kings Cross gesammelten Daten, die den Erfolg von LFR bewiesen haben und dass sie mit verschiedenen anderen Formen personenbezogener Daten abgeglichen und verknüpft werden konnten. Und diese Kombination öffnet effektiv die Tür zu einer Form der „Vollspektrumüberwachung“, bei der bei Bedarf problemlos Informationen von bestimmten Standorten gesammelt werden können.Dass die Metropolitan Police auch Verträge mit Palantir unterzeichnet hat, zeigt, inwieweit polizeiliche und militärische Überwachung und Einsätze angesichts ziviler Unruhen möglicherweise verschwimmen könnten. Beobachter haben insbesondere darauf hingewiesen, dass LFR tendenziell in Gebieten und bei Veranstaltungen mit einer großen Beteiligung von Schwarzen eingesetzt wird – zum Beispiel beim Notting Hill Carnival. Ein weiteres Beispiel wären politische Demonstrationen, bei denen pro-palästinensische Aktivisten bereits im Visier von LFR-Systemen stehen. Vor den jüngsten Demonstrationen zur Unterstützung der verbotenen Palestine Action-Gruppe warnte die Metropolitan Police die Teilnehmer sogar davor, dass ihre Anwesenheit ihre Fähigkeit, zu einem späteren Zeitpunkt in ihrem Leben Lehrer zu werden, beeinträchtigen könnte. Es ist unnötig zu erwähnen, dass ein dringender Bedarf an klaren Richtlinien dafür besteht, wie Überwachungsdaten verwendet und eingesetzt werden sollten – etwas, das sogar einige Polizisten selbst fordern. Das laxe und unklare Regulierungsumfeld des Data (Usage and Access) Act bedeutet auch, dass die Möglichkeit besteht, dass Daten aus Gesichtserkennungskameras an Dritte weitergegeben und möglicherweise sogar kommerziell genutzt werden. Das Hauptrisiko liegt jedoch zweifellos im „Doxing“ – der Veröffentlichung individueller Daten, die persönliche Daten von Teilnehmern enthalten. Dies könnte genutzt werden, um gültige, legale Formen politischer Meinungsverschiedenheiten, egal ob links oder rechts, abzuflachen und zu unterdrücken. Weitere Fragen werfen die KI-Pläne des Justizministeriums auf: Es werden Prozesse gegen Gefangene durchgeführt, um die voraussichtliche Wahrscheinlichkeit von Wiederholungsdelikten, insbesondere von Mord, zu ermitteln.Die Überwachung von Gefangenen, die von der Labour-Innenministerin Shabana Mahmood in wahrer Benthamiten-Manier begeistert gefeiert wurde, bietet die Möglichkeit eines echten Panoptikums, das Daten aus nahezu jedem Aspekt des Lebens eines Einzelnen und seiner Interaktionen mit anderen einspeist. In der Zwischenzeit wird das Ministerium für Arbeit und Renten maschinelles Lernen einführen, um Betrug zu erkennen, Überzahlungen zurückzufordern und Leistungssanktionen zu verwalten, in Kombination mit dem von den Behörden ermöglichten Zugriff auf die Bankkonten von Einzelpersonen (Betrugsfehler und Wiederherstellung) Bill. Die Auswirkungen dieser Initiative könnten angesichts des Anstiegs sowohl der Erwerbstätigen- als auch der Arbeitslosenarmut im Vereinigten Königreich seit der Finanzkrise 2008 tiefgreifend sein. Es ist Teil einer zunehmenden Tendenz, Menschen in Armut „digital zu überwachen“, und zwar durch Prozesse, die nur begrenzt nachvollziehbar sind und bei denen es praktisch keine Transparenz darüber gibt, wie Algorithmen gewichtet und trainiert werden. Es ist möglich, dass die Verschmelzung von Gesichtserkennungs-, Telefon-, Steuer- und Sozialversicherungsdaten für verschiedene Zwecke verwendet wird – nicht zuletzt für politische Repression. Zumindest sollten wir ein Moratorium für die Gesichtserkennungstechnologie fordern, bis eine umfassende Untersuchung und ein verbindlicher Bericht über die Ethik und mögliche Missbräuche und Vorurteile des maschinellen Lernens in allen Regierungsabteilungen, der Polizei und den lokalen Behörden vorliegen. Dies würde umfassend über die Auswirkungen bestehender Gesichtserkennungsprogramme auf Preis, Leistung und Datenschutz berichten.Um der zunehmenden Allgegenwärtigkeit intelligenter Kameras entgegenzuwirken, sollte die Regierung eine Datenschutzaufsichtsbehörde einrichten, um die Einhaltung eines erweiterten Regelwerks zur Überwachung und Überwachung durchzusetzen, auch für inländische „Türklingel“-Kameras und „tragbare“ Technologien, mit der Befugnis, die Verwendung personenbezogener Daten zu überprüfen. Wenn wir mehr Überwachung einführen wollen, dann schlage ich vor, dass wir das Thema wechseln. Der beste Ausgangspunkt ist möglicherweise ein ziviles Sicherheitsfreigabesystem für alle Unternehmen, die Dienstleistungen für die Regierung erbringen, das die Befugnis hat, alle unternehmensbezogenen Finanzaktivitäten zu untersuchen, einschließlich der Berücksichtigung ihrer Steuerverpflichtung gegenüber dem Vereinigten Königreich und der Einhaltung demokratischer Werte durch das Unternehmen auf höchster Ebene. Die dadurch frei werdenden Räume würden mehr Spielraum für Insourcing, alternative Strategien auf der Grundlage von Community Wealth Building und Ansätzen bieten, die eine klarere öffentliche Ethik darstellen. Letztendlich muss der NHS dabei unterstützt werden, eine eigene Datenanalyse-Infrastruktur und leistungsstarke Rechenkapazitäten aufzubauen. Es sollte auch beachtet werden, dass das Potenzial für die Überwachung am Arbeitsplatz durch den Einsatz von KI ebenfalls erheblich verbessert wird; und dies hängt wiederum mit der Allgegenwärtigkeit von Microsoft 365 als Paket von Dienstprogrammen zusammen. Microsoft 365 kann dem Management bereits zahlreiche Berichte zu allen möglichen Aspekten rund um die Mitarbeiter bereitstellen: zur Anzahl der abgerufenen und erstellten Dateien und zur Anzahl der Nachrichten, die über verschiedene Kanäle gesendet und empfangen werden. Es ist klar, dass KI in der Lage sein wird, für jeden Mitarbeiter Bewertungen zur „prognostizierten Produktivität“ gemäß den vom Management bereitgestellten Key Performance Indicators (KPIs) bereitzustellen.Letztendlich dürfte sich für viele Unternehmen die Versuchung, Verhaltensaspekte mit technologiezentrierten, „datengesteuerten“ Analysen anzugehen, als zu groß erweisen, als dass sie widerstehen könnten. Den Gewerkschaften muss ein gesetzliches Recht eingeräumt werden, die Umsetzung solcher Messsysteme zu prüfen und Einfluss darauf zu nehmen. Aber hier ist die Technologie nicht unbedingt die Ursache der Missbräuche: Sie spiegelt die Welt wider, wie sie ist, und unterstreicht die Notwendigkeit einer tieferen sozialistischen Transformation. Wir werden im folgenden Artikel, der diese Reihe abschließt, näher darauf eingehen, wie sich die Technologiepolitik darauf auswirken könnte.

Carl Rowlands arbeitet als Ersteller, Lehrer und Autor von Lernressourcen. Er ist in Mitteleuropa und Großbritannien ansässig. Frühere Artikel der Reihe finden Sie hier und hier und hier.

Bild: „CCTV-Kamera“ von Mike_fleming ist unter CC BY-SA 2.0 lizenziert.