DNIP Briefing #5: Datenflut schlägt Überwachung

Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat.

Eine Stadt sucht einen Mörder: Der Mord an United Healthcare-Chef Brian Thompson auf offener Strasse in New York City liegt Tage zurück. Doch trotz öffentlicher Fahndung wurde der Täter nicht sofort gefasst. Dabei gibt es reichlich Videomaterial: Überwachungskameras in einem Hostel, einem Taxi und am Tatort haben die Geschehnisse dokumentiert. Die Polizei sicherte Spuren, setzte Gesichtserkennungssoftware ein und veröffentlichte Fotos eines Verdächtigen, bat die Öffentlichkeit um Hinweise – doch die Identität und der Aufenthaltsort des Täters blieben tagelang ein Rätsel für die Polizei. Gestern Abend Schweizer Zeit meldete die New York Times dann, dass ein Verdächtiger festgenommen worden sei. Ein McDonald’s-Mitarbeiter hatte den Mann beim Essen in einem Restaurant in Pennsylvania erkannt und die Polizei alarmiert.

Das Magazin The Atlantic fasst es gut zusammen: Der Schütze konnte sich der Festnahme zunächst entziehen, weil er verstehe, wie Technologie eingesetzt werde und wo ihre Grenzen lägen. Diese Tat mache klar, wie Überwachung, oft als Schutz im öffentlichen Raum angepriesen, ausgehebelt werden kann – mit Daten, Spuren und Indizien en masse: «The killer’s evasion strategy benefits from the public’s response to all of these clues. If you can’t beat surveillance, overwhelm it.»

KI schaffen, ohne Waffen – haha, you wish!

Apropos Waffen: OpenAI, die Firma hinter ChatGPT, hatte bis vor kurzem hehre Grundsätze: Ihre KI-Modelle dürften nicht für Waffenentwicklung oder das Militär bzw. Kriegsführung eingesetzt. Das hat sich aber im letzten Jahr stark verändert. So kündigte OpenAI letzte Woche eine Zusammenarbeit mit dem KI-Drohnen- und -Raketen-Hersteller Anduril an, mit dem Ziel, Militärinstallationen vor Angriffen zu schützen, was auch immer das heissen mag. Ganz nach dem Sprichwort «beggars can’t be choosers» (wohl am besten durch die Kombination «in der Not schaut der Teufel einem geschenkten Gaul nicht ins Maul» zu übersetzen) müssen bei der Firma, die dieses Jahr 5 Milliarden Minus schreibt, zuerst die Offenheit und danach die Ethik schrittweise abgebaut werden.

Und wenn wir schon bei «Open» sind: «Offen» ist nicht immer gleich «offen», ganz besonders, wenn ein «offen!»-Aufkleber auf dem Produkt die Spielregeln ändert. Um so wichtiger ist Klarheit bei KI, schreiben David Gray Widder, Meredith Whittaker und Sarah Myers West in Nature und kämpfen damit gegen OpenWashing.

Wer heute etwas auf sich halten will, führt in seiner Organisation einen Chatbot ein. So auch die Schweizer Armee: Sie hat ArmeeGPT gelauncht. Das Ziel, wie in vielen andere Organisationen: Die Reglemente verständlicher machen. Natürlich kann man auf ein komplexes, undurchsichtiges Reglement noch ein komplexes, undurchsichtiges KI-System draufpacken. Aber nachhaltig verbessert das kaum etwas. Nachhaltiger wäre es, die Reglemente besser zu strukturieren, zu vereinfachen und verständlicher zu machen. Übrigens: Dasselbe ArmeeGPT-Projekt beinhaltet in seiner Dokumentation auch eine — sagen wir — «überraschende» Aussage zu Privatsphäre: «Indem wir ein anonymisiertes Standard-Login verwendeten, stellten wir ebenfalls den Schutz von Persönlichkeitsdaten sicher». Das klingt nach Username=Passwort=“ArmeeGPT“ oder so.

Die helvetische Eigenverantwortung

Dass Online-Werbung vor allem auch detaillierte Überwachung von unseren gesamten Online- und Offline-Aktivitäten bedeutet, sollte regelmässigen DNIP-Leser:innen alles andere als neu sein. Einen ersten Schritt gegen diesen gross angelegten Datenhandel hinter den Werbenetzwerken hat nun die amerikanische Federal Trade Commission (FTC) gelandet: Den beiden US-Firmen Mobilewalla und Gravy Analytics/Venntel soll Nutzung und Verkauf von gewissen sensiblen Standortdaten verboten werden, wie Netzpolitik.org berichtete. Dazu zählen auch Informationen, aus denen sich leicht Gesundheitsdaten bzw. religiöse, politische oder ethnische Zugehörigkeit ableiten lassen. Alles Daten, die nach DSG besonders schützenswerte Personendaten darstellen und deshalb eine ausdrückliche Einwilligung der Betroffenen erfordern. Trotz Nachfragen sah der EDÖB hier bisher keinen Handlungsbedarf. Wer in klassischer helvetischer Manier seine «Eigenverantwortung» wahrnehmen will, kann sich zumindest teilweise via Browser-Plugins vor Tracking schützen, wie wir vor einem Jahr erläuterten.

Hui, der Bitcoin-Kurs ist auf unzähligen Frontseiten aufgetaucht. Sechsstellig! Da muss man doch jetzt einsteigen, unbedingt, wird überall diskutiert. Jeder Kurs kann manipuliert werden, insbesondere, wenn es um einen «Wert» geht, der unreguliert und intransparent ist und in dem Wash Trading — also Verkäufe an sich selbst zu Mondpreisen -, Handel der Plattform gegen das Kundeninteresse sowie andere Kursmanipulationen als auch Geldwäsche gang und gäbe sind. David Gerard hat festgestellt, dass das Volumen an Kundentransaktionen gegen USD sich nicht geändert hat. Aber gleichzeitig hat der undurchsichtige Kryptoherausgeber Tether mutmasslich riesige Mengen an «Geld» gedruckt, mit dem sie sich wiederum selbst «Sicherheiten» ausgestellt haben. Zur Erinnerung: Ein steigender Kurs an sich(!) ist nie eine Aussage für den dahinterstehenden Wert, sondern zuerst einmal nur eine Chance, noch mehr Geld zu verlieren.

Und schliesslich:

• Kinder haben keine Ausweise. Damit wird Kinderschutz zur Identifikationspflicht für alle, falls Eltern ihre Aufgabe nicht übernehmen wollen (oder können). Ganz abgesehen davon, dass Ausweise, die Rechte entziehen, nicht funktionieren (können). Soziale Netze können viele wichtige Funktionen übernehmen, auch für Jugendliche. Kommerzielle soziale Netze wollen aber vor allem eine Funktion übernehmen: Mit uns Geld verdienen. Das kann direkt (Abogebühren), indirekt (Werbung/Datenhandel) oder doppelt indirekt (Beeinflussung/Machtausübung) geschehen. Aber für all‘ das braucht es eins: Uns (oder zumindest Teile) abhängig zu machen. Und genau bei diesen letzten Punkten sollte der Gesetzgeber anpacken.
• Der pensionierte Journalismusprofessor Dan Gillmor teilt seine Erfahrung über echtes Engagement auf den verschiedenen Plattformen. Seiner Ansicht nach sind das Fediverse (mit Mastodon) und LinkedIn die beiden diesbezüglich aktivsten Plattformen, vor BlueSky, Threads und Twitter.
• Weil es nicht genügend häufig wiederholt werden kann: Wenn auf einem Cookie-Banner steht, «Uns und unseren 278 Partnern ist deine Privatsphäre wichtig!», dann ist dem Webseitenbetreiber unsere Privatsphäre nur eines wert: Geld.
• Nichts ist «absolut sicher», schon gar nicht ein System, auf welches schlussendlich Tausende von Firmen und noch mehr Gesundheitsfachpersonen Zugriff haben werden: Die AOK Nordwest beschreibt die Daten in der elektronischen Patientenakte beispielsweise als «absolut sicher».
• Und vormerken als Lektüre für das dritte Adventswochenende: Wie ein Whistlebower in den USA als Profi Millionen verdient.