DNIP-Briefing #85: Versteckte Botschaften und versteckte Daten

Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute u. a. mit Überwachung und Wasserzeichen.

Schützt Kleidung vor Überwachung (Teil II)?

Um Video-Überwachung (und ob man sich mit entsprechender Kleidung dagegen schützen kann) ging es schon im Briefing von letzter Woche. Dabei kamen wir zum Schluss, dass man sich nicht auf diesen Schutz verlassen sollte, da keine systematischen Tests bekannt sind und es viele untrschiedliche Überwachungs-Technologie mit unterschiedlichen Eigenschaften gibt, die sich erst noch laufend weiterentwickelt.

Was man ebenfalls nicht ausser Acht lassen sollte ist, dass Video-Überwachung (mindestens) zwei Ziele hat: Einerseits das (idealerweise automatische) Erkennen von Situationen, in welchen Personen potentielle Straftaten begehen, andererseits das Verfolgen und Identifizieren derselben. Dass bei der Situationserkennung die Kleidung nicht relevant ist, dürfte auf der Hand liegen. Und beim Verfolgen (über mehrere Kameras hinweg) kann eine in irgendeiner Art auffällige Kleidung durchaus dazu beitragen, dass man (zumindest für menschliche Überwacher) einfacher wiederzuerkennen ist als mit einer durchschnittlichen Alltagsbekleidung. Da könnte sich die erhoffte Schutzwirkung schnell einmal ins Gegenteil kehren.

Und wer die automatische Erkennung von potentiell strafrechtlich relevanten Situationen für Zukunftsmusik hält: Wie netzpolitik.de letzte Woche offengelegt hat, arbeitet zumindest die Mannheimer Polizei seit mehreren Jahren daran, Gefahrensituationen oder unerwünschtes oder gefährliches Verhalten durch Software zuverlässig zu erkennen. Dazu wurden mit Probanden bisher rund 2’000 Kurzfilme mit „auffälligem“ Verhalten erstellt, welche für die Erkennungs-Software als Test- und Trainingsmaterial genutzt werden. Da dies offenbar nicht reicht, soll die Menge der Filme auf bis zu 10’000 ausgebaut werden. Handfeste Belege über Wirksamkeit, Fehlerquoten und Verlässlichkeit der damit getesteten/trainierten Software oder gar unabhängige Evaluationen gibt es bisher allerdings nicht.

Ende der Smart-Glasses-Überwachung?

Überwachung wird ja gerade „demokratisiert“, wie man euphemistisch sagen könnte. Für wenige hundert Franken kann jeder zum Datensammel-Agenten von Meta werden. Die Digitale Gesellschaft sieht darin einen „Frontalangriff auf unsere Privatsphäre“ und verlangt ein grundsätzliches Verbot solcher anlassloser Überwachung durch Smart Glasses mit streng definierten Ausnahmen, die sich strikt an „Privacy by Design“ orientieren müssten.

In Deutschland läuft eine Strafanzeige von HateAid gegen Meta, den Brillenhersteller sowie Optik-Handelsketten. Nach Ansicht von HateAid verstösst der Verkauf gegen das deutsche Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG), das Geräte verbietet, welche als Alltagsgegenstände getarnt seien, aber dazu bestimmt sind, andere unbemerkt zu filmen oder abzuhören. Das Verfahren dürfte spannend werden, da es in Deutschland entsprechende Präzedenzfälle gibt: So wurde 2017 eine „Smarte Puppe“ verboten, da sie eine „verbotene Sendeanlage“ darstelle und damit einem Spionagegerät gleichgestellt sei. Sie wurde vom Markt genommen und Eltern aufgefordert, die Puppen zu vernichten, denn alleine der Besitz eines solchen Spionagegeräts ist strafbar.

Wer sich in der Schweiz schon einmal betätigen will: Campax hat eine Petition gestartet, die ein Verbot von Smart Glasses fordert und der man sich anschliessen kann. Dort wird insbesondere das heimliche Filmen von Frauen und Kindern mit anschliessender Veröffentlichung ohne Zustimmung der Betroffenen thematisiert, beispielsweise in Badis und Umkleidekabinen.

(Ach ja: Bereitet euch schon einmal geistig auf Ohrstöpsel mit Kameras vor. Die sind auch allgegenwärtig in Gyms und Umkleidekabinen.)

Enshittification à la Amazon

Wie The Verge schreibt, hat Amazon einen neuen Weg gefunden, Kunden auf die eigene Webseite zu locken: In den Bestätigungsmails zu Bestellungen und deren Versandstatus wird nicht mehr das spezifische Produkt („20 Stück Kernseife“) erwähnt, sondern nur noch die Produkt-Kategorie („Hygenieprodukt“). Wer viel bestellt und genau wissen will, das denn da nun unterwegs ist, muss den Bestell-Status direkt auf der Amazon-Webseite nachschlagen.

Offiziell begründet Amazon dies damit, dass so die Weitergabe von Kundeninformationen ausserhalb der Amazon-App und -Website reduziert wird, was die Privatsphäre der Kunden besser schützt. The Verge spekuliert im Artikel darüber, dass der wahre Grund wohl eher darin liegt, dass Google (via Gmail) die Inboxes ihrer Nutzenden scannt und die dabei gefundenen Produktdetails für Profiling und gezielte Werbung nutzen kann. Profiling und Werbung, welche dazu führen können, dass Kunden halt auch Angebote ausserhalb des Amazon-Universums kennenlernen …

Vernichtungslager à la Amazon

Vor einigen Wochen berichteten wir, dass in letzter Zeit vermehrt grosse Bestellungen bei Antiquariaten eingingen. Vermutet wurde, dass die KI-Konzerne im grossen Stil Bücher aufkaufen würden, um ihre Inhalte dann zu scannen. Der Einfachheit halber (und dem Urheberrecht zuliebe) würden die Bücher dabei vernichtet und entsorgt, so die Vermutung. Genaueres wusste man bisher aber nicht, da die Bestellungen über Zwischenhändler und Dienstleister liefen.

Diese Vermutung wurde inzwischen bestätigt. 404 Media hat einer dieser Bücher-Grosslieferungen eine Apple AirTag untergejubelt, mit dem sie die Buchlieferung quer durch die USA und zurück verfolgen konnten (Paywall). Die Lieferung landete ironischerweise im gleichen Amazon-Gebäudekomplex in Las Vegas, in dem auch Bücher On-Demand gedruckt werden. Nur, dass mit diesen angelieferten Büchern so ziemlich genau das Umgekehrte passiert.

In internen Amazon-Foren wurde die Arbeit als für Amazon-Verhältnisse vergleichsweise leicht stressfrei beschrieben, wie 404 Media berichtet. Die Mitarbeitenden dort würden die Bücher aufschneiden und zuerst die ISBN-Barcodes, später die Seiteninhalte scannen.

Im Artikel wird vermutet, dass vor allem Bücher vor 2022 aufgekauft würden, da diese Bücher garantiert ohne moderne Sprachmodelle generiert worden seien. Training von Sprachmodellen auf Basis von KI-LLM-Output kann zur Verschlechterung der Eigenschaften der KI-Modelle führen, dem sogenannten Modellkollaps (Model collapse).

Ob Amazon auch Bücher aufkauft, die zuvor im gleichen Gebäude gedruckt wurden, ist nicht bekannt.

Bundesbehörde urteilt gegen Datenschutz

Apple ist bekannt dafür, dass sie Privatsphäre ernster nehmen als andere IT-Grosskonzerne. So haben sie früh begonnen, die Trackingmöglichkeiten durch Apps einzuschränken bzw. die Datenverwendung durch App-Anbieter schon im Appstore zu dokumentieren. Apple bietet seit mehreren Jahren die Möglichkeit an, den Apps das Datensammeln mit wenigen Klicks zu untersagen. Nun hat, wie Netzpolitik.org berichtet, allerdings das deutsche Bundeskartellamt geurteilt, dass das nicht mehr so einfach gehen dürfe.

Geklagt hatten deutsche Werbe- und Zeitungsverbände. Einer der Klagepunkte betrifft die Ungleichbehandlung von Apple und Drittparteien in Apples App Tracking Transparency Framework (ATTF), der definitiv in die Zuständigkeit einer Wettbewerbsbehörde fällt.

Das Bundeskartellamt hat aber auch entschieden, dass die App-Tracking-Anbieter neu 4000 Zeichen Platz im Tracking-Ja/Nein-Dialog bekommen sollen, um die Vorteile von personalisierter Werbung und Tracking zu erklären. (Das Wort „Tracking“ darf Apple übrigens in dem Zusammenhang nicht mehr verwenden.)

Dabei dürfte es zumindest unseren Leser:innen durchaus geläufig sein, dass die Datensammelei mit Datenschutzrisiken verbunden ist. Die Daten bleiben nämlich nicht bei den App-Anbietern, die Interessen und Standortdaten der Nutzer:innen werden fleissig und oft unkontrolliert erfasst und weitergegeben. Wer kennt nicht die Dialoge, dass dem Anbieter „die Privatsphäre wichtig“ sei und die Daten nur mit ausgewählten „949 Partnern“ geteilt würden? Dass einige dieser Partner die Daten weiter teilen und damit auch sicherheitsrelevante Informationen geleckt werden, wird damit vermutlich zukünftig unterschlagen werden müssen.

Wasserzeichen in KI-generierten Texten

Anthropic hat angekündigt, in von Claude generierten Texten zukünftig Wasserzeichen einzufügen, also für die Leserin nicht erkennbare Indikatoren, dass ein Text von Claude erstellt wurde. Wasserzeichen kennen wir ja primär von Bildern und im ersten Moment scheint es fraglich, wie sowas in Texten (die ja schlussendlich simple Zeichenketten sind) funktionieren soll.

Weiterhelfen kann hierbei dieser Erkärungstext (englisch), der den Effekt auch gleich visuell aufbereitet. Kurz gesagt wird ausgenutzt, dass bei LLM-gestützter Textgenerierung das „nächste“ Wort durch das LLM wahrscheinlichkeitsbasiert aus einer Menge von möglichen Wörtern ausgewählt wird. Oft handelt es sich dabei um Synonyme, und man kann mit einer Änderung der Gewichtung erreichen, dass gewisse Synonyme häufiger ausgewählt werden als dies rein basierend auf der Häufigkeit in den Trainingsdaten gegeben wäre.

Dies bedeutet konkret, dass nur Anthropic erkennen kann, ob ein Text durch Claude erstellt oder signifikant bearbeitet wurde. Nur Anthropic kennt schliesslich die geänderte Gewichtung und kann so durch eine Textanalyse überprüfen, ob in einem vorliegenden Text dieser Gewichtung entspricht. Allerdings sind hierzu längere Texte (typischerweise mehrere Seiten) notwendig, da sich in kurzen Texten kaum genügend Synonyme austauschen lassen können.

Zu Kontroversen führt momentan, inwieweit durch das Watermarking die Bedeutung von Texten verändert wird und inwieweit es statthaft ist, Wasserzeichen auch dann anzubringen, wenn Claude nur zum Redigieren/Korrigieren von durch Menschen geschriebenen Texten verwendet wird. Wir werden darauf in einem separaten Artikel noch eingehen.

Und schliesslich:

• Klaus Landefeld, der u.a. langjährig für DE-CIX tätig war, die in Frankfurt einen der grössten Internetknoten der Welt betreiben, kritisierte im Heise-Interview die Wünsche der Ermittlungsbehörden nach mehr Vorratsdatenspeicherung mit den Worten: „Wenn man aber bei einer Anzeige noch nicht mal die Daten abfragt, die der Telekommunikationsprovider extra bereitgestellt hat, ist die ganze Argumentation mit zu kurzen Speicherfristen etwas schief.“ Ein Thema, in dem auch aktuell in der Schweiz die Digitale Gesellschaft wieder aktiv ist.
• Die Weko ist fleissig. Nicht nur ist sie in (Vor-)Abklärungen mit Microsoft (Preiserhöhungen) und Apple (NFC), neu wird auch gegen Google ermittelt. Grund: in der Schweiz kann im Gegensatz zu den Nachbarländern die Suchmaschine auf Android nicht mehr beim Start ausgewählt werden, sondern ist initial fix auf die Google-eigene festgelegt.
• Die Zensurfunktionen von Appstores war auch schon Thema bei DNIP. Vergangene Woche hat die Republik die Kooperation von Apple und Google mit Überwachungsregimes unter die Lupe genommen.