Suche
Close this search box.

Depeschen aus der Zukunft: Rückblick auf das erste Jahr Chatkontrolle

Titelblatt einer alten Zeitung, auf welche der Titel "Depesche der Zukunft" mit Untertitel "Extrablatt: Chatkontrolle" montiert wurde

Dies ist ein Gedankenexperiment über die Konsequenzen, wenn die Europäische Union ihren aktuell wieder in Diskussion befindlichen Gesetzesentwurf in die Tat umsetzt. Mit diesem Gesetz sollen alle Bilder und Videos, die von Personen geteilt werden, gescannt werden, ob sie nicht möglicherweise Kindsmissbrauch zeigen.

Der Gesetzesentwurf ist zwar real, dieser Artikel ist aber eine fiktive Extrapolation einer möglichen Zukunft. Mehr Hintergrund und Auswirkungen auf die Schweiz im Schwesterartikel hier.

Wo Personen namentlich zitiert werden, haben sie diese Aussagen auch wirklich so gemacht. Allerdings selbstverständlich nicht in der hier heraufbeschworenen Zukunft. Der Originalkontext ist aber jeweils verlinkt.

Die Namen der futuristischen Apps sind frei erfunden; ihre Beschreibung beruht aber auf Konzepten, an denen aktiv gearbeitet wird.

Tag 1

EU-Gesetz zwingt Tech-Giganten gegen Kindsmissbrauch vorzugehen; Aktivisten wehren sich

BRÜSSEL — Die EU-Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern ist heute in Kraft getreten. Mit dem Gesetz zählt die EU auf einen unerwarteten Partner: Die grossen Techfirmen, gegen welche die EU in den letzten Jahren Bussen in Millionenhöhe ausgesprochen haben, weil sie sich nicht genügend für Privatsphäre eingesetzt hätten.

Die breite Einführung von Ende-zu-Ende-Verschlüsselung markierte einen Durchbruch, da sie Firmen und Regierungen erlaubte, ohne ständige Angst vor Datenlecks zu kommunizieren. Diese Sicherheit eröffnete aber gleichzeitig auch ein Spannungsfeld mit den Straf­verfolgungs­behörden, welche sich über gefährlich erschwerte Ermittlungsbedingungen beschwerten.

Bei der Ende-zu-Ende-Verschlüsselung werden zwischen den Kommunikations­partnern einmalige kryptographische Schlüssel ausgehandelt. Dieser Prozess kann so verändert werden, dass die ausgetauschten Nachrichten auch mit einem weiteren kryptographische Schlüssel entschlüsselt werden könnten. So wäre ein Zugriff durch die Ermittlungsbehörden auf mitgeschnittene verschlüsselte Nachrichten realisierbar. Die reale Gefahr, dass diese zusätzlichen Schlüssel von Widersachern missbraucht werden könnten, haben aber verhindert, dass diese Lösung breit umgesetzt wurde.

Der Widerstand des EU-Gesetzgebers gegen das Scannen aller Nachrichten auf Miss­brauchs­material schwand allerdings, als eine Alternative zu den Nachschlüsseln aufs Tapet kam. Die nun in Kraft getretene EU-Verordnung verlangt von Messenger-Apps, dass die App selbst sicherstellen muss, dass sie kein Missbrauchsmaterial versendet. Dazu kann die App die Medien temporär auf einen Moderations­server des Anbieters hochladen oder selbst auf dem Gerät mit KI diese Bilder identifizieren. Allfällige suspekte Medien müssen an die zuständigen Strafverfolgungsbehörden übergeben werden.

Mehr als 100 Menschen­rechts­organisationen kämpften gegen dieses von ihnen als «Chatkontrolle» verschriene Gesetz. Kritiker versprachen, das Gesetz bis zum Europäischen Gerichtshof zu bekämpfen, da es gegen das in der EU-Grundrechtecharta verbriefte Recht auf Privatsphäre verstosse.

«Bei einer generellen Überprüfung von Kommunikation können häufige Fehlerkennungen (“false positives”) nicht vermieden werden, auch wenn die Zuver­lässigkeit der Erkennung hoch ist. Als Resultat wiederum werden zahllose Unschuldige verdächtigt. Aufgrund der Möglichkeit solcher Auswirkungen wird anlasslose Überwachung eine merkliche Abschreckwirkung (“chilling effect”) auf freie Meinungsäusserung und die Versammlungsfreiheit haben; Personen werden sich selbst bei ihrer Kommunikation und ihrer Interaktion mit anderen einschränken und so Selbstzensur ausüben», sagte das UN-Hochkommissariat für Menschenrechte.

«Diese Verordnung behandelt jedes Bild, welches wir mit Freunden teilen als potenzielles Beweismittel für unsere Schuld, solange wir unsere Unschuld nicht zweifelsfrei bewiesen haben. Heute wird die staatliche Überwachung unserer Bilder mit Kinderschutz begründet. Morgen schon könnte dieses grundrechts­widrige Scanning auf unser ganzes Leben ausgeweitet werden im Namen des Kampfs gegen Terrorismus oder organisierte Kriminalität», sagte Aktivist und Softwareentwickler Jeremiah Lee.

Diese Agenturmeldung ist Fiktion. Sie wurde so nie von Reuters veröffentlicht. Weitere Details zum Projekt «Depeschen aus der Zukunft».

PRESSEMITTEILUNG

Signal muss die EU verlassen um sicher zu bleiben

SAN FRANCISCO — Mit grossem Bedauern stellte heute die Signal Foundation den Betrieb des Signal-Messengers innerhalb der Europäischen Union ein.

Signal warnte den EU-Gesetzgeber, dass Signal keiner Verpflichtung nachkommen werde, seine Garantien für Privatsphäre auszuhöhlen und sich stattdessen aus dem EU-Markt zurückzuziehen, wenn wir dazu gezwungen würden. Dies ist heute der Fall.

«Es gibt keine Möglichkeit, die EU-Verordnung zu Kindsmissbrauch im Kontext der Ende-zu-Ende-Verschlüsselung umzusetzen ohne fundamental die Verschlüsselung zu unterlaufen und gefährliche Schwachstellen in Kerninfrastruktur einzubauen, mit globalen Auswirkungen weit jenseits von Europa,» sagte Signal-Präsidentin Meredith Whittaker.

Benutzerkonten mit Telefonnummern aus EU-Mitgliedstaaten können damit ab sofort keine Nachrichten mehr über Signal senden oder empfangen. Ebenfalls ist die App im Apple App Store und dem Google Play Store nur noch für Nutzer mit Rechnungsadresse ausserhalb der EU verfügbar. Bestehende Installationen werden weiterhin auf bestehende Nachrichten zugreifen können, erhalten aber keine Updates mehr.

Diese Pressemitteilung ist Fiktion. Sie wurde so nie von Signal veröffentlicht. Weitere Details zum Projekt «Depeschen aus der Zukunft».

«Kommunikations­chaos» für Regierungsvertreter mit Inkrafttreten der EU-Chatkontrolle

BRÜSSEL — Trotz intensiver Verhandlungen bis weit nach Mitternacht hat es die EU-Kommision nicht geschafft, die Signal Foundation zum Weiterbetrieb ihres Services für EU-Regierungsvertreter, Sicherheits­behörden und das Militär — diese sind vom Gesetz ausgenommen — zu überzeugen.

Die EU-Kommission hatte den Messenger Signal im Jahre 2020 für die Kommunikation zwischen ihren Mitarbeitern und Aussenstehenden, nachdem tausende diplomatischer Depeschen in falsche Hände gelangt waren. Die Kommission prüft nun, eine eigene Version auf Basis des Signal-Open-Source-Projekts oder des Matrix-Protokolls zu erstellen. Es wird aber nicht damit gerechnet, dass in den nächsten 6 Monaten eine neue Empfehlung ausgesprochen werden kann.

Diese Agenturmeldung ist Fiktion. Sie wurde so nie von Reuters veröffentlicht. Weitere Details zum Projekt «Depeschen aus der Zukunft».

PRESSEMITTEILUNG

Apple kündigt wirkungsvolle neue Sicherheitsfunktion an

CUPERTINO, KALIFORNIEN — Apple kündigt heute neue Kinderschutzfunktionen für seine Messages-App an. Die bereits privatsphärekonform und sicher auf den Geräten vorhanden Apple-Intelligence-Funktionen werden erweitert, um automatisiert Bilder zu erkennen, melden und löschen, welche sexuelle Handlungen mit einem Kind zeigen. Apple hat auf diesem Gebiet bereits 2021 Pionierarbeit geleistet und bringt diese Innovation jetzt auf den Markt, mit Unterstützung von Regierungen, denen der Schutz von Kindern ebenfalls am Herzen liegen.

Die Vorreiterrolle von Apple mit seinen Communication Safety-Funktionen und dem Sensitive Content Analysis Framework wurden von Grund auf entwickelt, um die Privatsphäre unserer Nutzer bestmöglich zu schützen. Statt Bilder zum Scannen in die Cloud hochzuladen, arbeitet jedes Gerät autonom und gleicht alle Bilder sicher mit einem KI-Modell ab, welches mit einer Datenbank von bekanntem illegalen Material erstellt wurde, welche von Kinderschutzorganisationen wie dem National Center for Missing and Exploited Children (NCMEC). Dies ermöglicht Apple, solche Ereignisse direkt an die zuständigen Behörden weiterzuleiten.

Apple wird weiterhin mit Regierungen, Kinderrechtsorganisationen und anderen zusammenarbeiten um junge Menschen auf der ganzen Welt schützen zu können, ihr Recht auf Privatsphäre zu erhalten und das Internet zu einem sichereren Ort für Kinder und uns alle zu machen.

Diese Pressemitteilung ist Fiktion. Sie wurde so nie von Apple veröffentlicht. Weitere Details zum Projekt «Depeschen aus der Zukunft».

Meta-Logo

NEWSROOM

Gemeinsam für sichereren Chat

MENLO PARK — Meta stärkt seine Engagement für öffentliche Sicherheit mit führender KI-Technologie um illegale Inhalte innerhalb der EU präzise zu identifizieren und die erforderlichen Meldungen an die zuständigen Behörden durchzuführen.

Junge Menschen auch online ein sicheres Umfeld zu bieten ist eine kontinuierliche Herausforderung schon seit Anbeginn des Internet. Im gleichen Masse wie Kriminelle ihr Vorgehen kontinuierlich verbessern müssen auch wir mit unseren Abwehrmassnahmen nachziehen.

Wir haben eine KI akribisch mit Abermillionen von fein säuberlich differenzierten Moderations­entschei­dungen unserer qualifiziertesten Mitarbeitern trainiert. Neue Regelungen erlauben uns nun, diesen nuancierten Schutz auch auf Bilder und Videos zu erweitern, auch wenn diese verschlüsselt zwischen Personen übertragen werden.

Die Ausbreitung von Kinds­missbrauchs­material (Child Sexual Abuse Material, CSAM) ist eine Herausforderung für alle Kommunikations­plattformen und kann nicht von einer einzelnen Firma alleine gelöst werden. «Meta begrüsst die aktivere Rolle, welche Regierungen und Regulierungsbehörden beim Aktualisieren der Regeln für das Internet einnehmen. So können wir das beste bewahren — die Freiheit des Einzelnen in seiner Rede und der Unternehmer beim Bau von Neuem — und gleichzeitig die Gesellschaft vor umfassenden Schaden bewahren,» sagte Meta-CEO Mark Zuckerberg.

WhatsApp verbindet hunderte Millionen Leute in der EU und Milliarden weltweit. Menschen erschaffen Verblüffendes auf unseren Plattformen und wir engagieren uns aktiv, damit es jederzeit für alle eine wunderbare Erfahrung bleibt.

Meta hat seit 2016 über 20 Milliarden US$ in «Trust and Safety»-Initiativen investiert. «Meta engagiert sich intensiv dafür, dass in keinem Bereich ihres Netzwerks solche Aktivitäten geschehen können,» sagt das National Center for Missing and Exploited Children.

Diese Pressemitteilung ist Fiktion. Sie wurde so nie von Meta veröffentlicht. Weitere Details zum Projekt «Depeschen aus der Zukunft».

Tag 83

Tag 203

THE BIG STORY

«Post-Privacy-Ära»? Nicht wenn es nach diesen Geeks geht

Nach dem EU-Kurswechsel zu Privatsphäre spriessen Zusatzwerkzeuge aus dem Boden, welche die zwangsweise ausgebauten Sicherheitsfunktionen in den beliebtesten Messengern reaktivieren; radikal neue Ansätze versuchen sich gegen Regulierung zu schützen.

WhatsApp-Clients von Drittanbietern sind nicht neu; neu ist aber ihre Popularität. Die deutschsprachigen Entwickler des WhatsApp-Klons WasÄpp schätzen, dass ihre “Äpp” inzwischen bei einem Viertel der europäischen WhatsApp-User im Einsatz sei. WasÄpp sieht wie WhatsApp aus und bedient sich eigentlich auch so. Seine Beliebtheit kommt aber von dem einen Feature, dass ihm im Gegensatz zum Original fehlt und von einem zweiten, das hinzukam.

Die EU-Kinderschutzverordnung verlangt von Messaging-Apps, dass über ihren Dienst versandte Bilder und Videos überprüft werden müssen. WasÄpp umgeht diese Restriktion, indem sie selbst keinen Dienst anbieten, sondern nur eine alternative App für den bestehenden WhatsApp-Dienst sind. Auch nutzen sie das Schlupfloch, dass Text nicht gescannt werden muss und versenden die Bilder als Text.

Statt die Multimedia-Dateien wie das Original an eine Nachricht selbst anzuhängen, verschlüsselt WasÄpp die Datei und legt sie auf dem Cloudspeicher des Nutzers ab, beispielsweise Google Drive, Dropbox oder OneDrive. WasÄpp versendet dann nur einen Link zur Datei sowie den Schlüssel, mit dem der Inhalt wieder entschlüsselt werden kann. Die WasÄpp des Empfängers erkennt diese Art der Übermittlung und lädt das Attachment herunter, entschlüsselt es und präsentiert es so, als ob es den bis vor wenigen Monaten üblichen Weg genommen hätte.

WasÄpp funktioniert als 1:1-Ersatz, weder der Nutzer selbst noch seine Kommunikations­partnerinnen merken einen Unterschied. Und das ist genau das Ziel, das WasÄpp erreichen möchte. Solange die EU Verschlüsselung nicht komplett verbiete, sei dieser Weg kaum zu unterbinden, schreiben die WasÄpp-Entwickler auf ihrer Webseite.

EINE NEUE KLASSE VON APPS will aber gar nicht darauf warten, dass irgendwann Regeln geändert würden. Ausserhalb der Regeln zu stehen, genau das ist der Zweck ValidChat, Wallow Messenger und Freeebirdnet Chat. Während sie sich dem Benutzer wie ein konventioneller Messenger präsentieren, sind sie unter der Haube völlig anders aufgebaut.

Ihr Ziel: Brüssel zu trotzen.

Zuerst einmal ist ihr Code Open-Source: Jeder kann die Apps und ihren Quelltext herunterladen, verändern und verbreiten. Zweitens laufen die Apps im Webbrowser: Ihre Verbreitung hängt also nicht von Apples und Googles Appstores ab. Und drittens nutzen diese Webapps Peer-to-Peer-Technologie: Sie können also Nachrichten sicher und anonym austauschen, ohne auf zentrale Server angewiesen zu sein.

«Wir nahmen die Ideen, mit denen Tor das Browsen im Web anonymisiert, haben sie verbessert und dann auf Instant Messaging getunt,» erzählt ein Mitglied der legendären Hackergruppe “Cult of the Living Unicorn”, welches in seiner Freizeit die Entwicklung von ValidChat unterstützt.

Ohne zentrale Organisation, ohne Abhängigkeiten von Servern, ohne Flaschenhals bei der Verteilung und maskiert als ganz normale Internet-Aktivitäten können EU-Regulierungsbehörden Europäer nicht davon abhalten, wieder wahrhaft private, Ende-zu-Ende-verschlüsselte Chats zu nutzen.

Auf die Frage, ob er keine Probleme damit habe, wenn auch Kriminelle seine Software nutzen würden, meinte ein Entwickler des Wallow Messengers: «Das Leid ihrer Opfer dürfen wir nicht ignorieren. Ihnen soll Gerechtigkeit widerfahren. Wir dürfen aber nicht fundamentale Menschenrechte aufgeben, wie dasjenige auf Privatsphäre für jede:n Einzelne:n in unserer Gesellschaft, nur weil ein kleiner Prozentsatz von Leuten solche Aktivitäten betreibt.»

Dieser Artikel ist Fiktion. Er wurde so nie von Wired veröffentlicht. Weitere Details zum Projekt «Depeschen aus der Zukunft».

Tag 365

Ein Jahr nach der Einführung der Chatkontrolle diskutieren EU-Gesetzgeber über das notwendige Niveau der Überwachung für eine sicherere Gesellschaft

BRÜSSEL — Die EU-Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern, gemeinhin als «Chatkontrolle» bezeichnet, ist vor einem Jahr in Kraft getreten. Kritiker und Befürworter der Verordnung sind sich einig, dass ihre Auswirkungen auf den Kinderschutz kaum spürbar waren. Über die weiteren Schritte herrscht aber Uneinigkeit.

Meldungen an die zuständigen Behörden stiegen um 600 % durch die automatisierten Meldungen der Messaging-Apps von verdächtigen Inhalten. Dem Zuwachs an Meldungen wurde aber nicht von einem entsprechenden Anstieg an Anklagen oder Verurteilungen begleitet. Nur vier Verfahren im vergangenen Jahr nutzten Beweismittel aus den automatischen Meldungen — und diese Untersuchungen hatten schon unter der alten Gesetzeslage begonnen.

«Wir wurden mit automatischen Meldungen überschwemmt,» sagte ein zuständiger Ermittler, der auf Wahrung seiner Anonymität bestand. «Wir haben kein Budget, um neues Personal anzustellen und auszubilden. Es scheint, als ob die Sozialen Netze einfach ihr Moderationsproblem an die Regierungen outgesourcet hätten.»

Die zuständige EU-Aufsichtsbehörde gab zu, dass die meisten Meldungen entweder harmlos waren — wie Ferienbilder von unbekleideten Kindern am Strand — oder aus der rechtlichen Grauzone der Teenager, welche sich gegenseitig einvernehmlich Bilder von sich zusandten.

Kritiker der Chatkontrolle, welchen die Regelung aufgrund des Eingriffs in die Privatsphäre zu weit geht, sehen die fehlenden Auswirkungen auf den Kinderschutz als ausreichenden Grund, ein fehlgeleitetes Gesetz wieder abzuschaffen. Befürworter, auf der anderen Seite, nennen dieselben Ergebnisse als Begründung, dass das Gesetz eben nicht weit genug gehe bei der Unterstützung der Ermittlungsbehörden.

«Kriminelle bewegen sich immer schneller und wir müssen nachziehen,» meinte ein weiterer Ermittlungs­beamter unter Berufung auf Anonymität. «Wir gehen davon aus, dass sie jetzt “black bubble”-Apps benützen um der Erkennung zu entgehen.»

Messenger, welche Peer-to-Peer-Technologie nach dem Vorbild des “dark web” hinter der Anonymisierungs­software Tor einsetzen, wurden im vergangenen Jahr als “black bubble”-Apps bekannt; eine Bezeichnung, die sich aus der farblichen Unterscheidung von Nachrichten bei Apples iMessage herleitet, die blaue Sprechblasen für Kommunikation mit anderen iMessage-Nutzer:innen verwendet und SMS an Android-Nutzer grün markiert.

Mitgliedsstaaten im EU-Ministerrat debattierten letzte Woche über eine Erweiterung der Über­wachungs­möglichkeiten über Messenger und Kinderschutz hinaus. Eine erweiterte Fassung, erstmals unter der EU-Ratspräsidentschaft 2023 vorgeschlagen, soll alle Software- und Service­anbieter dazu verpflichten, jederzeit unverschlüsselte Versionen der Daten ihrer Nutzerinnen und Nutzer an die Strafverfolgungsbehörden aushändigen zu können.

Menschen­rechts­organisationen widersprachen diesem Vorschlag aufs Heftigste. Eine Umsetzung treffe nicht nur auf technische Schwierigkeiten, eine solche Regelung sei auch eine Einladung zum Missbrauch.

«Sogenannter “lawful access by design” — welches den Zugriff von Strafverfolgungsbehörden von Anfang ermöglichen soll — sei in Wirklichkeit “Unsicherheit by Design”. Es gibt keine Möglichkeit, Hintertüren in Verschlüsselung einzubauen oder jedes Gerät mit Spitzelsoftware für die Polizei auszustatten, welche nicht auch von einem feindlichen Staat oder der organisierten Kriminalität missbraucht werden können. Das ist nicht einfach nur ein Privatsphäre-Fetisch Einzelner. Das ist eine technische Realität.», sagte Jeremiah Lee, ein Privatsphäre-Ingenieur.

Die Debatte über ein Gleichgewicht zwischen Menschenrechten und den Möglichkeiten der Regierung, Opfern Gerechtigkeit zu ermöglichen wird sich wohl noch über Generationen hinziehen. Für die Einen ist diese Debatte eine Ablenkung davon, dass nicht-technische Probleme auch nicht-technische Lösungen bedürfen.

«Worüber wir hier reden ist Widerspruch in sich. Es ist einfach nicht möglich, Massenüberwachung privat umzusetzen. Punkt», sagte die Signal-Präsidentin Meredith Whittaker.

Diese Agenturmeldung ist Fiktion. Sie wurde so nie von Reuters veröffentlicht. Weitere Details zum Projekt «Depeschen aus der Zukunft».

Was nun?

Setze dich für die Zukunft ein, in der du auch leben möchtest

  1. Als EU-Bürger: Schreibe deinem EU-Parlamentarier, der ständigen Vertretung deines Landes beim EU-Ministerrat und deiner Landesregierung, dass du gegen die Chatkontrolle seist. Und stimme entsprechend ab.
  2. Spende an das Netzwerk European Digital Rights (EDRi) und Organisationen in deinem Land, die sich für digitale Rechte einsetzen. In der Schweiz ist das z.B. die Digitale Gesellschaft, in Österreich noyb und epicenter.works, in Deutschland Chaos Computer Club, Digitalcourage, und Digitale Gesellschaft, weltweit Amnesty International und EFF.
  3. Nutze Signal bzw. Threema um mit Freunden und Familie zu chatten. Unterstütze sie durch eine Spende (Signal) oder Kauf (Threema).

Weiterführende Literatur

DNIP zu Messengern und Chatkontrolle

Abspann

Originaltext geschrieben, designed und programmiert von
Jeremiah Lee

Speziellen Dank an
Jonathan Cowperthwait
Marcel Waldvogel

Übersetzung und leichte Anpassungen
Marcel Waldvogel

Team bei DNIP
Adrienne Fichter (Lektorat), Jael (Layout), Andreas (Administration)

Logos und Firmennamen sind Eigentum der jeweiligen Firmen. Sie werden hier für journalistische Inhalte, kulturelle Kritik, Berichterstattung, Karikatur und Parodie eingesetzt. Das Meta-Pressemitteilungsbild stammt vom Meta Newsroom. Das Teaserbild basiert auf einer Zeitung aus Upsala von 1873.

Übersetzungen gesucht!
Kannst du dabei helfen, diesen Text bzw. das Original auf Französisch, Niederländisch, Schwedisch, Flämisch, Esperanto oder weitere Sprachen zu übersetzen? Nimmt Kontakt auf mit Jeremiah!

Lizenz
Sowohl der Originaltext als auch diese Übersetzung sind lizenziert unter CC-BY 4.0.

dnip.ch mit Deiner Spende unterstützen

Wir wollen, dass unsere Inhalte frei verfügbar sind, weil wir es wichtig finden, dass möglichst viele Menschen in unserem Land die politischen Dimensionen der Digitalisierung erkennen und verstehen können.

Damit das möglich ist, sind wir auf deine Unterstützung angewiesen. Jeder Beitrag und sei er noch so klein, hilft uns, unsere Aufgabe wahrzunehmen.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Weitere Beiträge

Vogt am Freitag: Anfeuern

Wer ein Feuer machen kann, erkennt digitale Zusammenhänge. Das findet Zürichs Bildungsdirektorin Silvia Steiner. Das von ihr geforderte Handyverbot ist

Weiterlesen »