DNIP Briefing #23: Friends & Fiction

Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat.

Ab sofort strukturieren wir das Briefing und beginnen mit leicht verdaulichen und verständlichen Inhalten – und enden mit technologisch-komplexen Artikeln. Ziel ist es, dass sich unsere Leser:innen schneller zurechtfinden und besser einschätzen können, was sie erwartet.

Was hältst du davon? Schreibe es uns.

Mark wills wissen

Meta ist die Firma, die mit Facebook, Instagram, Threads, Whatsapp und Werbung einen Grossteil vieler unserer Leben online prägt. Chef Mark Zuckerberg will uns nun noch mehr unter seine Fittiche nehmen. So sagte er kürzlich in einem Podcast-Interview:

The average American has fewer than three friends, fewer than three people they would consider friends. And the average person has demand for meaningfully more.

Mark Zuckerberg im Interview mit Dwarkesh Patel

Übersetzt sagte Zuckerberg, dass der/die durchschnittliche Amerikaner:in weniger als drei enge Freund:innen habe, aber Bedarf für bedeutend mehr. Der 75-minütige Interview-Marathon kommt ohne kritische Rückfragen aus und ist vor allem eine Plattform für Zuckerbergs Plattformen. Etwas kürzer und vor allem mit kritischer Reflektion ist Samantha Coles Analyse des Interviews bei 404Media.

Bemerkenswert ist vor allem, dass Zuckerberg die Qualität aller existierenden KI-Therapeut:innen und -Freund:innen beklagt. Und dabei vergisst, dass auch seine Firma bereits Therapeut:innen anbietet. Und diese durchaus auch gegenüber angeblichen Minderjährigen sexuell aktiv werden, soweit sie das mit Text- und Sprachausgabe – aber eben ohne Körper – nun mal können.

Laut Wall Street Journal habe Zuckerberg durchgedrückt, dass diese digitalen Lebensgefährten möglichst wenigen Schranken unterworfen seien, damit sie möglichst einnehmende Persönlichkeiten darstellen könnten. Es wäre keine Überraschung, wenn der Grund hinter möglichst einnehmenden KI-Persönlichkeiten – wie auch hinter kommerzieller Social Media allgemein – die Maximierung der Verweildauer wäre.

Unabhängig, wie wir zu einnehmenden KI-Persönlichkeiten stehen: Es ist ein Irrglaube, wenn wir kommerzielle KI-Systemen Freundschaft und Vertrauen zuschreiben. Weil das Vertrauen, das Firmen und ihre Agenten – egal, ob Vertreter, Influencer oder KI – zu Kunden aufbauen möchten, ganz anderer Natur ist als zwischenmenschliches Vertrauen:

Regierungen und Firmen sind nicht in der Lage, echte Freundschaften aufzubauen, auch wenn sie mittels Werbung und Social Media alles tun, um sich diesen Anstrich zu geben. Egal, wie freundlich sie daher kommen, sie sind nicht unsere Freunde; sie können nicht unsere Freunde sein. Sie sind unsere Dienstleister.

Bruce Schneier zu KI und Vertrauen

Ein Computer im Dienste von jemand anderem kann nicht dein Freund, deine Freundin sein. Egal, wie sehr dich das sein Besitzer glauben lassen will. Bzw. besonders dann, wenn dich der Besitzer das glauben lassen will.

Was heisst das nun für Social-Media-Benutzer:innen in der Schweiz? Hier bleibt alles beim alten, schliesslich verzichtet der Bundesrat aus Angst vor Rücksicht auf Trump auf jegliche Plattform-Regulierungen.

Gegen das Vergessen

Bücher verschwinden aus Bibliotheken, Webseiten löschen Spuren Schwarzer Geschichte, Museen werden kritisiert, weil sie Rassismus zeigen. In Atlanta entstand aus Sorge, dass damit auch die Erinnerung schwindet, die Web Archiving School, kurz WARC. Hier lernen 22 Menschen aus Forschung, Kunst und Bibliothekswissenschaft, digitale Archive anzulegen, um zu bewahren, was gelöscht werden könnte. Sie heissen „memory workers“, schreibt Wired – Menschen, die Erinnerungen sammeln und schützen.

Auch das Internet Archive, gegründet 1996, das Milliarden Webseiten und Millionen Bücher speichert, bekommt Probleme. Erst verklagten es das Musiklabel Universal Music und der Verlag Hachette, nun kürzte Elon Musks Department of Government Efficiency die Gelder, die das Archiv bisher unterstützten. Wie wir erinnern, prägt, wer wir werden.

Was bleibt?

In ihrem Essay «My Brain Finally Broke», erschienen im New Yorker, beschreibt Jia Tolentino ein Gefühl, das wohl viele kennen: eine diffuse Zeitlosigkeit und Überforderung, gespeist von einer digitalen Flut von Texten und Bildern und politischen Ereignissen, die so schnell und schrill aufeinanderprasseln, dass jede Empörung verpufft, bevor sie überhaupt richtig da war. „More and more of the world is slipping beyond my comprehension“, schreibt Jia Tolentino.

Der Autor Richard Seymour nennt diese gesellschaftliche Entwicklung in seinem Buch «The Twittering Machine» ein Leben mit einem Chronophage, einem Zeitfresser, der uns den Kontakt zum eigentlichen Fluss der Zeit verlieren lässt. Eine Horror-Geschichte, die nur möglich sei «in einer Gesellschaft, die pausenlos neue Schrecken produziert».

Während alles ineinanderfliesst und das digitale Raunen immer lauter wird, liefern Algorithmen Texte ohne Tiefe, Bilder ohne Seele, einen Strom aus künstlichem Schmutz, der vorgibt, die Wirklichkeit zu sein. Genau in diese absurde Leerstelle zielt der Komiker Patrick Karpiczenko mit seinem satirischen Kurzfilm «Switzerland is fake»: mit der überdrehten Behauptung, die Schweiz existiere gar nicht, sondern sei ein reines KI-Produkt, karikiert er jene digitale Welt, in der selbst das scheinbar Vertraute plötzlich unwirklich wirkt.

Signalgate geht in die zweite Runde

Jetzt wirds ein bisschen komplizierter. Als ein Atlantic-Journalist «aus Versehen» zu einem sicherheitskritischen Signal-Chat hinzugefügt wurde, war die Aufregung nicht nur wegen des Chat-Inhalts und der Sorglosigkeit im Umgang mit geheimen Daten gross. Befürchtet wurde auch, dass die Trump-Administration bewusst auf Signal ausgewichen sei, um den Transparenz-Pflichten und der dazu nötigen langfristigen Archivierung der Chats zu entgehen. An einem Kabinett-Meeting aufgenommene Bilder zeigen nun aber, dass zumindest Mike Waltz (der letzte Woche abgesetzte nationale Sicherheitsberater) nicht die Original-Version von Signal einsetzt, sondern ein von einem Unternehmen namens TeleMessage bereitgestellter Clone, welcher unter anderem sicherstellt, dass Chat-Inhalte archiviert werden. 404 Media hat darüber im Detail bereits letzte Woche berichtet.

Ist damit alles in Butter? Natürlich nicht! Signal betonte gegenüber 404 Media bereits letzte Woche, dass der Datenschutz oder die Sicherheit von nicht-offiziellen Signal-Versionen nicht garantiert werden könne. Es ist unbekannt, ob und wie das Archiv-System gesichert ist, auf welchem sämtliche Chat-Inhalte abgelegt werden. Auch der Umstand, dass TeleMessage ein israelisches Unternehmen mit Nähe zum Mossad ist, trägt nicht zur Entspannung bei. Und IT-Sicherheitsexperte und Datenjournalist Micah Lee ist am Wochenende auf den Source Code der Android-Version des Signal-Clients von TeleMessage gestossen. Da dieser Quellcode als Derivat des Original-Signal-Quellcodes unter einer Open Source-Lizenz (GPL/AGPL) stehen muss, hat er ihn auf Github bereitgestellt. Erste unangenehme Überraschungen wurden bereits öffentlich bekannt, so enthält der Code direkt Passwörter für den Zugriff auf Drittsysteme. Neben den direkt damit verbundenen Risiken lässt sich daraus auch ableiten, dass die Software selbst nie einen Security Audit durchlaufen hat.

… und in die Dritte

Fix in den Quellcode eingebettete Zugangsdaten sollten eigentlich immer alle Alarmglocken schrillen lassen. Und siehe da, ein findiger, anonymer Hacker hat am Wochenende laut eigenen Angaben etwa 15–20 Minuten seiner Zeit investiert, und konnte danach auf einem TeleMessage-Server Nachrichten abfangen, wie sie vom TeleMessage-modifizierten Signal-App ins TeleMessage-Archivierungssystem eingeliefert wurden. Micah Lee und Joseph Cox berichteten gemeinsam darüber.

Ja, es ist alles andere als einfach, einen sicheren Chatclient zu schreiben. Und es ist extrem schwierig, ein sicheres Archivierungssystem zu schreiben, auf welches langfristiger Zugriff gewährleistet ist, die Inhalte aber nur sehr selektiv zugänglich sind. Und die beiden Systeme aneinanderzubinden bedeutet, dass bei jedem Chat unsichtbar ein zusätzlicher Teilnehmer mitliest, nämlich das Archivierungssystem. So etwas in einen Ende-zu-Ende-verschlüsselten Chat einzubauen führt automatisch dazu, dass etliche der Sicherheitseigenschaften unterwandert werden.

Sichere Systeme mit «kontrollierten Hintertüren» werden seit über 30 Jahren zu bauen versucht. Erfolglos. Nicht, weil die Techniker das nicht hart genug versucht haben. Denn es ist kein technisches Problem. Mittels Kryptographie kann man unsichere Kommunikationskanäle sicher machen. Aber wenn die Endpunkte der Kommunikation nicht sicher sind – und dazu gehört je nach Szenario auch der Software- oder Gerätehersteller sowie die Benutzer:innen oder eben die Serverbetreiber eines Archivierungssystems, dann nützt die beste Technik nichts.

A propos sichere Systeme: Die Vereinten Nationen treiben die Einfürhung von Open Source Software voran und starteten im März eine Initaitive für die Förderung von OSS-Technologien in allen UN-Organisationen. Wie Slashdot entdeckt hat, hat sich die UNO dabei auf acht Prinzipien verständigt, wobei das erste das Bemerkenswerteste ist: Open Source wird zum Standardansatz für Projekte.

US-Justiz vs Apple 1:0

In 2021 hatte der Spiele-Hersteller Epic in den USA einen Kartell-Prozess gegen Apple weitgehend verloren, es ging um den Zugang zum App Store und der Möglichkeit für Epic, Spiele/Spielinhalte unabhängig vom Store (und ohne 30% Apple-Zuschlag) zu bezahlen. Nur in einem Punkt machte das Gericht damals eine Auflage an Apple: Der iPhone-Hersteller musste Epic (und anderen Entwicklern) erlauben, Benutzer darauf hinzuweisen, dass sie zusätzliche Inhalte auch ausserhalb des App Stores kaufen könnten.

Eine einfach umzusetzende Auflage, sollte man meinen. Der Weg, den Apple zur Umsetzung wählte, war aber darauf ausgelegt, Epic & co möglichst viele Hürden in den Weg zu stellen. So war der Warnhinweis beim Zugriff auf extern kaufbare Inhalte bewusst negativ gehalten, und Apple wollte auch bei extern gekauften Inhalten einen Zuschlag von 27% einziehen. Die zuständige Richterin fand nun ungewohnt harte und direkte Worte für diese Strategie:

One, after trial, the Court found that Apple’s 30 percent commission “allowed it to reap supracompetitive operating margins” and was not tied to the value of its intellectual property, and thus, was anticompetitive. Apple’s response: charge a 27 percent commission (again tied to nothing) on off-app purchases, where it had previously charged nothing, and extend the commission for a period of seven days after the consumer linked-out of the app. Apple’s goal: maintain its anticompetitive revenue stream. Two, the Court had prohibited Apple from denying developers the ability to communicate with, and direct consumers to, other purchasing mechanisms. Apple’s response: impose new barriers and new requirements to increase friction and increase breakage rates with full page “scare” screens, static URLs, and generic statements. Apple’s goal: to dissuade customer usage of alternative purchase opportunities and maintain its anticompetitive revenue stream. In the end, Apple sought to maintain a revenue stream worth billions in direct defiance of this Court’s Injunction.

Quelle: Gerichtsurteil(PDF)

In Bezug auf den Entscheid von Apple-CEO Tim Cook, finanzielle Interessen höher zu gewichten als die sinngemässe Umsetzung des Urteils von 2021, hält die Richterin lakonisch fest: «Cook chose poorly» (Cook hat schlecht entschieden). Das Gericht hat nun angeordnet, dass Apple nun umgehend sämtliche Warnungen entfernen muss und auch keinen Zuschlag für extern gekaufte Inhalte mehr erheben darf. Das dürfte für Apple doppelt schmerzhaft sein, hatte das ursprüngliche Urteil doch einen angemessenen Zuschlag für akzeptabel gehalten. Erste Anbieter wie Spotify und Patreon haben bereits neue Versionen ihrer Apps angekündigt, welche die neuen Regeln ausnutzen.

Was heisst das nun für Apple-Benutzer:innen in der Schweiz? Hier bleibt alles beim alten, schliesslich verzichtet der Bundesrat aus Angst vor Rücksicht auf Trump auf jegliche Plattform-Regulierungen.

Auch Autos sind Computer

Kommen wir zu Stufe 3. Es gibt kein Programm ohne Fehler. Oder, formuliert als Informatikerwitz:

• Jedes Programm hat mindestes einen Fehler.
• Auch wenn man diese(n) Fehler behoben hat, bleibt es weiterhin ein Programm.

Etliche dieser Fehler können auch Sicherheitsprobleme sein. Ganz besonders bequem ist es, wenn man Sicherheitsprobleme aus der Ferne ausnutzen kann, also über Funk oder via Internet.

Genau so ein Problem haben Forscher beim Nissan Leaf aus 2020 gefunden: Via Bluetooth können sie eine Sicherheitslücke im Auto ausnutzen, welches ihnen dann zu einem beliebigen späteren Zeitpunkt die Fernsteuerung einiger Funktionen des Autos via Internet/Mobilfunk erlaubt, inklusive einiger Manipulationen am Steuerrad.

Den Fehler hatten die Forscher bereits 2023 an Nissan gemeldet. Nissan schaffe es aber erst in der zweiten Hälfte 2025, Sicherheitsupdates auszuliefern. Diese Updates werden in einer Werkstatt durchgeführt. Erst zukünftige Leaf-Generationen werden Updates auch automatisch installieren können.

Die Forscher haben dabei auch festgestellt, dass auch beim fabrikneuen 2020er-Modell noch Software aus 2013(!) verbaut war, beispielsweise der Linux-Kernel 3.14. Wer die Jahr-2038-Problematik etwas verfolgt (DNIP berichtete), weiss, dass gewisse «alte» Software am 19. Januar 2038 Probleme bekommen wird, die sich in Fehlfunktionen bzw. Abstürzen auswirken. Davon betroffen ist auch dieser Linux-Kernel aus 2013.

Was lernen wir daraus:

1. Einige relativ neue Autos gehen möglicherweise spätestens 2038 durch Softwarefehler kaputt.
2. Jede Software hat Fehler.
3. Wenn Software aus der Ferne ausnutzbare Sicherheitslücken haben könnte, sollte sie auch aus der Ferne (sicher) aktualisiert werden können.