DNIP Briefing #18: Lügen und Bücherklau

Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat.

Stell dir vor, jemand durchsucht heimlich die grösste Bibliothek der Welt, reisst Millionen Bücher aus den Regalen und lädt sie auf eine Maschine, die schreiben lernen soll. Genau das, so zeigen es Gerichtsdokumente aus den USA, hat Meta getan. Weil es zu teuer schien, die Rechte an den Büchern zu kaufen, griffen die Entwickler des Llama-3-Modells stattdessen auf LibGen zurück – ein Piratenarchiv mit Millionen Büchern. Bewusst: In den Akten heisst es, «MZ», wohl Mark Zuckerberg, habe sein Okay gegeben. Bücher, hiess es intern, seien wichtiger als Webdaten. Das deckt der Programmierer und Reporter Alex Reisner in Atlantic auf. Ausserdem veröffentlicht er zwei Suchmaschinen, mit denen sich nachvollziehen lässt, womit die Sprachmodelle trainiert werden: Bücher und wissenschaftliche Arbeiten, Filme und Fernsehen. Ein Fenster in den Maschinenraum der KI.

Weitergabe von Daten ohne Einwilligung

Um die missbräuchliche Verwendung von persönlichen Daten gehts auch im nachfolgenden Fall: In UK wurde Facebook (bzw. Meta) dafür verurteilt und darf zumindest bei der Klägerin deren Daten nicht mehr zur Selektion von Werbung verwenden. Die Basis der Klage ist ein Gesetz in der UK, welches bei Direct Marketing den Adressaten das Recht zum Widerspruch einräumt. Facebook hatte sich auf den Standpunkt gestellt, dass es nur Zielgruppen mit mindestens 100 Mitgliedern adressiert und man daher nicht von Direct Marketing sprechen kann. Das Gericht folgte aber der Argumentation der Klägerin. Direkte Auswirkungen hat das Urteil nur auf diese selbst, es öffnet aber die Tür für weitere entsprechende Klagen.

Auch die US-regierungsnahe Plattform Twitter (auch als X bekannt) verwendet übrigens die Daten der Posts für KI-Trainingszwecke. Der EDÖB propagiert Eigenverantwortung: Wer das nicht möchte, soll die Funktion selbst ausschalten. (Ebay hat übrigens in seinen neuen Datenschutzbestimmungen auch eine ähnliche Klausel und Opt-Out-Option.)

«Du sollst nicht lügen»

Die meisten unserer Leser:innen dürften schon mal nach ihrem Namen gegoogelt haben, um herauszufinden, was «das Internet» denn so über sie weiss.

Die moderne Form davon ist, einen der unzähligen KI-Chatbots nach sich zu fragen. Das hat auch ein norwegischer Vater gemacht. Um so erstaunter muss er gewesen sein, als ChatGPT nicht nur (korrekte) Details zu Herkunft und Familie nannte, sondern auch – erstunken und erlogen – dass er wegen Mordes an seinen Kindern 21 Jahre hinter Gittern gesessen sei.

Zusammen mit Noyb verklagt er nun OpenAI, dass diese Daten verschwinden müssten. Und zwar nicht nur die Ausgabe dieser Information verhindert wird, sondern die Daten ganz aus dem Speicher des LLM-Sprachmodells gelöscht werden müssten. Doch das ist gar nicht so einfach.

Freie Information gegen Desinformation

Immer mehr gut recherchierte Informationen verschwinden hinter Paywalls. Gleichzeitig nimmt Clickbait, Desinformation und KI-Gebrabbel zu. Wer sich hunderte von Abonnements für die Informationen hinter den Paywalls nicht leisten kann, wird also mehr und mehr von Fake News unterschiedlichster Art bombardiert.

So berichtet NewsGuard, welche Webseiten nach Wahrheitsgehalt beurteilen, davon, dass bei gewissen Fragen an Chatbots bis zu einem Drittel der Antworten falsch seien; basierend auf einem grossen russischen Netzwerk an Fake-News-Webseiten.

So alarmierend auch der Titel klingt, das Problem scheint nicht zu sein, dass die Inhalte dieser Webseiten in die Sprachmodelle eintrainiert wurden (wo sie eben ganz schwer wieder herauszubringen wären), sondern dass diese Webseiten von der Live-Websuche zurückgeliefert werden und nur für die Antworten in dieser Chatbot-Session verwendet werden. Trotzdem muss das Problem angegangen werden. (Und NewsGuard verspricht sich mit dem Artikel wohl zusätzliche Kunden.)

Wired hat nun einen ersten Schritt gemacht: Reportagen, die auf mittels «Freedom of Information Act»-Anfragen («FOIA») erhaltenen Regierungsdokumenten beruhen, werden künftig ohne Paywall veröffentlicht.

Und schliesslich:

• Letzte Woche berichteten wir über den Verkauf detaillierter Bewegungsprofile von Pokémon Go etc. nach Saudi-Arabien. Während man Bewegungsmuster zur Not ändern kann, wird dies mit Gen-Mustern deutlich schwieriger.
• Wer sich eine DNA-Analyse bei 23andMe hat machen lassen und nicht möchte, dass diese Daten möglicherweise demnächst an den Meistbietenden verscherbelt werden, sollte jetzt auf die Daten und die Proben vernichten lassen. Denn es sieht so aus, als ob die Firma demnächst Pleite gehen könnte. Der kalifornische Generalstaatsanwalt hat eine entsprechende Mitteilung an die Einwohner:innen des Bundesstaats verlautbaren lassen und erklärt darin auch, was zu tun sei. Auch wer dort keine Daten hat, sollte sich überlegen, wo er/sie vielleicht anderswo Daten haben könnte, die bei einem Konkurs oder Weiterverkauf der Firma in fremde Hände gelangen könnten. Und diese rechtzeitig löschen lassen.
• Eine Spur aus teuren Fussballtickets, Luxusreisen und möglicherweise Bargeld: In Brüssel ermitteln belgische Behörden gegen Lobbyisten des chinesischen Technologiekonzerns Huawei. Der Vorwurf: Sie sollen Europaabgeordnete gekauft haben, um politische Rückendeckung für Huawei zu sichern – trotz wachsender Skepsis aus Kommission und Mitgliedsstaaten. Gemäss Follow The Money stehen rund fünfzehn (ehemalige) EU-Parlamentarier im Visier, es geht um Bestechung, Geldwäsche und Bildung einer kriminellen Vereinigung. Fünf Personen wurden bereits angeklagt. Wie sich das von innen anfühlt, erzählten vor gut vier Jahre zwei frühere Mitarbeitende von Huawei Schweiz. Joe und Sam stiegen aus – und packten aus.
• Solltet ihr je in Verlegenheit geraten, einen geheimen Militärschlag online planen zu müssen, mag eine Chatgruppe auf Signal zwar technisch eine gute Wahl sein. Ihr solltet dabei aber auch die Gesetze eures Landes (Dokumentationspflichten, Pflicht zur Verwendung von Spezialgetäten und -räumen für Top-Secret-Kommunikation, …) einhalten. Und vor allem nicht unbeteiligte Zivilisten in die Gruppe einladen. Und in diesem Kreis dann noch den Präsidenten kritisieren. (Das Original ist grossartig geschrieben. Wer mit einer kürzeren, weniger spannenden, dafür deutschen und paywallfreien Version zufrieden ist: Die gibt es auch.)
• Vor drei Wochen hatten wir schon Fragen zu Microsofts Quantencomputer-Ankündigung. SRF hat inzwischen mit zwei Physikern gesprochen, die weitere Fragen aufwerfen: An der Messmethode, den Messresultaten und dass – auch wenn da wirklich Majorana-Effekte zu aufgetreten wären – die wichtigste Grundlage für Quantencomputer, nämlich die Verschränkung, immer noch fehlen würde.