Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat.
Ende Dezember fand in Hamburg der 38. Chaos Communication Congress (38C3) statt. Zum Start ins 2025 zeigt unser Briefing die wichtigsten Vorträge:
Die Sicherheitsexpert:innen Bianca Kastl und Martin Tschirsich zeigten, wie einfach Unbefugte auf die elektronische Patientenakte, kurz ePA, zugreifen können. Die elektronische Patientienakte, das deutsche Pendant zum elektronischen Patientendossier in der Schweiz, soll im Februar dieses Jahres in Deutschland eingeführt werden. Die Gesundheitsdaten von allen, welche dem nicht widersprechen, werden darin zentral gespeichert. Das ergibt ein System, das potenziell die Daten von über 70 Millionen gesetzlich Versicherten umfasst.
Die Resultate der beiden sollten auch die Schweiz aufhorchen lassen. Denn sie zeigen vor allem auf, dass nicht nur unzähligen konkreten technischen Herausforderungen zu lösen sind, sondern vor allem der Faktor Mensch in den ganzen Überlegungen viel zu kurz kommt: Wie kann man dafür sorgen, dass nur Berechtigte Zugang haben, wenn der Grossteil der Patient:innen mit dem System eigentlich gar nichts zu tun haben möchte und sich daher auch nicht um die Zugriffserteilung bzw. das sichere und zuverlässige Aufbewahren der Zugangsdaten kümmern will?
(Übrigens: Am Wochenende hat der deutsche Gesundheitsminister Karl Lauterbach online erklärt: «Die ePA bringen wir erst dann, wenn alle Hackerangriffe, auch des CCC, technisch unmöglich gemacht worden sind.» Erste Kritiker gehen davon aus, dass viele der (Sicherheits-)Probleme grundsätzlicher, architektureller Natur seien und möglicherweise nicht sinnvoll gelöst werden können, zumindest nicht, ohne das ganze System zumindest zu überdenken. Wir von DNIP werden die Lage weiterhin beobachten.)
Zurück nach Deutschland: Marte Henningsen und Rainer Mühlhoff haben sich die angeblich beliebteste (und von mehreren Bundesländern teuer eingekaufte) KI-Anwendung «Fobizz» angesehen, die sich in deutschen Schulen um die automatische Korrektur und Bewertung von Texten der Schülerinnen und Schülern kümmert. Das Resultat ihrer Experimente: Nicht viel besser, als einfach die Note zu würfeln (Video, Text). Ihre Schlussfolgerung: Ein weiteres Beispiel, in dem KI als untaugliche Symptombekämpfung eingesetzt wird, statt die zugrunde liegenden – zugegebenermassen nicht einfachen – Probleme zu lösen. Und in absehbarer Zukunft keine brauchbaren Werkzeuge, um Aufgaben, Versicherungsclaims, Gerichtsverfahren oder (Förder-)Anträge zu beurteilen.
Überhaupt ist der Einsatz von ungeprüfter Software nicht empfehlenswert. Nils Amiet warnte eindringlich, dass das Hinzufügen von hilfreichen Tools (in diesem Fall KI, muss aber nicht sein) immer auch eine Gefahr darstellt, die jemand missbrauchen kann. Also: Vorsicht vor jedem Softwareeinsatz, insbesondere, wenn dabei etwas automatisch passieren kann. Denn ob eine Software sicher ist (oder ob eine Kombination von verschiedenen Werkzeugen sicher ist), das kann man meist nicht auf Anhieb erkennen.
IT-Security-Analyst Flüpke und Datenjournalist Michael Kreil haben sich angeschaut, welche Daten der VW-Konzern von den Vehikeln seiner Kundinnen und Kunden sammelt (und bis vor Kurzem kaum geschützt ins Internet gestellt hatte). Beispielsweise wurden detaillierte, auf wenige Zentimeter genaue Bewegungsprofile als «anonymisiert» bezeichnet. Profile, aus denen man (viel zu) viel auch über Schlüsselpersonen aus Wirtschaft, Politik und Geheimdiensten herauslesen kann, aber auch Details über Whistleblower, Polizeieinsätze, unsere Kinder, Hobbys oder sexuellen Vorlieben.
Und schliesslich:
- Am Montag jährte sich der Angriff auf die US-amerikanische Demokratie. Die Rechercheplattform ProPublica berichtet von einem Maulwurf in den Reihen der Miliz: «Empört über den Sturm auf das Kapitol am 6. Januar verbrachte ein Coach für Überlebenstraining in der Wildnis Jahre damit, sich undercover in die Ränge rechter Milizen hochzuarbeiten. Weder Polizei noch FBI wussten von seiner Mission. Selbst Familie und Freunde liess er im Dunkeln.» Dann kontaktierte er ProPublica.
- Die New York Times hat das Netzwerk von Elon Musk durchleuchtet: Freunde und Familie, Geldgeber, Trumpisten und loyale «Lieutenants». Was nicht erwähnt wird: Musks Vorliebe für die deutsche Politikerin Alice Weidel, die die rechtsextreme Alternative für Deutschland vertritt, und die italienische Postfaschistin Giorgia Meloni. Neu ist auch seine Abneigung gegen Nigel Farage, Brexit-Vorkämpfer und Gründer der Partei Reform UK – der britischen Partei, der Musk per Tweet einen neuen Vorsitzenden empfiehlt. «Noch ist es Zeit, sich zu wehren», schreibt der Autor Navid Kermani in der Zeit. Ein Satz, der weit über das Musk’sche Universum hinausweist – doch hier, im Geflecht von Macht, Ideologie und Einfluss, umso drängender wirkt.
- Wehren muss sich vielleicht demnächst auch Wikipedia: Elon Musk zumindest ist – sehr verkürzt gesagt – der Meinung, dass auch die Wikipedia seine Meinung abdrucken müsse, egal ob sie der Wahrheit entspreche oder nicht. Molly White hat deshalb einen aufrüttelnden und engagierten Blick hinter die Kulissen geworfen und schliesst mit einem Aufruf, dass sich mehr von uns (in unserer Freizeit) für die Wikipedia-Artikel einsetzen sollen, wenn wir zukünftig noch eine Wikipedia haben möchten, die diesen Namen verdient.
- Facebook will die Menschen, die die Plattform verlassen, durch KI-gestützte User (lies: Bots) ersetzen. Diese «Charaktere», wie Meta sie nennt, sollen die Interaktion ankurbeln. Die Bots sollen Biografien und Profilbilder haben und in der Lage sein, Inhalte zu erstellen und zu teilen. «That’s where we see all of this going», sagte Connor Hayes, GenAI-Verantwortlicher im Hause Meta. Wir fragen uns: Wenn sich irgendwann nur noch Bots unterhalten, wer soll dann die Produkte der Werbekunden kaufen?
PS: Der Titel des heutigen Briefings referenziert den Song Hamburg, meine Perle von Lotto King Karl.
