Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute u. a. Super, Spionen und Scheinsicherheit.
Danke, Herr Trump
Im letzten Briefing haben wir versprochen, dass es dieses Mal weniger um KI gehen wird. Dank des US-amerikanischen Präsidenten sind wir sogar in der Lage, dieses Versprechen (allen spannenden KI-Meldungen zum Trotz) einzuhalten: Donald Trump hat am vergangenen Dienstag das Zeitalter der Super-Intelligenz eingeläutet, und alle Regierungsorganisationen angewiesen, ab sofort anstelle des Begriffs AI den Betriff SI zu verwenden. Im Gegensatz zur Umbenennung des Golfs von Mexiko und des Ontorio-Sees ist diese Anweisung aber definitiv nur für Regierungsorganisationen gültig, und natürlich für alle Tech-Bros welche sich auf Trumps gute Seite stellen wollen. So hat Elon Musk bereits angekündigt, sein Unternehmen „SpaceXAI“ in „SpaceXSI“ umbenennen zu wollen.
Nun sind wir weder eine US-amerikanische Regierungsorganisation noch TechBros, also werden wir das Kind trotz allem weiterhin beim Namen KI nennen. Falls wir aber trotzdem einen Vorschlag machen dürfen: Ersetzt werden müsste nicht der Begriff „künstlich“ (der trifft den Sachverhalt schliesslich besser als „Super“) sondern eher der Begriff „Intelligenz“. Mit intelligentem Verhalten haben gängige LLM-basierte Algorithmen nun mal herzlich wenig zu tun, egal ob man sie nun künstlich oder super nennt.
White House Accord on Super Intelligence
Zum Start des Zeitalters der Super-Intelligenz hat Trump rund zwei Dutzend CEOs von Tech-Firmen ins Weise Haus gebeten, um den White House Accord on Super Intelligence zu unterzeichnen. Vordergründig soll damit die Sicherheit von KI-Systemen erhöht werden, de facto listet er eine Reihe von eigentlich selbstverständlichen und trivialen Massnahmen auf (Übersetzung DNIP):
- „Wir glauben, dass jedes Unternehmen für die sichere Entwicklung seiner eigenen Technologie verantwortlich ist und dies auf eine Weise tut, die Vertrauen bei Kunden und der Öffentlichkeit aufbaut“ → Das eigentlich erstaunliche hier ist, dass man das überhaupt schriftlich festhalten muss.
- „Jedes Unternehmen, das Frontiermodelle trainiert und einsetzt, verfügt über robuste interne Prozesse und Kontrollen, um sicherzustellen, dass seine Technologie wie vorgesehen funktioniert und dass alle Probleme schnell identifiziert und behoben werden“ → Wie diverse Schlagzeilen der letzten Wochen zeigen, fehlen diese robusten internen Kontrollen völlig (oder sie versagen laufend).
- „Ein internes Team, um sicherzustellen, dass alle Kontroll-, Überwachungs- und Erkennungsmassnahmen wie vorgesehen funktionieren und dass alle Probleme behoben werden“ → Wer könnte da etwas dagegen einzuwenden haben?
Die ganze (kurze) Vereinbarung liest sich flüssig und dürfte vom Wortlaut her zumindest allen bekannt sein, die schon mal erlebt haben, wie Aktiengesellschaften mit internen und externen Revisoren zusammenarbeiten. Eine solche Vereinbarung ist aber nur etwas wert, wenn Verstösse geahndet werden. Hierzu findet sich im Dokument die hilfreiche Aussage, dass es „Im Laufe der Zeit […] sinnvoll sein [kann], diese Schritte in Gesetze oder Vorschriften zu kodifizieren„. Mit anderen Worten: Eine Unterschrift unter diese Vereinbarung verpflichtet schlicht zu nix.
Drüben auf digitalpolitik.de kommt Markus Beckedahl daher lakonisch zum Schluss, dass nun immerhin der „KI-Weltuntergang […] durch moralisch-bindende Selbstregulierung verhindert“ wird.
Dein Auto spioniert dich aus – wahrscheinlich
So das Resultat einer Untersuchung der US-Verbraucherorganisation Consumer Reports. Sie haben sich durch die Datenschutzerklärungen von 15 bekannten Autoherstellern durchgequält und zusammengetragen, welche Daten gesammelt werden. Viele Lenker:innen wüssten gar nicht, welchen Datenauswertungen, -übermittlungen und -verkäufen sie zugestimmt hätten, weil das meist nur einmal erscheint, kurz nach dem Kauf auf dem Bildschirm des Infotainmentsystems.
Ein Forscherteam der Northwestern University hat an auch die Datenverbindungen von 21 neue Testwagen analysiert. Resultat: Jedes der Autos sandte Daten an mindestens eine Drittpartei, über die Hälfte an Werbe-, Tracking- und Analytik-Firmen.
Nicht nur Smart TV-Hersteller haben gemerkt, dass man mit dem Verkauf von Daten auch nach dem Verkauf des Geräts noch Geld machen kann. Was kommt als Nächstes? Gibt es vielleicht irgendwann einmal sogar ein Recht auf Privatsphäre? Also eines, worauf man sich verlassen kann?
Ach ja, liebe Besitzer:innen neuerer Autos: Schaut doch einmal in eurem Infotainmentsystemen und Auto-Apps, was ihr da akzeptiert habt. Und was ihr abschalten könnt.
Meta gegen Smart Glasses
Ein niederländischer Journalist mit den Smart Glasses von Meta filmt vor dem holländischen Meta-Sitz (Facebook, WhatsApp, Instagram & Co.). Was soll da schon schiefgehen? Diverse Mitarbeitenden gefällt das nicht und auch ein Security-Mann beschwert sich. Und das Video – mit anonymisierten Gesichtern – wird von Meta von seinen Plattformen entfernt. Da darf man sich fragen, wieso denn Meta sowas verkauft, wenn das Produkt den eigenen Mitarbeitenden nicht geheuer ist.
(Mehr zu Smart Glasses in unseren früheren Briefings.)
Und schliesslich:
- (Automatisierte) Gesichtserkennung im öffentlichen Raum wird bekanntlich auch im deutschsprachigen Raum
als Lösung sozialer Problemezur Verhinderung von Gewalttaten verkauft. Wie jetzt in UK bekannt wurde, steht dieser Anspruch aber auf sehr wackeligen Beinen: So hat der versuchsweise Einsatz von automatischer Gesichtserkennung in den Londoner Bahnhöfen rund 320’000 Pfund gekostet, 100 Arbeitsstunden der Polizei beansprucht und genau einen Treffer gefunden. Einen Treffer, der sich im Nachhinein erst noch als falsch herausgestellt hat. - Elon Musk kämpft dafür, mit seiner Grok-KI, `tschuldigung, Grok-SI, weiterhin Nacktbilder von realen Personen generieren zu dürfen. Und hat Erfolg: Ein US-Gericht hat ein entsprechendes Gesetz aus Minnesota vorläufig auf Eis gelegt.
- Mit einem Namenswechsel wird alles besser. Oder eben auch nicht. Bei der „Umbenennung“ von ePD zu E-GD ist nämlich einiges schlechter geworden. So wird das E-GD zur Quasi-Pflicht (Opt-Out) und es soll keine Ende-zu-Ende-Verschlüsselung der Daten geben. Wer findet, die Daten gehörten unter Kontrolle der betroffenen Personen: Die Digitale Gesellschaft erklärt die Probleme der nationalrätlichen Lösung und sammelt Unterschriften für eine Petition zur Verbesserung.
- Möglicherweise nutzen KI-Firmen die Informationen, die wir ihren Chatbots anvertrauen, um selbst Profit daraus zu ziehen. Erste Vermutungen lagen schon nahe, obwohl das bisher nicht berücksichtigt wurde.
- KI unterstützt Personen in ihrem unethischen oder menschenrechtsfeindlichem Verhalten. Nicht wirklich überraschend, aber jetzt haben wir es schriftlich.
- Zumindest in Deutschland muss man, wenn man eine E-Mail-Adresse im Impressum angibt, auch auf Mails darauf reagieren. Eigentlich selbstverständlich, aber Amazon wollte das zuerst von einem Gericht bestätigt wissen, ob sie das wirklich müssen.
- Wir reden weniger. Vielleicht weil Handy. Oder SoMe. Expertin: Nicht gut.
