Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat.
Auf verschiedenen Meta-Plattformen haben KI-Chatbots die Runde gemacht, die sich als Prominente ausgegeben und anzügliche Nachrichten und Bilder verschickt haben. Die meisten dieser Chatbots wurden von Meta-Benutzern generiert, mindestens drei davon (zwei Taylor Swift- und ein Lewis Hamilton-Bot) allerdings von einer Teamleiterin bei Meta. Meta hat es Nutzern und Nutzerinnen auch erlaubt, Chatbots von minderjährigen Prominenten zu erstellen. Einer habe auf Anfrage ein KI-generiertes Oben-ohne-Bild verschickt. Dabei wurde laut Meta gegen interne Richtlinien verstossen. Kein Problem mit „KI-Kopien“ von Prominenten sieht Meta allerdings, sofern diese als Parodie gekennzeichnet sind.
Gut Ding will Weile haben
Die Datenschutz-Richtlinien der EU sind in Form von GDPR seit Mai 2018 in Kraft, praktisch genauso lang dauert bisher der juristische Kampf von NOYB mit den US-amerikanischen Platzhirschen bezüglich Durchsetzung der in der Regulierung definierten Benutzer-Rechte. Im Januar 2019 hat NOYB acht Streaming-Anbieter (darunter Amazon, Apple Music, Spotify, Netflix und eben YouTube) verklagt, da sie nicht vollumfänglich auf Datenauskunftsbegehren gemäss Artikel 15 der GDPR reagiert hatten. Gemäss diesem Artikel sind Unternehmen verpflichtet, Nutzern eine Kopie ihrer personenbezogenen Daten sowie zusätzliche Informationen zur Verarbeitung zur Verfügung zu stellen, wie z.B. Details zu den Quellen und Empfängern der Daten, den Zweck der Datenverarbeitung und die Speicherdauer.
Im Falle von YouTube war Google eher karg mit dem Zurverfügungstellen der entsprechenden Informationen. Insbesondere Details zum Zweck der Datenverarbeitung, Speicherdauer und zu den Empfängern der Daten wollte Google nicht preisgeben. Die Klage zog sich über mehr als fünf Jahre hin, nicht zuletzt weil Google alles in seiner Macht stehende unternahm, um die gerichtliche Behandlung des Falles zu verhindern. So versuchte Google vergeblich, die in Österreich eingereichte Klage von den (bekanntermassen unternehmensfreundlichen) Behörden in Irland beurteilen zu lassen, und bemängelte die (in GDPR nicht vorgesehene) mangelnde Detaillierung der angeforderten Daten.
Die österreichische Datenschutzbehörde hat Google nun dazu aufgefordert, die Daten unkompliziert und vollständig zur Verfügung zu stellen. Google hat nun vier Wochen Zeit, um der Entscheidung nachzukommen, hat aber auch die Möglichkeit, Berufung einzulegen – und damit eine rechtmässige Antwort auf die Zugriffsanfrage des Betroffenen weiter zu verzögern.
Die Illusion der anonymen Sprachmodelle
Die deutsche Gesellschaft für Informatik hat eine Stellungnahme zu Datenschutzfragen des dortigen Bundes veröffentlicht. Die Essenz davon:
Anonyme KI-Modelle sind derzeit technisch eine Illusion. Technische Verfahren können aktuell weder die Trainingsdaten vollständig anonymisieren, noch zuverlässig verhindern, dass ein KI-Modell reale, persönliche Informationen preisgibt oder Menschen falsche Tatsachen zuschreibt. Deshalb braucht es dringend klare Regelungen: Anbieter müssen die Entwicklung ihrer KI-Modelle dokumentieren und Personal bereithalten, um auf Datenleaks reagieren und sie verhindern zu können. Risiken und Missbrauch müssen qualitativ in den Blick genommen werden – und besonders im Bildungsbereich sind wirksame Schutzkonzepte für den Umgang mit KI-Modellen bei Minderjährigen unerlässlich.
Die gesamte Stellungnahme findet sich hier.
Zum Nachputzen braucht es noch Menschen
KI-Slop ist die abschätzige Bezeichnung für Medieninhalte – einschliesslich Text und Bilder – von niedriger Qualität, die mithilfe von generativer künstlicher Intelligenz erzeugt werden. Dass diese Slops beim Zielpublikum schlecht ankommen und tendenziell zum Löschen von entsprechenden Mails bzw. Wegklicken entsprechender Webseiten führen, ist offenbar unterdessen auch in der Werbe- und Medienbranche angekommen. Und ein kürzlich veröffentlichter MIT-Report hält unter anderem fest, dass bis zu 95% der Pilotprojekte rund um generative KI keinen Wert generieren.
So finden nun diverse Grafiker und Texterinnen, welche bis vor Kurzem wegen genau diesem KI-Slop noch um ihren Job bangen mussten, unterdessen ihr Auskommen, indem sie den KI-Output qualitativ auffrischen. Dieses Auffrischen kann eine einfache kosmetische Korrektur einer Grafik sein, es kann aber auch ein völliges Neuzeichnen einer KI-Grafik bedeuten (was dann länger dauert, als wenn die Grafikerin die Grafik direkt entworfen hätte). Ähnliche Entwicklungen lassen sich auch bei der Korrektur von Chatbot-Antworten und ähnlichen Systemen feststellen.
Ganz ohne menschliche Kreativität scheint es also auch in der neuen leuchtenden KI-Welt nicht zu funktionieren. Und wer weiss, vielleicht ist das ja primär ein Zeichen dafür, dass der Hype-Zyklus den Gipfel der überzogenen Erwartungen hinter sich gelassen hat …
Anbiederung vom Bundesrat
Angeblich beabsichtigt der Bundesrat, Donald Trump anzubieten, auf eine Digitalsteuer zu verzichten. Ziel der ganzen Anbiederung ist es offensichtlich, ihn milde zu stimmen und bessere Zolltarife zu erhalten. Das ist gleich auf mehreren Ebenen problematisch. Erstens glaubt der Bundesrat offensichtlich, dass die USA immer noch ein Verhandlungspartner sind, mit dem man sich auf bestimmte Dinge verständigen kann (die dann auch eingehalten werden). Zweitens sind im Parlament immer noch Vorstösse hängig, die eine Digitalsteuer fordern. Der Bundesrat bietet Trump also einen Verzicht auf etwas an, bevor das Parlament darüber beraten hat. Überdies fragt Rechtsanwalt Martin Steiger zu Recht, was mit der bestehenden „Netflix-Steuer“, der geplanten „Link-Steuer“ und der angedachten „KI-Steuer“ passiert.
Geht KI die Energie aus?
In einem Blogpost untersucht der US-amerikanische Wirtschaftswissenschaftler Paul Krugman den Energie-Hunger der KI-Systeme (bzw. der dazu benötigten Data Centers), und die Auswirkungen dieses Energie-Bedarfs auf die übrige Wirtschaft. Er setzt dabei am Umstand an, dass xAI (das KI-Unternehmen von Musk) kurzerhand und ohne Bewilligung 35 Methangas-Turbinen installieren liess, um den wachsenden Energie-Bedarf der eigenen Rechenzentren zu stillen. Und dies schlicht aus dem Grund, dass das Stromnetz (bzw. die Stromproduktion) in USA bereits am Anschlag läuft und nicht ohne weiteres zusätzlichen Strom liefern kann. Krugman sieht daher Risiken wie Brownouts und Blackouts auf die USA (oder Teile davon) zukommen, also Netzausfälle welche dann nicht nur die Rechenzentren, sondern die Wirtschaft (und die Privathaushalte) als ganzes betreffen würden. Und da er Wirtschaftswissenschaftler ist, spinnt er den Gedanken dann gleich noch weiter und hält fest: Wenn der KI-Boom das einzige ist, was die Wirtschaft momentan über Wasser hält, muss man sich Sorgen darüber machen, was passiert, wenn der Boom endet …
E-ID-Abstimmung rückt näher
Zur E-ID haben wir in den vergangenen Wochen einige Texte veröffentlicht. Zum Beispiel die Erklärstücke „Wieso und wie?“ und „Wie funktioniert sie?“ sowie „The Bigger Picture“ und einen Faktencheck zu den Argumenten der Gegner:innen. Ergänzend dazu empfehlen wir die Lektüre des Republik-Artikels von Adrienne mit dem Titel: „Ein klares Jein zur E-ID„.
Und schliesslich:
- Wie 404media.co schreibt, hat Enshittification hat in der Zwischenzeit auch die Bilder- und Meme-Hosting-Plattform Imgur erreicht. Nachdem die Plattform in 2021 an ein Unternehmen namens MediaLab AI verkauft worden war, baute dieses in den letzten Monaten die menschlichen Moderationsteams weitgehend ab. Die Vermutung liegt nahe, dass die Moderation der Inhalte nun durch KI erfolgt, mit den zu erwartenden schlechten Ergebnissen. Die User-Community hat in den letzten Tagen durch den Upload von Protest-Memes reagiert. Da MediaLab AI kaum von seiner Strategie abweichen wird, dürfte die Wirkung überschaubar bleiben.
- Und gleich nochmals Enshittification, diesmal bei VW (dem Autohersteller): Gemäss einem Bericht von BBC plant das Unternehmen, bei den ID.3-Modellen einen optionalen Power-Upgrade nur gegen eine monatliche Gebühr von 165 Pfund pro Jahr (rund 180 Franken) freizuschalten. Das geht selbstverständlich nur, wenn die Hardware dazu schon im Auto verbaut ist. Der Kunde fährt also unter Umständen mit Funktionalität durch die Gegend, welche er mangels Abo-Zahlung gar nicht nutzen kann.
- Wenn es um Bildschirmzeit und Computerspiele geht, geraten Eltern mitunter in Schnappatmung. Marc Bodmer, Spezialist für Videospiele, beruhigt und ordnet bei „Wir Eltern“ ein.
- Das US-Ministerium „DOGE“ habe Daten zu allen Menschen in den USA in die Cloud kopiert, behauptet ein Whistleblower.
- Wie schnell IT-Infrastruktur zur Schwachstelle, bzw. zum hemmenden Wirtschaftsfaktor wird, war letzte Woche in Deutschland zu beobachten. Aufgrund eines nicht im Detail bekannten technischen Problems bei Paypal führten diverse deutsche Banken keine Lastschrift-Aufträge von Paypal mehr durch. Offenbar waren bei Paypal Sicherheitssysteme ausgefallen, welche zur Betrugsbekämpfung eingesetzt werden. Als Folge davon reichte Paypal sämtliche Zahlungsaufträge an die Banken weiter, welche daraufhin einen Zahlungsstopp auslösten. In diesem Zusammenhang weist das deutsche Bundesamt für Sicherheit in der Informationstechnik darauf hin, bei der Auswahl digitaler Produkte darauf zu achten, ob es Ausfallrisiken gibt. Oder, wie ITler sagen würden: Redundanz ist essenziell!
