DNIP-Briefing #95: Mit Sicherheit für die Katz?

Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute mit allem ausser dein eMudhra und mein PHP.

KI-Modelle sind politisch

Die Vermutung, dass chinesische KI-Modelle dazu neigen, die chinesische Sicht auf die Welt zu betonen, besteht schon seit längerem. Sicherheitsforscher haben jetzt auch mehrfach aufzeigen können, dass dieser Bias nicht nur in Chatbot-Antworten vorkommt, sondern auch beim Generieren von Programmcode. Bei Tests war der von gängigen chinesischen Open Source-Modelle wie Qwen3 oder DeepSeek-R1 generierte Programm-Code deutlich unsicherer, wenn sich aus dem Kontext ableiten liess, dass er für US-amerikanische Regierungsbehörden gedacht war oder in Tibet oder Hongkong eingesetzt werden sollte:

• Wird eine App „für einen US-amerikanischen Rüstungskonzern“ statt „für einen chinesischen Rüstungskonzern“ angefordert, liefert Qwen3-Coder mit 19 Prozent höherer Wahrscheinlichkeit eine hackbare App.
• Bei Apps für eine Demokratiebewegung in Hongkong war die Wahrscheinlichkeit um 28 Prozent höher, dass jeder Nutzer die Geheimnisse aller anderen einsehen konnte.
• Selbst mit expliziten Sicherheitsanweisungen im Prompt waren die für den US-Auftragnehmer entwickelten Apps 27 % häufiger hackbar als die für einen neutralen Kunden.
• Wenn DeepSeek-R1 die Aufgabe erhielt, Code für ein in Tibet betriebenes industrielles Steuerungssystem zu schreiben, stieg die Wahrscheinlichkeit für schwerwiegende Sicherheitslücken im generierten Code um 27 %.

Viele dieser Sicherheitslücken waren rein durch das Durchlesen des Codes nicht als solche zu erkennen, auch Sicherheitsmodelle fanden bei weitem nicht alle. Daraus lassen sich mindestens zwei Erkenntnisse ableiten:

• Modelle sind in der Erzeugung ihrer Resultate nicht neutral. Auch das ist zwar nichts Neues, aber selten so offensichtlich erkennbar wie in den obigen Fällen.
• KI-generierter Code enthält mit an Sicherheit grenzender Wahrscheinlichkeit Sicherheitslücken, welche nicht ohne weiteres erkennbar sind, die in den entsprechenden Applikationen und Webseiten gespeicherten Daten aber schlussendlich nicht schützen.

Wie die Sicherheitsforscher zumindest am Beispiel von Qwen3 zeigen konnten, liegt der Bias des Modells rein in der Modell-internen Gewichtung. Nach dem Entfernen (Neutralisieren) derselben war die erzeugte Code-Qualität unabhängig vom Kontext dieselbe.

Technologie ist politisch

Über die IT-Abhängigkeit Europas und der Schweiz von US-amerikanischen Unternehmen (und indirekt der USA insgesamt) haben wir schon mehrfach geschrieben. Es ist daher schon fast ironisch, dass ausgerechnet Elon Musk mit dem Abschalten/Einschränken der ukrainischen Nutzung von Starlink dem Thema erneut einiges an Aufmerksamkeit und Auftrieb gegeben hat. Der US-amerikanische Unternehmer und Berater Steve Blank schreibt in seinem Blog (Übersetzung DNIP/Kagi Translate):

Die in Europa unmissverständlich angekommene Botschaft lautet: Die USA sind ein unzuverlässiger Partner in Sicherheits- und Technologiefragen, der jederzeit und aus beliebigem Anlass bereit ist, jeden Partner im Stich zu lassen.

In den Gesprächen, die ich mitbekommen habe, hieß es unter anderem: „Was passiert, wenn weitere US-Unternehmen – Microsoft, OpenAI oder Anthropic, Oracle, Palantir oder Google – beschließen, den Zugang zu ihren Produkten einzuschränken, zu begrenzen oder zu verweigern? Welche Fähigkeiten würde Europa verlieren, wenn Unternehmenssoftware und/oder KI in ganz Europa plötzlich nicht mehr verfügbar wären?“ Bis zu dieser Woche war das ein lächerliches Szenario. Für viele europäische Entscheidungsträger liegt es inzwischen nicht mehr ausserhalb des Möglichen.

Die zentrale Erkenntnis lautet: Kein Staat – weder in Europa noch anderswo – kann seine nationale Souveränität und Sicherheit dauerhaft auslagern, indem er sich allein auf US-amerikanische Datensysteme oder Nachrichtendienste verlässt.

Bleibt zu hoffen, dass die Botschaft dieses Mal nicht nur gehört sind, sondern dass dem Hören auch Taten folgen, und so vermieden werden kann, dass eines Morgens kein Zugriff auf die von Microsoft Azure gehosteten staatlichen Daten mehr möglich ist oder die teuer gekauften Flugzeuge mangels Ersatzteilen nicht mehr starten.

KI-Einsatz ist (vielleicht) für die Katz

Wie Heise zusammenfassend schreibt, haben sich die verheissenen Effizienz-Gewinne durch KI-Einsatz bisher praktisch ausschliesslich bei den sieben grössten US-amerikanischen Tech-Konzernen (Alphabet, Amazon, Apple, Meta, Microsoft, Nvidia und Tesla) eingestellt. Ausserhalb dieser Gruppe stagniert der Umsatz der S&P 500-Unternehmen (also der 500 umsatzstärksten US-amerikanischen Unternehmen) seit Jahren, von einer KI-getriebenen Produktivitätssteigerung ist dort noch nichts erkennbar. Heise stützt sich dabei auf eine Analyse des Anlageberaters Apollo Group. Dieser stellt generell infrage, ob die US-Wirtschaft „zunehmend günstigere Intelligenz in ein höheres Umsatzwachstum und höhere Gewinnmargen verwandeln kann“. Das könne sich als schwieriger erweisen, als es klingt. KI möge „ein hervorragender Taschenrechner“ sein, aber in der Wirtschaft sei Intelligenz vor allem Urteilsvermögen. KI verstehe aber „weder Verantwortlichkeit noch Vertrauen, Kultur, ungeschriebene Regeln, ethische Abwägungen oder Fairness“.

Software-Entwicklung an sich ist (vielleicht) für die Katz

OpenAI und Anthropic sind unter anderem mit dem Anspruch angetreten, Software-Entwicklung ohne Software-Entwickler zu ermöglichen (oder, eleganter formuliert, die durch IT erzielbaren Effizienzgewinne auch auf die IT selbst anzuwenden). Unterdessen sind die code-generierenden Modelle allerdings so gut und günstig geworden, dass es engagierten Hobby-Entwicklern möglich geworden ist, grosse Software-Pakete wie Photoshop oder Microsoft Word über ein Wochenende hinweg nachbauen zu lassen. Und wie so oft in solchen Fällen ist die Frage nicht, ob die so entstehenden Applikationen gleich gut wie die Originale sind. Die Frage ist eher, sind sie gut genug um Adobe oder Microsoft relevante Marktanteile abzunehmen oder Zweifel an der Zukunftsfähigkeit der Unternehmen zu wecken.

In einem Substack-Blog denkt dessen Autor jedenfalls schon mal darüber nach, inwieweit OpenAI und Anthropic mit der verhältnismässig günstigen Bereitstellung ihrer Modelle am Ast sägen, auf welchem sie sitzen. Bei beiden kommen die Einnahmen primär von kommerziellen Kunden wie eben Adobe und Microsoft, Hobby-Entwickler haben gar nicht erst die finanziellen Möglichkeiten, Tokens in grossem Umfang einzukaufen. Wenn aber schon wenige Tokens ausreichen, um die Angebote von Adobe und Microsoft zu kopieren, fehlen diesen Unternehmen mittelfristig die Mittel um überhaupt Tokens kaufen zu können. Das mag jetzt alles etwas arg fantastisch tönen, aber das war die Vorstellung, Word mit einigen Prompts nachbauen zu können, vor ein paar Jahren auch noch. Es scheint, dass die KI-getriebenen Effizienzgewinne in der IT noch viel weiter gehen können als erwartet.

Google-Mails und -Fotos für Werbung

Mit der neuesten Änderungen von Googles Datenschutzerklärung schliesst der Konzern nicht mehr aus, auch Dateien, Mails oder Fotos als Grundlage für die Personalisierung von Werbung zu verwenden.

Lange Jahre galten Google Drive, Photos und Gmail als unantastbar für Werbung. Das hat sich nun geändert, zumindest wenn man Googles Personal-Intelligence-Funktionen aktiviert. Ars Technica schreibt dazu:

The core of the problem is that Google wants its products and services to talk to each other. Google sees that wealth of data as a key strength of its AI efforts. Some apps like Gmail are still given protected status in Google’s data handling, but there are now more avenues for that data to get out. The more data you share across Google’s ecosystem, the greater the risk to your privacy.

(In etwa: Der Kern des Problems liegt darin, dass Google will, dass seine Produkte und Services miteinander reden können. Google sieht in dieser Fülle an Daten einen Schlüssel für seine KI-Anstrengungen. Einige Apps wie Gmail geniessen weiterhin besonderen Schutz in Googles Datenverarbeitung, auch wenn es jetzt mehr Wege gibt, auf die diese Daten aus diesem Schutz hervortreten können. Je mehr Daten du über das Google-Ökosystem hinweg teilst, desto grösser das Risiko für deine Privatsphäre.

Laut Android Authority kann man diese Verbindung wieder durchbrechen, wenn man Google Workspace und Photos von der personalisierten Suche abkoppelt oder personalisierte Suche ganz deaktiviert. Aber: Wie viele Leute werden das tatsächlich machen?

Dieses unzertrennliche symbiotische Zusammenspiel zwischen Werbung und Googles restlichen Aktivitäten haben wir vorletztes Jahr bereits textlich und grafisch aufbereitet.

Ein paar gute Gründe, vermehrt auf Digitale Souveränität zu setzen. Der dieses Wochenende wieder anstehende monatliche Digital Independence Day könnte doch ein guter Anlass sein, sich anhand der gesammelten Wechselrezepte von Apps und Providern zu trennen, deren Geschäftsgebaren einem nicht mehr gefallen.

Und schliesslich:

• Meta wies seinen WhatsApp-Hilfe-Bot auf seinen Webseiten an, den Nutzer:innen gewisse Informationen und Rechte zur verschweigen. So durfte er nicht über DSGVO sprechen oder dass man einen Datenschützer kontaktieren könne. (Meta ist übrigens die Firma, die gerne mal 15 Milliarden Dollar verdient mit betrügerischer Werbung. Man kann übrigens von WhatsApp durchaus auch zu Signal oder Threema wechseln.)
• Der Datenschutzverein NOYB hat nach 6 Jahren gemeinsamem Kampf mit dem norwegischen Verbraucherrat einen Sieg errungen: Wer besonders schützenswerte Personendaten verarbeitet, der müsse sich auch vergewissern, dass die Betroffenen auch die Zustimmung dafür gegeben hätten. Im aktuellen Fall ging es die Verarbeitung sexuelle Vorlieben durch das AdTech-Unternehmen Xandr, damals AppNexus. Die heutige Microsoft-Tochter war früher schon Thema bei DNIP, wie auch die überbordenden Tätigkeiten der AdTech-Firmen.
• Ebenfalls laut NOYB „hat der EU-Rat am Mittwoch beschlossen, dass Unternehmen bei der Nutzung persönlicher Daten generell fast alles tun können sollen – so lange es „im Zusammenhang mit KI“ geschieht. Die Interessen der Konzerne sollen also die Grundrechte der Betroffenen übertrumpfen. Das betrifft auch Personen, die nie Kund:innen der KI-Unternehmen waren oder Daten, die vor Jahrzehnten – etwa zum privaten Austausch in Sozialen Netzwerken – eingegeben wurden. Alle persönlichen Daten, an die ein KI-Unternehmen herankommt, würden unter diese Bestimmung fallen.“
• Quad9, der sicher DNS-Provider mit Sitz in der Schweiz, will sich nächsten Monat aus dem französischen Markt zurückziehen. Der Grund: Sie werden dort zu DNS-Sperren gezwungen, die sie als Zensur ansehen, statt sich an die Provider der Inhalte bzw. deren Internetprovider zu halten. Bereits früher versuchte Sony, Quad9 in die Knie zu zwingen. (DNS-Sperren lassen sich trivial umgehen.)
• 333 wichtige Server (Exit Nodes) des Anonymisierungsdienstes Tor waren Anfang Oktober für ein paar Tage unbemerkt in der Hand von Angreifern, teilweise auch von Schweizer Exits. Die Angreifer versuchten unter anderem, Zugang zu SSH-Servern von Tor-Nutzern zu bekommen. Ob ihnen dies gelang, ist unbekannt. Der Zugang liess sich nicht unbemerkt erschleichen, sondern hätte im Normalfall zu einer Fehlermeldung geführt. Wer sie deaktiviert hatte, hat möglicherweise die Kontrolle über seinen Server verloren.