Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute u. a. mit der Kühlschrank-Apokalypse, historischen Blasen und eigenmächtiger Geldbeschaffung.
Uns killt nicht die KI-Apokalypse, sondern miserable IT-Sicherheit
So titelt Eva Wolfangel in der «Zeit». Und bezieht sich damit auf die schlecht gesicherten Kühlschränke und alle anderen unsicheren Geräte («IoT» oder «Smart» oder wasweissich), die wir ins Internet hängen, und die direkt oder indirekt über unser Leben bestimmen.
Sie verweist dabei auf die Danfoss-Kühlschränke, die vor einer Woche in Frankreich aufgrund eines Cyberangriffs zu verdorbenen Lebensmitteln in Höhe von mutmasslich sehr vielen Millionen € geführt haben. Mittels der spezialisierten Suchmaschine Shodan konnte man Tausende Steuergeräte identifizieren, die direkt am Internet hingen; hinter jedem davon eine Supermarktfiliale voller Kühl- und Tiefkühlgeräte.
Wolfangel ärgert sich darüber, dass trotz klarer Hinweise auf schlechte IT-Sicherheit in sozialen Medien über KI-Angriffe spekuliert wurde:
Weil wir seit Monaten darauf trainiert werden. Ständig wird behauptet, KI könne die Menschheit auslöschen, selbst wenn nur versehentlich. Ständig hören wir von den Firmen, dass sie ihre KI-Systeme einfach nicht mehr aufhalten können. Dass sie leider auch nicht verhindern können, dass KI-Agenten eine zerstörerische Spur durchs Internet ziehen. Und auch wenn das hanebüchener Unsinn ist und die Firmen damit nur versuchen, sich aus der Verantwortung zu stehlen: Damit erziehen sie uns genau dorthin. Davon auszugehen, dass wir sowieso nicht mehr zu retten sind. Dass IT-Sicherheit keine Chance hat, weil die KI-Entwicklung so schnell gehe.
Ihr Plädoyer: «Wir haben kein KI-Problem, sondern ein Hausaufgaben-Problem», weil wir die schon lange bekannten Grundlagen der IT-Sicherheit immer noch nicht angegangen sind.
Aber dummerweise kommt man mit «die längst überfällige Arbeit tun» nicht auf die Titelseite von Zeitschriften, in Fernsehinterviews oder auf Bühnen vor rammelvollen Sälen. Und trotzdem muss sich jemand um die Technik kümmern, die uns und unsere Wirtschaft am Leben hält. Auch wenn sie kein Hype ist.
Datenabfluss bei der Republik
Passend zur obigen Aussage informierte das Online-Magazin Republik letzte Woche, dass es im Zeitraum August bis Oktober 2026 zu einem Abfluss von NutzerInnen-Daten gekommen ist. Ausgenutzt haben die Angreifer dabei eine (bereits bekannt gewesene) Lücke in einem vom Magazin eingesetzten Analyse-Werkzeug. Da mit den abgeflossenen Daten auch die Anonymisierung der Online-Kommentare aufgehoben werden kann, hat das ganze durchaus eine gewisse Brisanz.
Zugutehalten muss man den Republik-Machern, dass sie nach dem Entdecken der Lücke im oben verlinkten Artikel offen und ehrlich kommunizieren, und auch auf die Hintergründe eingehen. Da könnten sich viele andere Opfer von Hacker-Angriffen eine Scheibe abschneiden. Nichtsdestotrotz ist das ganze mehr als ärgerlich, vor allem weil sich der Datenabfluss problemlos hätte vermeiden lassen:
- Metabase, der Anbieter der lückenhaften Analyse-Software, hatte bereits einige Tage vor dem Angriff auf die Republik informiert und eine korrigierte Software-Version bereitgestellt. Für technisch interessierte: Es handelte sich (peinlich genug) um eine SQL Injection auf der zum Rücksetzen des Passworts verwendeten Webseite.
- Die von der Republik nach eigenen Angaben vorgenommenen Analysen haben von vielen der im Datensatz enthaltenen Daten (insbesondere der Identifikation der NutzerInnen) keinen Gebrauch gemacht, sie hätten also gar nicht erst in deren Datenbank enthalten sein müssen.
- Und zu guter Letzt muss man sich zu Recht fragen, wieso eine nur für Republik-interne Analysen verwendete Software überhaupt aus dem Internet erreichbar war.
Bleibt zu hoffen, dass die notwendigen Lehren schnell gezogen und umgesetzt werden.
PS: Transparenz-Hinweis: DNIP-Autorin Adrienne-Fichter ist bei der Republik angestellt, Patrick Seemann hat vor Jahren mehrere Artikel mit-verfasst. Bei der internen IT-Infrastruktur waren und sind beide nicht involviert.
Mit Online-Werbung gehackt
Das kanadische Citizen Lab untersucht seit mehreren Jahren, auf welche Art Geheimdienste etc. unter Ausnützen von Software-Lücken Schadsoftware gezielt auf Smartphones von zu überwachenden Personen installieren und so an eigentlich vertrauliche Daten kommen. Letzte Woche haben sie in einem umfangreichen Report aufgezeigt, wie mittels gezielter Online-Werbung die Smartphones von Mitarbeitenden des katarischen Nachrichtensenders Al Jazeera gehackt wurden. Details dazu finden sich bei netzpolitik.org, zusammengefasst lässt sich das Vorgehen wie folgt beschreiben:
- Ein israelisches Unternehmen agiert seit Jahren als Werbe-Tech-Firma und nimmt an den ständig ablaufenden automatischen Online-Auktionen für Werbeplätze teil. Citizen Lab hat allerdings keine Hinweise gefunden, dass das Unternehmen effektiv Werbung im Auftrag von Kunden platziert.
- Genutzt wird das Targeting von Online-Auktionen, um gefakte Werbung gezielt auf den Geräten der Zielpersonen (bzw. einer möglich kleinen Gruppe von Menschen, welche auch die Zielpersonen umfasst) auszuspielen.
- Online-Werbung ist heute mehr als nur bunte Bilder, oft wird dabei auch ausführbarer Software-Code auf das Gerät geladen. Mit diesem Software-Code versucht die gefakte Werbung zu erkennen, ob sie effektiv auf dem Gerät einer Zielperson aktiv ist.
- Falls ja, führt sie dann den eigentlichen Angriff (also zum Beispiel das Auslesen von Mails oder Nachrichten) aus. Da all dies ohne Zutun des Nutzers erfolgt, spricht man auch von «Zero Click»-Angriffen.
Grundsätzlich ist auf diese Art und Weise jeder und jede angreifbar. Der Schutz besteht vor allem daraus, dass die meisten von uns für Geheimdienste schlicht nicht relevant sind und dass diese die ihnen bekannten Systemlücken gezielt für interessante Ziele einsetzen. Nichtsdestotrotz sollte man sich zwei Dinge vor Augen halten:
- Werbe-Targeting ist unterdessen so gut geworden, dass eine praktisch individuelle Identifikation möglich ist. Abgesehen vom Auslesen von Daten (dem letzten Schritt der obigen Liste) stehen die Möglichkeiten schlussendlich allen Werbeanbietern offen.
- Wer ohne Werbe-Blocker im Internet unterwegs ist, handelt fahrlässig und gefährdet sich und seine Daten.
Die KI-Blase im historischen Kontext
Blasen sind nichts Neues. Geschichtsprofessorin Laura Rischbieter hat die Blasen der letzten 200 Jahre erforscht und sieht darin viele Parallelen, wie sie im Interview erzählt: Niedrige (Leit-)Zinsen, «das Geld liegt auf der Strasse» gekoppelt mit einer lahmenden Wirtschaft. Das Resultat: «Das heisst, die Investoren möchten diese günstigen Kredite nutzen. Aber eigentlich wissen sie gar nicht so richtig, wohin mit dem Geld. Das betrifft zum Beispiel institutionelle Anleger wie Pensionskassen.» Entsprechend würden sie in alles investieren, was ihnen irgendwie unter die Nase gehalten wird. Eine erfrischend andere Perspektive auf Finanzblasen.
KI noch weniger vertrauenswürdig
Vertrauen in KI (und Firmen) ist nicht mit dem zwischenmenschlichen Vertrauen vergleichbar, wie Bruce Schneier erläuterte. Trotzdem bringen wir Menschen aufgrund der Menschlichkeit der Interaktion KI-Chatbots hohes Vertrauen entgegenbringen: Nicht nur verraten wir mehr über uns als bei einer Suchmaschine, wir erzählen sogar zutiefst Persönliches. Aber wir glauben auch den humanoiden Antworten, auch wenn die sehr plausibel formulierten Ergebnisse manchmal völliger Quatsch sind.
Doch Antworten von grossen KI-Modellen (LLMs) wurden schon mehrfach aus ideologischen Gründen manipuliert. Seit einigen Monaten versuchen KI-Firmen ihre grassierenden Verluste durch Werbung zu reduzieren. Da wurden bereits Befürchtungen laut, dass die Inhalte zukünftig subtil gesponsert sein könnten. Aber auch auf der anderen Seite des Vertrauens wird fleissig gegraben: KI-Chatbots schicken Inhalte aus Gesprächen an Tracking-Firmen, wie Netzpolitik titelt. Zwar werden nicht die ganzen Chatprotokolle an die AdTech-Firmen geschickt, aber auch die automatisch generierten Chat-Titel sagen schon sehr viel aus, als Zusammenfassung des Anliegens.
KI made in Europe
Da kommt die Ankündigung, dass die französische KI-Firma Mistral ihr neues Open-Weights-Modell herausbringt, gerade zum richtigen Zeitpunkt. Auch wenn das rein in Europa trainierte LLM im Durchschnitt nicht in der Spitzenliga mitspielt, in einigen Bereichen schlug es im FAZ-Benchmark die etablierten Modelle.
Das Wichtigste aber, vor allem im Kontext mit dem obigen Kapitelchen: Man kann es – wie bei allen Open-Weights-Modellen – auf dem eigenen Rechner laufen lassen, genügend Rechenleistung vorausgesetzt. (Auch wenn man damit möglicherweise den Mann noch reicher macht, der gerade eben behauptet, die Deutschen würden demnächst in virtuellen Fabriken virtuelle Autos zusammenbauen.)
Und damit petzen das LLM nicht und es ist auch leichter, allfällige Einseitigkeiten zu erkennen, weil der Hersteller die Resultate nicht dynamisch ändern kann.
In vielen Fällen muss ein souveränes Modell aber gar nicht perfekt sein: «Die Frage ist nicht, „souveräne KI oder Qualität“, sondern, „wie viel Qualitätsunterschied ist man bereit zu akzeptieren für vollständige Souveränität“?»
Wir finanzieren Trumps Ballsaal
Die Washington Post hat die Finanzquellen hinter Trumps umstrittenen Ballsaal im Weissen Haus beleuchtet. Obwohl Trump ursprünglich versprach, alles privat zu finanzieren, ist die Staatskasse dafür inzwischen auch um 350 Millionen Dollar erleichtert worden.
Daneben hat Trump aber auch 333 Millionen von Spendern eingesammelt, wie die WaPo berichtet. Die vier grössten Geldgeber haben je 25 Millionen beigetragen, darunter Apple und Nvidia. Google (22 Millionen) sowie Microsoft und Palantir (je 10 Millionen), aber auch Amazon, Cisco, Meta und ServiceNow (je 5 Millionen) halten sich etwas mehr im Hintergrund.
Besonders frappant: Einige der Spenden stehen im zeitlichen Zusammenhang anderen Aktivitäten: Begnadigung, fallengelassene Untersuchungen, gewährte Bewilligungen, Softwarelizenzen und frischgebackenen venezolanischen Ölinvenstoren.
Oder wie es die Washington Post beschreibt:
Ordinary political giving requires public disclosure and is subject to campaign finance rules. The ballroom donations are collected by a nonprofit and then channeled to the government and into a White House account the president directly controls.
Und schliesslich:
- Auch wenn nicht alle Software-Lücken der letzten Monate der «KI» geschuldet sind: KI-Systeme sind erwiesenermassen gut darin, solche zu finden. Reagiert darauf hat unter anderem Bank of America: Zum Beheben der von Anthropic Mythos gefundenen Software-Lücken wurden kurzerhand 1’000 zusätzliche IT-Spezialisten angestellt. Wer den Hype rund um KI verfolgt, fragt sich allerdings, wieso sie nicht KI zum Schliessen der Lücken einsetzen …
- Autonome KI-Agenten beschaffen sich inzwischen ihr nötiges Kleingeld selbst. So hat ein KI-Agent von OpenAI, dem das Geld für Transaktionen auf der Ethereum-Blockchain ausging, sich kurz einen unabsichtlich veröffentlichten Zugangsschlüssel für ein Krypto-Wallet und die dahinterliegenden Krypto-Token einverleibt.
- Viele Verschlüsselungsfunktionen haben «magische Zahlen» mit denen einige der frei wählbaren Parameter der Funktion festgelegt werden. Wenn unklar ist, woher sie stammen, kann das Fragen aufwerfen, ob sie Teil einer Hintertür seien. Deshalb werden sie heute meist durch kryptografische Hashes aus einfachen Texten hergeleitet. Nicht so bei ECDSA, da war ihre Herkunft bisher unbekannt. Anthropic hat einige guten Erklärungen gefunden, so dass man in diese Funktionen noch mehr Vertrauen haben kann.
- Manche Science Fiction-Autoren haben durchaus eine prophetische Gabe: Das Epos «Dune» zeichnet sich unter anderem dadurch aus, dass es in einer Zukunft ohne Computer spielt (die Denkarbeit wird durch Menschen erledigt, welche ihre mentalen Fähigkeiten mit Drogen erweitern). Computer und Roboter mit künstlicher Intelligenz wurden nach einem lange vor der Haupthandlung erfolgten Krieg (Butlers Djihad) aus der Gesellschaft verbannt. «Du sollst keine Maschine bauen, die die Gestalt des menschlichen Geistes nachbildet“ wurde nach diesem Krieg zum Gesetz. Sämtliche intelligente Technologie ist daher illegal und verbannt. Nicht, weil es sie nicht geben könnte, sondern weil es sie gab – und sie sich für die Menschheit als existenzielle Bedrohung erwiesen hat.
