Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute u. a. mit Entwicklungen zu mehr Hype, zu mehr Natürlichkeit, der Interaktion zwischen Armee und Kriminellen und den Verheissungen von Open Source.
Anthropic warnt wieder mal vor unbeherrschbarer KI
KI-Unternehmen, welche vor den Gefahren der eigenen Produkte warnen, sind ja nichts neues. Gemäss einem Reuters-Bericht ist es diesmal an Anthropic, quasi öffentlich Selbstkritik zu üben:
Anthropic said on Thursday frontier AI developers should establish a coordinated, verifiable way to slow down or temporarily pause development if advanced systems begin improving themselves faster than society can manage the risks.
(„Anthropic erklärte am Donnerstag, dass Entwickler von Frontier-KI einen koordinierten und überprüfbaren Weg etablieren sollten, um die Entwicklung zu verlangsamen oder vorübergehend zu pausieren, falls fortgeschrittene Systeme beginnen, sich schneller selbst zu verbessern, als die Gesellschaft die Risiken bewältigen kann.“)
Wer das Thema schon etwas länger verfolgt, hat entsprechende Warnungen schon von anderen KI-Unternehmen wie zum Beispiel OpenAI gehört. All diesen Warnungen gemeinsam ist, dass die Warnenden selbst problemlos in der Lage wären, die Entwicklung zu verlangsamen und gemeinsam mit Politik und Zivilgesellschaft nach Wegen zu suchen, die weitere KI-Entwicklung human zu gestalten.
Die Vermutung liegt daher nahe, dass es sich bei solchen Aussagen primär um Ablenkungsmanöver oder Werbung für die Fähigkeiten der eigenen Produkte handelt. Dies erwähnt auch die US-amerikanische Tech-Journalistin Karin Hao in einem Interview von Adrienne Fichter:
Wegen solcher Schauergeschichten hat sich auch die Biden-Regierung nie mit den echten Problemen von KI beschäftigt: mit Fragen zum geistigen Eigentum, Fragen rund um den Datenschutz oder zur algorithmischen Diskriminierung, mit Umweltfragen und schon gar nicht mit dem Thema Verlust von Arbeitsplätzen oder Ausbeutung von Arbeitskräften für das Training dieser Modelle.
Sam Altmann selbst (auf den sich die obige Antwort von Karin Hao bezog) hat seit 2023 einen Teil seiner Warnungen wieder relativiert. Über den Zusammenhang mit dem anstehenden Börsengang von OpenAI (und der Notwendigkeit, mittels guter Presse für einen hohen Einstandspreis der Aktien zu sorgen) darf spekuliert werden. Dasselbe gilt auch für Anthropic, welches ebenfalls einen Börsengang anstrebt. Oder wie ein US-amerikanischer Tech-Blogger lakonisch festhält:
On one hand, Anthropic is worried about AI systems growing out of our control and wants everyone to take a breath. On the other, it wants a bunch of cash from investors to keep pushing the envelope.
Got it.
Die Themen Hype und Criti-Hype waren auch schon früher Thema bei uns.
Junge Erwachsene finden KI nicht so toll
Man könnte meine, dass junge Erwachsene die Gruppe sind welche am schnellsten auf den KI-Zug aufgesprungen sind. Schliesslich sind sie seit Jahren digital aktiv und erlebten spätestens seit 2020 auch eine starke Digitalisierung ihres (Schul-)Alltags. Dass dieser Eindruck täuschen kann, zeigt ein Bericht in der Financial Times. Versprochen wurde ihnen, dass künstliche Intelligenz sie produktiver, kreativer und beschäftigungsfähiger machen würde. Viele sorgen sich nun, dass KI sie stattdessen weniger wertvoll für die Arbeitswelt machen könnte.
Gemäss einer Umfrage in den USA ist die Begeisterung über KI bei jungen Erwachsenen in den letzten 12 Monaten deutlich zurückgegangen, auch wenn generative KI für rund die Hälfte von ihnen zum Alltag gehört. Zur Frustration trägt vor allem bei, dass Grundfertigkeiten an Wert und Bedeutung verlieren, und es oft primär darum geht, eine KI anzuleiten und zu beaufsichtigen. Dazu gesellen sich generell Sorgen darüber, wie sich die Arbeitssituation in naher Zukunft entwickeln wird und ob es überhaupt noch genügend Stellen für alle geben wird.
Kaufe Daten, finde Soldaten
Es braucht nicht mehr eine Fitness-App zu sein, welche aufgrund der Blauäugigkeit der dort stationierten Soldaten den Standort von geheimen Militärstützpunkten offenlegt, es reichen kommerzielle Datensammlungen. Das US-amerikanische Verteidigungsministerium hat, nachdem Sicherheitsexperten schon länger gewarnt hatten, jetzt eingeräumt, dass militärische Gegner kommerzielle Standortdaten nutzen, um US-Truppen zu lokalisieren. Mit anderen Worten: Smartphone-Standortdaten sind nicht nur ein Werbeprodukt. Es handelt sich um eine Überwachungsinfrastruktur, auf die jeder mit genügend Geld zugreifen kann.
Nicht ganz überraschend reicht es zum Schutz nicht aus, die Weitergabe der Standort-Daten im eigenen Smartphone zu unterdrücken. Kommerzielle Anbieter haben oft andere Methoden, um den Gerätestandort auch ohne GPS-Koordinaten hinreichend genau zu ermitteln. Und so können kommerzielle Standortdaten offenlegen, wo sich Truppen sammeln, wie sie sich bewegen und wie ihr Tagesablauf aussieht. Die militärischen Konsequenzen kann man sich selber ausmalen.
Das Missbrauchspotenzial „alltäglicher“ Datensammlungen haben wir auch schon analysiert.
Bund und Armee finanzieren internationale Kriminalität
«Bundeskonzern Ruag zahlt Lösegeld an Hackergruppe» titelte SRF vergangene Woche. Angeblich hat die US-Tochter der Ruag einen „tiefen sechsstelligen“ Betrag an die Ransomwaregruppe Akira bezahlt, also mindestens 100’000 Franken, vielleicht aber auch ein paar 100’000 Franken mehr. Angeblich hatte die kriminelle Gruppe mindestens 24 Gigabyte Daten zu Kampfflugzeugen wie der F/A-18 von der Ruag heruntergeladen. Bei Ransomware kommen oft zwei bis drei, teilweise auch vier Erpressungsoperationen gleichzeitig vor:
- Die Daten auf den ursprünglichen Servern werden verschlüsselt. Entschlüsselung nur gegen Geld.
- Die Daten werden auf dem Schwarzmarkt weiterverkauft. Oder Geld zahlen, damit das nicht passiert.
- Falls Kundendaten mit dabei sind, können die Kriminellen auch von jenen noch Geld erpressen.
- Evt. werden zur Erhöhung des Stressfaktors auch noch Denial-of-Service-Angriffe gefahren.
Bei der Ruag scheinen laut SRF die ersten beiden Punkte relevant gewesen zu sein. Wichtig ist, dass man – wie bei vielen anderen Erpressungen auch – keine Garantie besteht, dass (1) die Kriminellen nach Zahlung den Entschlüsselungsschlüssel auch wirklich herausgeben und (2) die Daten nicht weitergegeben werden. Auch wenn – wie die Ruag betont – die Daten bisher nicht auf den üblichen Datenhandelsplattformen aufgetaucht sind: Niemand weiss, ob Akira die Daten nicht an eine feindliche Regierung verkauft hat. Und man wird das auch nie herausfinden.
Was wir aber wissen: Akira wurde belohnt, hat jetzt noch mehr Geld für die Professionalisierung ihrer Angriffe und weiss, dass die Ruag (und damit Teile der Schweiz) bereit sind, Lösegeld zu bezahlen (und damit auf der Opferliste der Ransomware-Banden ein paar Prioritätsstufen nach oben gerückt sind). Aus diesem Grund empfiehlt das BACS, bei Ransomware-Angriffen kein Lösegeld zu bezahlen.
Besser ist es natürlich, es gar nicht erst so weit kommen zu lassen. Als Einstieg hier Erklärungen und eine Checkliste; für grössere Firmen oder kritische Daten sind aber gezielt Expert:innen beizuziehen.
Souveränität mit Open Source
Die EU hat eine Open-Source-Strategie, mit der sie die technologische Souveränität Europas stärken will. Die Ziele klingen toll: Bereitstellung und Unterstützung von Open-Source-Software; Förderung eines lebendigen Open-Source-Ökosystems und der Einsatz von Open Source in der Verwaltung; Basis von Open Source für Standards. Da gibt es sicher noch einiges zu konkretisieren und umzusetzen, aber ein guter Anfang. Hoffentlich übernimmt die Schweiz einige der Ideen und ergänzt sie mit Punkten aus dem Strategiepapier der Digitalen Gesellschaft.
Um nicht noch mehr Tech-Souveränität zu verlieren, hat die niederländische Regierung den Verkauf des Technologieproviders für niederländische Identitäten an eine US-Firma verhindert. Einfacher wäre es gewesen, wenn die Lösung Open Source gewesen wäre, nach dem Motto «Public Money, Public Code».
Und schliesslich:
- AdBlocker sind nach wie vor ein gutes Mittel, sich zumindest eines Teils des Internet-Trackings zu entziehen, Daten nicht mit hunderten von „Partnern“ teilen zu müssen und werbelastige Webseiten lesbar zu halten. Wer prüfen will, wie gut der installierte AdBlocker effektiv funktioniert, kann dies beispielsweise mit diesem Test tun. Praktischerweise werden die allenfalls noch zu blockierenden URLs gleich mit-angezeigt.
- Bei Facebook, Instagram und WhatsApp gibt es jetzt auch Abo-Modelle. Wer darauf hofft, dass mit diesen Abos das User-Tracking und die angezeigte Werbung reduziert werden, dürfte enttäuscht werden. Wer bezahlt, bekommt primär mehr Spass-Funktionen, zum Beispiel zur Personalisierung des eigenen Profiles, mehr Statistiken etc. zu Stories, personalisierte Klingeltöne in WhatsApp etc. usw.
- Ein Bluetooth-Gerät „BOMB“ zu nennen ist in Flugzeugen (und an diversen anderen Orten) eine schlechte (und vermutlich auch teure) Idee.
- Die NSA nutzt laut einem Bericht der Financial Times Anthropics Mythos zur Vorbereitung und Durchführung von Cyberangriffen. Betreut wird Mythos und seine Anpassungen von einem halben Dutzend Anthropic-Mitarbeitern. Die Argumentation folgt dem bekannten Muster, „wenn wir es nicht tun, wird es jemand anders tun“.
- Seit rund 10 Tagen gibt es wieder Internet im Iran, auch wenn viele Dienste noch gesperrt werden. Vor einem guten Monat hat Lea Schönberger die Funktionsweise von Internetsperren erläutert, wie sie beispielsweise im Iran, Russland und China genutzt werden. Die Internet Society führt detailliert Buch über Sperrungen.
- Das Internet ist unter anderem deshalb schnell und stabil, weil die Internetprovider an vielen Stellen direkt miteinander Daten austauschen können („Peering„). Doch dieses Netz wird löchrig, weil direkte Verbindungen durch indirekte Verbindungen über grosse Provider ersetzt werden. Dies führt zu weiterer Marktkonzentration und Reduktion der Ausfallfähigkeit, schreibt die Internet Society.
- Beim Bau von Rechenzentrum ist die Intransparenz of grösser als der Nutzen für die lokale Wirtschaft, wie eine Reportage aus Belgien zeigt.
- Metas Brillen-Software hat bereits Gesichtserkennungsfunktionen drin, sie sind aber für User noch nicht nutzbar. Erste Gesichtserkennungsfunktionen waren schon in der Software drin, als Meta ankündigte, vor der Einführung von Facial Recognition zuerst gut nachdenken zu wollen. Aber bei Meta steht viel Profit vor Ethik.
