Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute u.a. mit überholten Gedenktagen, gemolkenen Benutzern und verborgenen Geotracking.
Der nicht mehr zeitgemässe „Change your password“-Tag
Der erste Februar gilt seit über 10 Jahren als „Ändere Deine Passwörter“-Tag. Das ist eine Aufforderung, welche „früher mal“, d.h. zu Zeiten in denen Logins nur aus Benutzername und Passwort bestanden, Mehrfaktorautorisierung nicht existierte und die meisten Logins auch unterkomplexe Passwörter wie „12345678“ zuliessen, durchaus Sinn machte. Doch die Zeiten haben sich geändert: 2FA, Biometrie via Fingerabdruck oder Gesichtsscan, allenfalls sogar Passkeys sind heute vielerorts Standard. Auch Passwort-Manager sind dank der Integration in gängige Betriebssysteme und Browser einfach zugänglich und machen es leichter, Zugang zu Webseiten mit längeren/komplexeren/eindeutigen Passwörtern zu schützen.
Entsprechend haben die Cybersicherheits-Behörden in vielen Staaten ihre Empfehlungen in den letzten Jahren angepasst. Das US-amerikanische National Institute of Standards and Technology hält in seinen entsprechenden Guidelines fest: „Verifiers and CSPs SHALL NOT require subscribers to change passwords periodically„. Und auch das Bundesamt für Cybersecurity (BACS) empfiehlt einen Passwort-Wechsel nur für den Fall, dass die Vermutung besteht, dass es Dritten bekannt geworden ist. Dann sollte man allerdings nicht bis zum folgenden 1. Februar warten …
Weiterhin Sinn ergeben regelmässige Passwort-Wechsel allenfalls bei älteren Geräten wie Router, welche keine Mehrfaktorautorisierung unterstützen, oder bei Accounts, welche aus welchen Gründen auch immer von mehreren Personen genutzt werden (und drum nicht ohne weiteres mit 2FA geschützt werden können).
Applikations-Kühe melken
Ein einträgliches Geschäftsmodell scheint Bending Spoons gefunden zu haben. Das italienische Unternehmen kauft Software-Produkte, welche zwar eine etablierte und oft auch treue User-Basis haben, deren Weiterentwicklung aber ins Stocken geraten ist. Diese Produkte werden dann auf Umsatz und Gewinn getrimmt, indem die Abo-Preise steigen, von Usern geschätzten Funktionen in höherpreisige Abos verschoben werden, Weiterentwicklung kaum noch stattfindet und der Support reduziert wird. Bekannte Beispiele dafür sind etwa Evernote, Komoot und Streamyard.
Das neuste Opfer dieser Strategie ist die Videostreaming-Plattform Vimeo. Wenige Monate nach der Übernahme durch Bending Spoons wurden weltweit Mitarbeiter entlassen. Wie Slashdot schreibt, handelt es sich dabei um grosse Teile des Unternehmens. Unter anderem soll das gesamte Video-Team abgebaut worden sein, auch in der IT-Entwicklungsabteilung wurden viele entlassen. Was dies für die Zukunft des Produkts an sich heisst, kann man sich leicht selber ausmalen.
Ganz offensichtlich setzt Bending Spoons auf die Trägheit der Benutzerinnen, welche lieber bei einem sich graduell verschlechternden Produkt bleiben (und dafür bezahlen) als sich die Mühe eines Wechsels zu einer Alternative zu nehmen. Datenmigrationen sind, sofern sie überhaupt möglich sind, oft aufwändig und unvollständig, und man verliert durch den Wechsel auf etwas Neues wie so oft auch eine Community.
In einem anderen Zusammenhang formulierte es Cory Doctorow wie folgt: «So lange dein Schmerz durch Nutzung des Dienstes kleiner ist als der Schmerz durch verlassen des Dienstes, können die Firmen die Daumenschrauben an den Nutzern immer mehr anziehen, um deren Leben immer schlechter zu machen, um mehr Profit aus ihnen zu schlagen. Deshalb löschte Musk den Blockieren-Button und Zuck feuerte alle seine Moderatoren.»
KI und der Tod des Internets
Unter dem Titel KI – Der Tod des Internets zeigt SRF einen ZDF-/Arte-Film, der die dunklen Hintergründe der glänzenden KI-Welt zusammenfasst. Für regelmässige DNIP-Leserinnen ist vieles davon nicht neu, doch es ist kompakt und zugänglich. In den 50 Minuten wird aufgezeigt, wie das Internet, unsere Bücher und andere Medien durch KI-generierten Slop zugemüllt wird. Und wie Leute mit wenigen Klicks Geld an uns und anderen Dummen verdienen, die darauf hereinfallen. Aber auch, was die KI-Firmen dazu beitragen und wie Millionen von Menschen unter KI leiden.
Und schliesst mit ein paar zuversichtlichen Worten.
Schaut diesen Film doch gemeinsam mit jemandem an, der oder die nicht regelmässig DNIP liest ;-).
Übrigens: Etwas verwirrend ist, dass bei einem KI-kritischen Film in den ersten Sekunden die Nachricht «Dieser Film enthält KI-generierte Sequenzen» aufpoppt. Ab Minute 19:30 wird erklärt, dass man den von den KI-Systemen produzierte massenhafte Müll aussortieren müsse und die wenigen guten Resultate gezielt weiterverarbeiten soll. Drücken wir da ein Auge zu; denn irgendwie passen die Grafiken und Videosequenzen auch sehr gut zum Thema.
Dr. Google empfiehlt Mr. Youtube
Suchmaschinen wollen immer mehr Verkehr bei sich behalten. Schon seit vielen Jahren werden nicht nur Titel und ein Ausschnitt aus den Webseiten wiedergegeben, sondern eine ständig steigende Anzahl weitere Informationen.
Seit einigen Monaten gehören auch diese „KI-Übersichten“ dazu, die versuchen, die Nutzeranfrage gleich direkt zu beantworten. Laut eigener Erfahrung sind – besonders bei etwas exotischeren Themen – diese Zusammenfassungen nicht immer korrekt. Keine Überraschung, wenn man die Funktionsweise der dahinterliegenden Sprachmodelle kennt.
Nun gibt es eine Studie der SEO-Firma „SE Ranking“, woher die Informationen zu diesen sogenannten „AI overviews“ stammen, wie The Guardian berichtet. Untersucht wurden dabei 50’000 Google-Anfragen zu Gesundheitsthemen. Fragen, bei denen Falschinformationen schnell einmal gefährlich werden können. Resultat: YouTube ist die häufigste Datenquelle; medizinische Fachseiten erfolgen erst mindestens um den Faktor 2-3 abgeschlagen. Auffällig auch, dass Youtube häufiger für KI-Übersichten herangezogen wird, als es in den „normalen“ Resultatlisten bei der Suche selbst auftaucht.
Obwohl Google behauptet, dass sie für ihre KI-Überblicke „qualitativ hochwertige Resultate von vertrauenswürdigen Quellen“ verwenden, fand The Guardian in einer früheren Studie „gefährliche und alarmierende“ Fehlinformationen in den KI-Resultaten. Daraufhin deaktivierte Google die KI-Übersichten für viele medizinische Themen.
Also: Wenn es wirklich wichtig ist, unbedingt die Quellen überprüfen. Auch wenn das eine Fähigkeit ist, die bei immer mehr Menschen durch die Nutzung von KI-Systeme immer mehr verloren geht.
Übrigens: Google hat auch begonnen, Titel von Webseiten durch kürzere, KI-generierte Titel zu ersetzen. Dass dabei auch mal der Sinn verloren geht, ein ganz anderer Sinn entsteht oder die Aussage ganz ins Gegenteil verkehrt wird, sollte erfahrende DNIP-Leser:innen nicht überraschen.
Etwas andere Digitale Souveränität
Grönland (und damit auch Dänemark) erlebten in den vergangenen Wochen sehr konkrete Drohungen gegen ihre Souveränität als selbstverwaltetes Gebiet bzw. als Staat. Auch hier kann Digitalisierung helfen. So haben findige Dänen eine Applikation entwickelt, mit denen man einfach Produkte mit US-Herkunft identifizieren kann. Diese kann dann genutzt werden, um gezielt die Produkte des Landes zu boykottieren, dass Grönland einfach mal so annektieren wollte (und vielleicht immer noch will).
Dies funktioniert zumindest solange, bis die US-Hersteller der beiden dominanten Handy-Betriebssysteme sich entscheiden, die App aus ihren Stores zu löschen.
Geotracking für Fortgeschrittene
Dass man mittels Mobilfunk-Antennen geografisch getrackt werden kann, dürfte unterdessen allgemein bekannt sein. Gerade in urbanen Gebieten mit vielen Antennen sind die von der jeweiligen Antenne abgedeckten Bereiche klein genug, um schon rein aus dem Aufenthalt in einem solchen Bereich recht genau ableiten zu können, wo man sich aufgehalten (und mit wem man sich allenfalls getroffen) hat. Aber auch ausserhalb von Städten dürfte die Lokalsierung exakter sein als man auf die Schnelle vermuten würde, vor allem wenn man die Mobilfunk-Daten mit Landkarten etc. abgleicht.
Weniger bekannt ist, dass die gängigen Mobilfunk-Standards (2G-5G) auch die Möglichkeit beinhalten, den GPS-gestützten Standort eines Mobiltelefons zu erhalten. Dieser wird vom Mobiltelefon zwar nicht standardmässig an die Antenne und den Betreiber übermittelt. In den Mobilfunk-Protokollen (also den Vorgaben, welche den Datenaustausch zwischen Antenne und Mobiltelefon regeln) ist aber eine Funktion enthalten, mit welcher der Betreiber ein Mobiltelefon bitten kann, dessen GPS-Koordinaten (falls vorhanden) zu übermitteln. Das mag den durchaus praktischen Zweck haben, die Netzabdeckung zu optimieren oder Mobiltelefone bei Überlastung von Zellen in andere zu verschieben. Es stellt aber auch eine recht direkte Einladung für Überwachung aller Art dar.
Bisher bieten Mobiltelefone keine Möglichkeit, diese Art von Standortabfrage zu unterdrücken. Apple hat jetzt zumindest angekündigt, dies ab iOS 26.3 zu erlauben (zumindest auf iPhones welche mit Apples eigenem Mobilfunk-Chip ausgerüstet sind). Allen anderen bleibt nur die Möglichkeit, GPS insgesamt abzuschalten.
Gerichtsurteile anonymisieren – mit KI
Heise betitelte einen Artikel mit «KI-Anonymisierungen bei Urteilen nur sinnvoll, wen sie den Menschen übertrifft» (inzwischen wurde der Titel leicht geändert). Und fasst damit die wichtigste Erkenntnis eigentlich schon zusammen, wenn man versucht, Dokumente mit personenidentifizierenden Merkmalen im grossen Stil anonymisiert zu veröffentlichen.
Diese Forderung nach besserer Qualität der KI-Anonymisierung im Vergleich zum rein menschlichen Anonymisierungsprozess ist vor allem dann wichtig, wenn die menschliche Kontrolle nur noch als nachgelagerte Kontrolle gedacht ist. Was mit dem Fachbegriff «human in the loop» zusammengefasst wird. Denn wenn jemand ein bereits anonymisiertes Dokument noch einmal durchliest, ist die Wahrscheinlichkeit gering, dass genau die wenigen verbliebenen Fehler gefunden werden. Dafür ist die Aufgabe zu monoton und zu fehleranfällig. Und die meisten Menschen sind nicht für monotone Gehirn-Jobs gemacht.
Deshalb sagen wir: Wenn man ein System einsetzt, dann muss es vorher so gründlich evaluiert sein, dass es in einer klar definierten Domäne nachweislich besser ist als menschliche Arbeit. Erst dann ist ein vollautomatischer Einsatz verantwortbar.
Prof. Stephanie Evert im Heise-Interview
Grundsätzlich muss man sich immer Gedanken machen, wie hoch die akzeptable Fehlerquote jedes strukturierten Prozesses sein soll. Egal, ob er von einer mechanischen Maschine, einem Menschen, einem KI-System oder einer Kombination davon ausgeführt werden soll. Man sollte sich auch überlegen, welche Fehler denn auftreten könnten. Dabei sollte man ganz besonders an die Sonderfälle denken und auch mögliche böswillige Manipulationen berücksichtigen. Irgendwelche Fehler werden immer vorkommen, denn fehlerfreie Systeme gibt es nicht. Und wenn man die maximale Fehlerrate definiert hat, sollte man ihre Einhaltung auch regelmässig stichprobenartig überprüfen. Wenn nötig auch durch Einfügen zufälliger Fehler oder sogar dem gezielten Abschalten von Systemen. Denn nur regelmässig und automatisiert getestete Systeme sind zuverlässige Systeme.
Und schliesslich:
- Dass das mit den nationalen Alterssperren im Internet so ne Sache ist, haben wir ja schon verschiedentlich erwähnt. So dürfte es auch nicht überraschend sein, dass UK bereits ein Vorstoss im Parlament vorliegt, welcher Jugendlichen den Zugang zu VPNs verbieten möchte (House of Lords Votes to Ban UK Children from Using Internet VPNs). Und auch wenn diesem Vorstoss wenig Erfolgschancen gegeben werden: Der nächste Anlauf folgt bestimmt.
- In der EU sollte mit dem „Digitalen Omnibus“ Datenschutz etc. vereinfacht werden. Aber es gibt auch Vorwürfe, dass damit vor allem Deregulierung zugunsten der Big-Tech-Firmen umgesetzt würde, also die Wunschliste der Lobbyisten abgearbeitet, wie Heise fragend zwischentitelt. Gute Regulierung ist wichtig, aber nicht ganz einfach. Aber das wissen wir schon länger.
- Eine Meta-Studie mehrerer US-Forscher zeigt, dass Frauen 20 % weniger wahrscheinlich KI nutzen. Unter anderem, weil sie dem Datenschutz der KI-Firmen weniger vertrauen oder Angst vor Kontrollverlust haben. Aber auch, weil ihnen der negative Einfluss auf die Umwelt u.a. durch den hohen Strom- und Wasserbedarf von KI-Rechenzentren ein Dorn im Auge ist.
PS: Wer erwartet hat, dass wir diese Woche etwas zu Clawdbot/Moltbot/OpenClaw schreiben, sei auf dieses Zitat von @tante auf Bluesky oder seinem bevorzugten Habitat, dem Fediverse, verwiesen:
Some people might know „bash russian roulette“:
[ $[ $RANDOM % 6] = 0 ] && rm -rf / || echo "Click"which generated a random number between 0 and 5 and if it’s a zero it deletes all your files.
Running an „agent“ like Moltbot is basically that with more climate impact.
