Privatsphäre, IT-Sicherheit und Künstliche Intelligenz haben auch in den letzten Wochen zu grossen Schlagzeilen und eher versteckten Artikeln geführt. Hier das subjektiv Wichtigste aus meiner Lesezeit als Pendler zusammengefasst.
Privatsphäre
Für Risiken und (Spionage-)Nebenwirkungen…
- Immer mehr Geräte sind mit Überwachungsfunktionen im Interesse der Hersteller ausgerüstet, auch weit jenseits der bekannten Spielzeugpuppen oder Staubsaugerroboter. Die Mozilla Foundation hat sich viele angesehen und kategorisiert.
- Im Rahmen des Projekts «Digitale Vorbilder» gab es noch vor Weihnachten ein Webinar «Smarte Spielzeuge: Datendiebe im Kinderzimmer?» mit Flyer, kurz zusammengefasst auf der Seite der Referentin, Jessica Wawrzyniak.
- Aber auch dein Smart TV ist möglicherweise so programmiert, dass er seinem Hersteller und dem Werbenetzwerk regelmässig petzt, was du schaust. Egal, von welcher Quelle. Einige dieser Datendiebe extrahieren nämlich regelmässig Informationen aus Screenshots der gerade dargestellten Bilder und schicken sie an den Hersteller.
- Auch eBooks werden immer mehr zu Spionagewerkzeugen, alles im Sinne der Monetarisierung. Insbesondere unsere Lesegewohnheiten zu Gesundheitsthemen oder politischen Themen sollten nicht in den falschen Händen gelangen.
- In Mannheim werden öffentliche Plätze seit 5 Jahren rund um die Uhr überwacht, mit dem Versprechen, die Gewalt automatisiert erkennen können sollen. Aber die Umarmung von Liebenden wird manchmal als potenzielle Gewalttat “erkannt”. Solche flächendeckenden anlasslosen Massenüberwachungen haben natürlich auch ein Missbrauchspotenzial, weshalb auch die Forderung gestellt wurde, dass die Sicherheit messbar objektiv und subjektiv gesteigert werden sollte, damit eine entsprechende Rechteabwägung möglich ist. Ende letzten Jahres sollte der Versuchsbetrieb mit einem Bericht abgeschlossen sein. Scheinbar sind noch nicht genügend Straftaten verhindert worden. Deshalb wird das Projekt stillschweigend um weitere 3 Jahre verlängert, scheinbar ohne Vorlage eines Zwischenberichts, nur aufgrund von subjektiven Befragungen.
- Die Alliance SwissPass will zukünftig aufgrund der Bewegungsdaten die Tarife intransparent und unvorhersehbar berechnen. Ein Unding, wie ich finde, denn der öffentliche Verkehr wie auch der Individualverkehr sollten auch ohne Tracking nutzbar sein.
Gegen einige dieser invasiven Massnahmen kann man sich selbst schützen (DNIP-Artikel «Tracking, nein danke!» von vor ein paar Wochen; Wahlmöglichkeiten beim Einkauf), bei anderen ist der Gesetzgeber gefordert. Eigentlich sollte aber auch beim Tracking die Last nicht bei Otto Normalverbraucher liegen.
Aber es gibt auch gute Entwicklungen (oder zumindest nicht ganz so schlechte): Nach Verbüssung der Strafe dürfen die von einer Person im Rahmen eines Ermittlungsverfahren erfassten biometrischen und genetischen Daten nur mit besonderen Gründen lebenslang aufbewahrt werden, meint der EuGH.
Palantir für Gesundheitsdaten
Das umstrittene Big-Data-Unternehmen Palantir mit Europa-Sitz am Zürichsee macht es einfach, Daten in seine Systeme zu integrieren (manchmal auch jenseits der Verfassungsmässigkeit), aber schwer, sie wieder aus seinen Systemen zu extrahieren. Vor drei Jahren hat sich Palantir mit dem ultimativen Dumpingangebot (1 £!) in das britische Gesundheitssystem NHS eingebracht und danach schon konkurrenzlos (Folge-)Aufträge für 60 Millionen £ erhalten. Jetzt werden für mehrere 100 Millionen £ die Business- und Gesundheitsdaten aus ganz vielen NHS-Systemen in die Palantir-Software eingebracht, trotz Bedenken des zuständigen Datenschützers. Auch mit der versprochenen Transparenz ist es nicht weit her.
(Auch in Deutschland ist der Einsatz aktuell wieder in den kleinen Schlagzeilen, da der Wissenschaftliche Dienst des Bundestags den Einsatz in Bayern für rechtswidrig hält.)
IT-Sicherheit
Malware überlebt Passwortänderung
Malware, also schädliche Software, ist wieder einen “Innovationsschritt” weiter: Aktuell gibt es mehrere Varianten, die spezielle Google-Cookies aus dem Webbrowser stehlen, mit denen sie sich dann so im Google-Konto des Opfers einnisten können, dass auch ein Passwortwechsel sie nicht mehr entfernen kann. Betroffen sind Kernfunktionen des Google-Ökosystems. Es ist zu erwarten, dass Google schon an einer Lösung arbeitet. Diese wird aber wohl Updates an unzähligen Stellen nach sich ziehen, so dass die nachhaltige Behebung des Problems noch etwas dauern wird. (Eine abgeschwächte Variante des Problems gibt es auch bei Microsoft: Device Code Phishing als Video oder als technische Beschreibung).
Es lohnt sich also immer, sein digitales Ökosystem zu sichern: Auch bei IT-Sicherheit ist Vorbeugen einfacher und besser als Heilen. Und natürlich gilt wie immer: Vorsicht bei unerwarteten oder sonstwie seltsamen Mails! Absender kontrollieren bzw. direkt kontaktieren oder die Mail/Nachricht mit einer befreundeten Person besprechen hilft gegen Phishing und Scams. (Einen spannenden Einblick in die Geschäftspraktiken der Scammer bietet übrigens die New York Times ihren Abonnenten hier.)
Wenn jemand das eigene Passwort ändert, hat das häufig den Grund, dass befürchtet wird, jemand Fremdes könnte auf das eigene Konto zugegriffen haben. Entsprechend melden viele Diensteanbieter bei einer Passwortänderung alle anderen Geräte ab. Nicht so Google, sonst häufig Vorreiter beim Thema Sicherheit, die aber die Synchronisation von Geräten vor Sicherheitsbedenken zu stellen scheinen. Wenigstens empfiehlt Google hier Nutzung des Gerätemanagers, um andere Geräte abmelden zu können.
«Künstliche Intelligenz»
Im vergangenen Jahr kam niemand um die grossen Sprachmodelle wie ChatGPT (und Dutzende andere, weniger gehypte) herum, die auf verschiedenen Ebenen Muster aus geshreddertem Internet extrahieren und zufällig wieder zusammen setzen und so mit einer gewissen Korrelation eine gestellte Frage mit einer mehr oder weniger passende Antwort vervollständigen. OpenAI, die Firma hinter ChatGPT, hat im vergangenen Jahr Einnahmen von 1.6 Milliarden Dollar erzielt. Da sie damit mutmasslich neue Geldgeber anwerben möchten, sind Informationen über die (direkten und indirekten) Ausgaben schwer zu finden. Mutmasslich dürften die Ausgaben deutlich höher sein; die Firma versucht—in typischer Silicon-Valley-Manier—aktuell wahrscheinlich, die Kunden an sich zu binden und so den Kuchen einzuzäunen, bevor Google, Meta, Anthropic, … und die vielen vielversprechenden Open-Source-Modelle (die zum Teil auf dem eigenen Rechner laufen) sich ein Stück davon schnappen können.
KI-Stellenplanung
Dass KI-Systeme eine Auswirkung auf unsere Arbeit haben werden, dürfte niemanden überraschen. Die kurz- und mittelfristigen Auswirkungen auf unser Arbeitsleben dürften u.a. davon abhängen, wie vorhersagbar und zuverlässig die Resultate unserer Arbeit sind bzw. sein sollten: Stecken hinter den Ergebnissen feste Muster (=vorhersagbar)? Ist es schlimm, wenn (bei kleinen Änderungen an den Eingaben oder auch einfach mal zufällig) zwischendurch etwas völlig Falsches herauskommt (=zuverlässig)?
Dies habe ich zur Illustration sehr vereinfacht wie folgt zusammengefasst:
| Arbeitsprofil | Vorhersagbar | Nicht vorhersagbar |
|---|---|---|
| Zuverlässigkeit wichtig | KI als Ideengeber, Mensch als letzte Instanz | Weiterhin Mensch im Zentrum, Beschleunigung bei Unterstützungstätigkeiten |
| Zuverlässigkeit unwichtig | Starke Veränderung durch KI | Kleine Auswirkungen, Beschleunigung bei Unterstützungstätigkeiten |
In den Bereichen Marketing, Kundenakquise und -support hat sich schon einiges bewegt und wird sich auch noch weiter bewegen. Vor allem im letzteren Bereich auch zu Ungunsten der Servicequalität. Es wird aber auch eine (kleinere) Gegenbewegung geben, in der “100 % Human made” zum Qualitätssiegel werden wird.
Am meisten Veränderungen aber dürfte wohl der Übersetzungsbereich erhalten haben: Nachdem durch die Internationalisierung (oder in der Schweiz die Mehrsprachigkeit) in den letzten Jahrzehnten der Bedarf an (geschäftlichen) Übersetzungen gestiegen ist, wird jetzt die Arbeit zumindest teilweise von KI-Übersetzungssystemen übernommen. (Und es darf vermutet werden, dass auch viele bei vielen Aufträgen an professionelle Übersetzungsbüros im Hintergrund Computer mit der Textübersetzung beauftragt werden. Die Qualität des Resultats hängt vom Effort des menschlichen Übersetzer ab, der den KI-Text hoffentlich noch verbessert.)
In Bereichen, in denen Mitarbeitende als grösstenteils austauschbar wahrgenommen werden, sind automatisierte Arbeitsplanoptimierungen gang und gäbe. Neu wird das—natürlich!—als «KI» vermarktet. Interessant ist, dass nun solche Optimierungen auch bei wissensintensiven Dienstleistungen eingesetzt werden sollen. So will Deloitte seine im letzten Jahr neu angestellten 130’000 Personen mittels KI optimiert neuen Positionen zuweisen. Ob Mitarbeitende, die auch anderswo eine Stelle finden, sich nun Firmen mit menschlicherem Umgang zuwenden, ist nicht bekannt.
KI-Stellenplanung zum Zweiten
Der Arbeitsmarktservice, das österreichische Pendant zum Schweizer RAV, hat 300k€ in den «Berufsinformat» investiert, ein ChatGPT-Frontend, welches bei der Berufswahl unterstützen soll. Es bringt aber einige Probleme mit sich:
- Darf man keine persönlichen Daten eingeben, wie es in den Nutzungshinweisen heisst. Wie bitte soll ich zu einer persönlichen Berufsempfehlung kommen, wenn ich nicht einige meiner Fähigkeiten und innersten Vorlieben Preis gebe?
- “Natürlich” werden alte Rollenbilder tradiert: Männer bekommen andere Berufe vorgeschlagen als Frauen. Probleme, die schon seit vielen Jahren bekannt sind. Aber leider sind sie mit der einfachen Anweisung «Unterscheide nicht zwischen Männern und Frauen bei Berufsempfehlungen!» an ChatGPT nicht automatisch gelöst, da hilft auch kein Ausrufezeichen.
- Scheint die Software IT-sicherheitsmässig mit der heissen Nadel gestrickt. So kann der Berufsinformat nicht mit der von ChatGPT gelieferten Formatierung umgehen; sind einige der Programmiertechniken haarsträubend; aber besonders fällt auf, dass man über das System kostenlosen GPT-4-Zugang bekommt.
Übrigens wurde fast derselbe Chatbot auch noch Basel Tourismus verkauft (und andere). Zumindest initial war er so ähnlich, dass sogar die Datenschutzerklärung des AMS 1:1 auf der Basler Seite eingebunden war.
Scheinbar scheint der Berufsinformat auch schon von einer Karriere im René-Benko-Stil abgeraten zu haben; die KI könne keine Ratschläge zu ruchlosen oder illegalen Aktivitäten geben. Das konnte ich allerdings nicht reproduzieren.
Neuralink
Ok, ich sehe, ihr wollt also unbedingt doch noch etwas über das Clickbait-Wort der Woche hören.
Auch bei Neuralink wird Transparenz (und damit Nachvollziehbarkeit von Aussagen) nicht wirklich gross geschrieben. So wurde seit 2019 immer wieder erwähnt, dass man “bald” an Menschen experimentieren würde, obwohl die Zulassung erst im Mai 2023 erfolgt. Auch nachdem Verdachtsmomente auftauchten, dass gegen das Tierschutzgesetz verstossen worden sei, wurde mit allen Mitteln versucht, die Herausgabe von Dokumenten zu verhindern, auch aus Konkurrenzgründen und weil die Öffentlichkeit negativ auf Informationen zu den Affenexperimenten reagieren könnte.
Ob dieser Geheimniskrämerei und lockeren Umgang mit Fakten sowohl von Neuralink als auch Musk erstaunt es, dass Medien auf der ganzen Welt die Tweets von Musk ohne weitere Überprüfung übernehmen (und deshalb wollte ich ursprünglich auch hierzu nichts sagen). Als eine der wenigen stichelt die New York Times kritisch in ihrer Schlagzeile «Neuralink Implanted a Device in a Patient’s Brain, Elon Musk Says» (Hervorhebung von mir) und stellt die Aussage damit auf das Niveau des Hörensagens. Auch mehrere Tage später sagt das Neuralink-Blog immer noch nichts über diese angebliche Revolution.
«Extraordinary claims require extraordinary evidence» (“ausserordentliche Behauptungen benötigen ausserordentliche Belege”) bemerkte schon Carl Sagan. Dies fehlt hier. Weder in den Tierversuchen noch in dem angeblichen menschlichen Implantat wurde bisher etwas erreicht, was nicht teilweise schon vor 20 Jahren an Menschen erreicht wurde. Auch die Funkverbindung ist nicht neu, bei Cochlea-Implantaten ist das Standard (wenn auch mit niedrigeren Datenraten). Der grösste Unterschied scheint die deutlich aktivere PR zu sein.
Menschen, die infolge ALS oder Schlaganfall wichtige Gehirnfunktionen verloren haben, setzen verständlicherweise oft alles daran, dass sie diese Funktionen zurück erlangen können. Sie greifen nach jedem Strohhalm. Wenn sie dann die dazu benötigten Geräte aus Armut oder wirtschaftlichen Überlegungen des Herstellers irgendwann nicht mehr nutzen können, ist es für die betroffene Person doppelt schlimm.
Ich hoffe, dass diese Person, von der Musk berichtet, ihre Operation gut übersteht und sich ihr Leben auf lange Sicht verbessert. Aber ich denke, dass die Schlagzeilen bis dann warten sollten. Alles andere ist nur PR, kein Journalismus.
