Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute ferienbedingt etwas kürzer und u. a. mit Bildern, Videos und KI.
Bilder sammeln von Blinden
«Smarte Brillen gelten derzeit als eines der interessantesten neuen Hilfsmittel für blinde und sehbehinderte Menschen. Sie sollen sie im Alltag selbständiger machen: Texte lesen, Gegenstände erkennen, Räume beschreiben, Hilfe holen.» berichtete die NZZ am Wochenende am Beispiel der Meta-Brille. Die blinde Frau, welche vom NZZ-Team während ein paar Stunden ihrer Interaktion mit der KI-Sonnenbrille begleitet wurde, thematisiert auch etwas von ihrem Ärger mit der Brille. So sind die Antworten der Meta-KI häufig nicht das, was der blinden Frau gerade helfen würde.
Im Artikel werden zwar auch Datenschutzthemen angesprochen, das Fazit der meisten Leserinnen und Leser dürfte aber sein, dass blinde und sehbehinderte Menschen bald dank solcher Brillen besser leben könnten. Auch wenn dieser Ansatz sehr verlockend tönt, ist gerade die Weitergabe von Daten an Meta oder andere Big-Tech-Konzerne hier besonders kritisch. So wissen beispielsweise blinde Nutzerinnen nicht im Voraus, ob möglicherweise sensible Daten an die KI-Firmen und ihre Subunternehmer gesendet werden. Und was dann mit ihren Bildern sowie ihren Reaktionen darauf geschieht. Datenschutzexperte Martin Steiger kritisiert gegenüber DNIP: «Gerade vulnerable Menschen sollten nicht auf Kosten der allgemeinen Privatsphäre KI-Training betreiben müssen.»
Denn ganz besonders bei Meta, die Firma hinter WhatsApp, Facebook und Instagram, zählt vor allem die Monetarisierung. Ganz besonders, wenn dabei für die Kleinigkeit von 15 Milliarden pro Jahr (häufig ebenfalls vulnerable) Individuen Betrügern ausgeliefert werden. Oder – trotz gegenteiliger Aussagen – heimlich Funktionen für die Gesichtserkennung in die KI-Brillen-Software eingebaut wird. Und angeblich plant, dass die Brille zukünftig dauerhaft aufzeichnen soll, ganz ohne Information an die Bespitzelten.
Um so wichtiger wäre es, wenn Funktionen für Blinde und Sehbehinderte (oder auch andere Menschen mit Einschränkungen) mit möglichst viel Privatsphäre umgesetzt würden. Also beispielsweise mit lokalen KI-Modellen auf den Handys der Nutzer:innen, bei denen die Daten nicht noch zu Big-Tech-Firmen wandern würden. Einen Grossteil der Technologie gibt es bereits. Und zusammen mit zielgruppengerichtetem Training könnten dann die Antworten auch genau die sein, die unsere Mitmenschen mit zu wenig Augenlicht brauchen.
Selfies entsperren Google-Account
Mit Selfie-Videos will Google eine neue Möglichkeit anbieten, Menschen wieder Zugang zu ihren Accounts zu geben, falls sie ihr Passwort vergessen haben. Dazu muss man im Voraus ein Video seines Gesichts bei Google hochladen, welches dann im Fall einer Account-Recovery mit einem aktuellen Video verglichen wird. Natürlich verspricht Google dabei, dass das gespeicherte Video nur für die Recovery-Funktion verwendet wird. Selbst falls man dieser Aussage vertraut, wirft die Methode Fragen auf:
- Gesichter ändern sich im Laufe der Zeit, und da wohl kaum jemand regelmässig sein Selfie-Video aktualisieren wird, sinkt die Wiedererkennungswahrscheinlichkeit von Jahr zu Jahr.
- Auch wenn Gesichtserkennung heute im Alltag gut (aus Datenschutz-Gründen zu gut) funktioniert: wie gross wird die Fehlerquote sein, wie viele false positives (also Konto-Freigaben, obwohl der Mensch im Video nicht der Account-Inhaber ist) wird es geben? Und wie verifiziert und verbessert Google die Erkennungsalgorithmen?
- Was machen Account-Inhaber, wenn ihr Account aufgrund einer False Positive-Erkennung von Dritten übernommen wird?
- Und ganz grundsätzlich: In der Zeit, die man braucht um ein Selfie-Video bei Google hochzuladen, kann man auch den Password-Manager auf dem Smartphone aktivieren (oder eine entsprechende App herunterladen). Damit fällt das „Passwort vergessen“-Problem grundsätzlich weg, und damit auch die Notwendigkeit, überhaupt ein Video hochzuladen.
Generell scheinen Video-Selfies im Trend zu sein: Facebook bietet unter dem Label „Facebook Verified“ einen ähnlichen Service an. Das vordergründige Ziel ist es, von Menschen genutzte Accounts von KI-Accounts unterscheiden zu können und um Fake-Bilder von Promis etc zu erkennen. Im Gegensatz zu Google macht Facebook aber keine klare Aussage dazu, wie lange solche Videos gespeichert werden. Mit „solange sie wollen“ kommt man der Realität vermutlich ziemlich nahe.
KI-Goliath hackt KI-David
Eigentlich ist «Jemand hackt mit KI jemand anderen» schon so alltäglich geworden, dass es kaum mehr eine Schlagzeile wert sein sollte. Trotzdem ist letzte Woche die Schlagzeile, dass einer der KI-Goliaths (OpenAI) einen KI-David (HuggingFace) gehackt habe, durch alle Medien gegangen. SRF hat den Ablauf sehr gut zusammengefasst und eingeordnet.
Was bei all‘ dem Rummel oft vergessen geht: Moderne KI-Systeme sind darauf ausgelegt, die ihnen gestellten Probleme zu lösen. Und dafür setzen sie potenziell eine Unmenge Ressourcen ein und testen eine Unzahl Lösungswege, um zum Ziel zu kommen. Für das LLM-basierende KI-System ist es auch kein Unterschied, ob der Internetzugang wegen einer Fehlkonfiguration gerade nicht funktioniert (wie bei den meisten Anwendungsfällen von normalen Nutzer:innen) oder ob die Einschränkung Absicht ist (wie in diesem Fall). Hindernisse gehören aus dem Weg geräumt. Rücksichtslos. Weil «Rücksicht» kein Konzept ist, dass die LLMs verinnerlicht haben, ganz ähnlich wie ihre Firmenchefs.
KI-Systeme gehören also noch länger in „elterliche Begleitung“. Zumindest, solange sie keinen gesellschaftskompatiblen Moralkodex verinnerlicht haben.
Aber vielleicht freut sich OpenAI auch heimlich riesig über den ausgelösten Criti-Hype.
Und schliesslich:
- Christine Lemmer-Weber vergleicht dauerhaftes Vibe-Coding mit einer Bobfahrt. Man glaube, Kontrolle zu haben, aber eigentlich geht es vor allem in eine Richtung: Abwärts. Und darüber habe man keine Kontrolle. Und betont, dass das eigentliche Schreiben von Programmzeilen meist nicht der grosse Aufwand ist. Sondern die Überlegung, was man eigentlich erreichen will. Und wie es in die bestehenden Systeme und die bestehende (oder zukünftigen, optimierten) Arbeitsabläufe integriert werden kann. (Nico Fischbach hat es an der Schweizer Sicherheitskonferenz Area41 auch auf Geschäftsmodelle und Support erweitert.)
- Im September 2025 hatte der Kanton Luzern einen KI-Chatbot namens Luzi aktiviert. Wie jetzt bekannt wurde, wurde dieser Chatbot bereits drei Tage später wieder abgeschaltet, da die Qualität der Antworten schlicht zu schlecht war. Begründet wird dies mit den digital schlecht erschlossenen Publikationen des Kantons. Es sollte inzwischen wirklich allgemein bekannt sein, dass grosse Sprachmodelle zwar mit unstrukturierter Datensätzen klarkommen, die Antwortqualität trotzdem stark von Datenqualität und -struktur abhängen («GIGO»). Zurück bleiben Ausgaben von (je nach Quelle) 200’000 – 600’000 Franken und die Frage, wieso man eine derart schlechte Qualität nicht bereits während der Testphase erkannt hat.
Zitat der Woche
Ich hab angefangen, den Leuten das Gedankenexperiment „Gibt es auf der Erde mehr Türen oder Räder?“ zu stellen. Die Antwort ist mir eigentlich egal, aber wie schnell sie ChatGPT fragen, verrät mir, wie viel ich auf ihre Gedanken und Meinung zu anderen Sachen geben kann.
@fesshole@mastodon.social, Übersetzung DNIP
