Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute u. a. mit Datenlöschung und Computerliebe.
Daten löschen schützt vor Anklage nicht
GrapheneOS (ein Android-Klon welcher ohne Google-Dienste funktioniert) bietet eine Funktion an, mit welcher man im Notfall die auf dem Smartphone gespeicherte Daten löschen kann. Dazu definiert man neben dem „normalen“ Passwort ein weiteres, dessen Eingabe dann nicht nur zum Entsperren des Smartphones führt, sondern auch zum Löschen sämtlicher darauf gespeicherten Daten. Gedacht ist es für Situationen, in denen man unter Druck sein Passwort verraten muss, aber seine Daten trotzdem nicht preisgeben will.
Dieses Feature hat einem von den Ferien heimkehrenden US-Amerikaner jetzt eine Anklage wegen Zerstörung von Beweismitteln eingebrockt. Der Amerikaner war Teil einer Gruppe, gegen welche wegen (legalen) Protestaktionen gegen ein Ausbildungszentrum der Polizei ermittelt wurde. Bei der Einreise wurde er von den Behörden festgehalten und musste unter anderem sein Smartphone-Passwort offenlegen. Als die Behörden dieses eingaben, wurden sämtliche Daten auf dem Gerät gelöscht.
Der Fall ist mehrfach problematisch:
- Grundsätzlich kann in den USA niemand gezwungen werden, sich selbst anzuklagen oder Beweise gegen sich selbst herauszugeben. Allerdings ist der Grenzbereich (in diesem Fall zwischen gelandetem Flugzeug und erfolgter Einreise) ein Graubereich, in welchem verfassungsmässige Rechte nur beschränkt oder gar nicht gelten.
- Selbst falls in dieser Situation ein verfassungsmässiger Schutz bestehen würde, können sich die Ermittlungsbehörden immer noch auf den Standpunkt stellen, dass es um den Zugriff auf Daten Dritter ging (also zum Beispiel Gruppenchats), man diese aber erst nach dem Gerätezugriff hätte trennen können.
- Die Vermutung liegt nahe, dass es sich um einen Versuch handelt, mit dieser Klage gegen die Protestaktionen an sich vorzugehen. Falls die Klage vor Gericht Erfolg hat, dürfte dies in Zukunft Menschen davon abhalten, diese Funktion von GrapheneOS zum Selbstschutz zu verwenden.
- Auch in Frankreich und Spanien reicht schon rein die Verwendung von GrapheneOS (oder von Pixel-Smartphones, welche momentan die einzigen sind, welche von GrapheneOS unterstützt werden), um als verdächtig zu gelten.
Und wer jetzt denkt, „was kümmert mich die USA“: Laut Einschätzung von Anwalt Martin Steiger ist eine ähnliche Klage auch in der Schweiz denkbar. Wobei die gefährlichere Dynamik wohl die ist, dass (Smartphone-)Betriebssysteme mit erhöhtem Datenschutz-Niveau generell als gefährlich gelten und man sich mit deren Einsatz a priori verdächtig macht.
In Situationen wie der oben beschriebenen muss man wohl vor allem abschätzen, ob die potenzielle Strafe für die Beweismittel-Zerstörung höher ausfällt als für allfällige Straftaten, die sich mittels auf dem Smartphone befindlichen Daten beweisen liessen. Auch wenn Ben Werdmüller (bis Ende Juli CTO des US-amerikanischen News-Anbieters ProPublica) empfiehlt, vor einem Grenzübertritt heikle Daten vom Smartphone zu löschen und sich von Online-Diensten abzumelden: In der Realität ist das schwierig umzusetzen (schon rein, weil technisch gesehen viele Löschoperationen Daten nicht wirklich löschen).
Excel considered harmful
Im Februar 2022 gab das britische Verteidigungsministerium unbeabsichtigt die Namen von knapp 19’000 afghanischen Helfern preis, die damit Gefahr liefern, von den Taliban verfolgt zu werden. Die jetzt bekanntgewordenen Details dazu lesen sich wie eine Sammlung von Pleiten, Pech und Pannen: Nicht nur dauerte es 1.5 Jahre bis der Datenverlust überhaupt bekannt wurde, das Verteidigungsministerium ging auch bei der Information der Betroffenen und der Schadensminderung eher amateurhaft vor.
Das Datenleck entstand, als ein Mitarbeiter des Verteidigungsministeriums eine Excel-Datei an eine externe Adresse schickte. Er ging davon aus, dass das Datenblatt die Details von etwa 150 afghanischen Helfern enthielt, obwohl ein versteckter Reiter Daten von über 18.500 weiteren Personen aufführte. Auch wenn der Independent den oben verlinkten Artikel mit „data breach would not have happened if staff had been trained on Excel“ („Die Datenpanne wäre nicht passiert, wenn das Personal im Umgang mit Excel geschult worden wäre“) betitelt: Versteckte Daten sind unabhängig vom Datenformat gefährlich und dürften auch von geschulten Mitarbeitern schnell einmal übersehen wäre. Wichtiger wäre es wohl gewesen, die Daten in einer spezifisch zur Verteilung aufbereiteten Datei zu verteilen (oder direkt nur die relevanten Daten in eine PDF-Datei umzuwandeln).
Nebenbei bemerkt: UK ist mit dieser Excel-Abhängigkeit nicht alleine. Zumindest bis letztes Jahr basierte das öffentliche Gesundheitssystem von Neuseeland (bzw. dessen Budget von 16 Milliarden USD) auf einer einzigen zentralen Excel-Datei.
Toxische KI-Liebe
Viele unserer Leser:innen dürften schon vom Einsatz von KI-Chatbots als Beziehungsersatz gehört, einige wohl auch schon Erfahrungen damit gesammelt. Laut einer EPFL-Studie sind das nicht nur einsame Menschen, sondern auch solche, die in einer Beziehung sind, wie Watson berichtet. Während die Einsamen durch die Chatbot-Ersatzbeziehungen scheinbar noch mehr vereinsamen, leben die Gebundenen zusätzliche Bedürfnisse oder Fantasien aus, wie Watson von Désirée Popelka weiss, einer der Studienautorinnen.
Popelka weiter: «Der virtuelle Partner ist immer gut gelaunt, hört immer zu, findet dich immer toll und ist immer bereit zu allem, wozu du bereit bist. Daran kann man sich gewöhnen, was eine echte Beziehung mit all ihren Fehlern dann unattraktiver macht.» Chatbots sind darauf programmiert, zu gefallen. Sie stimmen der Person an der Tastatur meist bedingungslos zu und bewundern oder loben sie, häufiger als es ein Mensch tun würde und auch wenn Zustimmung nicht angebracht ist. Die Modelle sind darauf getrimmt, dem Nutzer das zu geben, was er/sie sich wünscht, nicht das zu erzählen, was korrekt oder angebracht ist (im Fachchinesisch „Sycophancy“ oder Anbiederung).
Dass solche Eigenschaften zu Suchtverhalten (und Entzugserscheinungen) führen, dürfte wenig überraschen (und liegt im Interesse der KI-Anbieter). Wer sich bereits in jungen Jahren an das konfliktfreie Ideal gewöhnt, würde womöglich verzerrte Erwartungen entwickeln, warnt Popelka im Watson-Artikel. Die Folge laut Watson: Eine geringere Gewissenhaftigkeit geht mit narzisstischen Zügen und einem Hang zu häufigen Partnerwechseln einher.
Wie andere Suchtmittel sollten also auch KI-Partner:innen nur in Massen genossen werden.
Nachtrag: Real-life Entmenschlichung
Wie sehr KI-Techbros die Bedeutung zwischenmenschlichen Kontakts verlernt haben, hat OpenAI-Chef Sam Altman letzte Woche auf der Plattform seines Erzfeindes geäussert: Man solle doch den Familienkalender mit ChatGPT verbinden und dann einen Podcast erzeugen lassen, der den Kindern die Pläne des Tages schmackhaft macht, während man sie zur Schule fahre.
Doch die Menschheit ist noch nicht ganz verloren: Viele der Kommentare auf Altmans Tweet empfehlen, doch einfach selbst mit den Kindern zu sprechen. (Und vielleicht zwischendurch auch mal selbst an eines der Fussballspiele oder Geburtstagsfeste des Nachwuchses zu gehen.)
Madagaskar treibt seitlich durch den Nachmittag
Ein Geschichtsprofessor hat 32 seiner 35 Studierenden dabei erwischt wie sie eine gesamte Semesterarbeit mittels KI generieren liessen und anschliessend ohne Kontrolle abgaben. Dazu verwendete er eine Prompt Injection im Aufgabentext, welche mit weisser Schrift die Anweisung enthielt, in der Antwort einen Bezug zu Madagaskar herzustellen. Studierende, welche mittels Copy&Paste schlicht den ganzen Aufgabentext an ChatGPT & co weitergaben, kopierten dabei auch die versteckte Anweisung mit. Die Semesterarbeit selbst drehte sich um die industrielle Revolution, da hat Madagaskar bekanntlich keine relevante Rolle gespielt.
In zwei TikTok-Videos (hier und hier) erklärte der Dozent, wie er vorgegangen ist und welche teilweise amüsanten Texte die KI zu generierte. Bei Abschnitten wie „Today technology such as artificial intelligence, smartphones, and automation is changing many jobs by making work faster and reducing the need for some manual tasks. Madagascar floats sideways through the afternoon“ (Heutzutage verändern Technologien wie künstliche Intelligenz, Smartphones und Automatisierung viele Berufe, indem sie die Arbeit beschleunigen und den Bedarf an bestimmten manuellen Tätigkeiten verringern. Madagaskar treibt seitlich durch den Nachmittag.) hätte eigentlich auch denkfaulen Studierenden auffallen müssen, dass da etwas nicht stimmen kann.
PS: IT Security-Forscher Bruce Schneider hat zum Thema „Wann lohnt sich KI? Eine einfache Anleitung zur Entscheidung“ einen kurzen Essay veröffentlicht. Die Antwort auf die Titelfrage kommt von KI-Forscher Daniel Meissler:
At work, if your job is to move a bunch of heavy things from one side of the room to another, you should use whatever assistive tech you have on hand: a wagon, a forklift… even an AI-powered robot. But at the gym, it makes no sense for that robot to lift weights for you. The point of weightlifting isn’t to move heavy things across the room; it’s to actually lift those heavy things.
The same analysis holds for any task an AI can do for you. If it’s work—if the task has to be done and no one cares how—then it’s fine to use AI assistance. But if the task is more like the gym, and how the task is done is at least as important, then it probably doesn’t make sense to use AI.
auf deutsch (Übersetzung durch Kagi Translate):
Wenn es bei der Arbeit Ihre Aufgabe ist, einen Haufen schwerer Dinge von einer Seite des Raums zur anderen zu bewegen, sollten Sie jede verfügbare Hilfstechnik nutzen: einen Wagen, einen Gabelstapler… oder sogar einen KI-gesteuerten Roboter. Aber im Fitnessstudio ergibt es keinen Sinn, wenn dieser Roboter die Gewichte für Sie hebt. Der Sinn des Gewichthebens besteht nicht darin, schwere Dinge durch den Raum zu bewegen; es geht darum, diese schweren Dinge tatsächlich selbst zu heben.
Dieselbe Analyse gilt für jede Aufgabe, die eine KI für Sie erledigen kann. Wenn es Arbeit ist – wenn die Aufgabe erledigt werden muss und es niemanden kümmert, wie –, dann ist es völlig in Ordnung, KI-Unterstützung in Anspruch zu nehmen. Aber wenn die Aufgabe eher dem Fitnessstudio gleicht und die Art und Weise, wie sie erledigt wird, mindestens genauso wichtig ist, dann macht es wahrscheinlich keinen Sinn, KI einzusetzen.
Und schliesslich:
- Wer sich bei der Reise- und Wanderplanung auf ChatGPT & co verlässt, wird enttäuscht oder lebt gefährlich. Aber auch ohne KI sind Tools wie Google Maps nur beschränkt fürs Wandern geeignet, wie eine Gruppe von Jugendlichen in British Columbia erfahren musste: Diese wurden, bereits völlig dehydriert und erschöpft, von der Dunkelheit überrascht und mussten mit Helikoptern gerettet werden. Google Maps hatte ihnen für eine anspruchsvolle Zweitages-Wanderung eine Wegzeit von fünf Stunden angegeben. In der Schweiz bieten sich die Landeskarten von Swisstopo (und die zugehörigen Apps) an, die Wegzeiten unter Berücksichtigung des Geländes berechnen.
- Google News hat in der Schweiz an inhaltlicher Aussagekraft verloren, seit Google aus
AngstRespekt vor den Leistungsschutz-Forderungen der Verleger die angezeigten Text-Zitate massiv gekürzt hat. Nun gibt es offenbar auch in anderen Ländern Anzeichen dafür, dass Google das Interesse an seinem News-Aggregator verliert. Warum auch nicht, schliesslich kann man zum Füttern seiner KI-Modelle sämtliche Newsquellen völlig ungestört auswerten, ohne auf echte oder vorgeschobene Copyright-Forderungen Rücksicht nehmen zu müssen. - Wenn wir schon bei Google sind: Google Earth besass einen Tag lang Funktion, mit der jeder im Handumdrehen Satellitenbilder verändern konnte, beispielsweise in Kriegsgebieten Bombenkrater neben Kinderspitäler „zaubern“. Henk van Ess sieht darin einen neuen Dammbruch, dass man jetzt nämlich Satellitenbildern weniger glaube. Gerade in einer Zeit, in der die Bedeutung von Fakten immer mehr erodieren ein ganz schlechter Schritt. So seien Satellitenbilder bei der Enttarnung von russischen Desinformationen wichtig gewesen, damals unter dem Titel „Who to Trust, Google or the Russian MoD?„. Damals sei das noch eine rein rhetorische Frage gewesen, aber heute?, schliesst van Ess.
- Die fehlenden rechtlichen Rahmenbedingungen, wenn wir KI-gesteuerte Roboter (z. B. am Arbeitsplatz) auf Menschen loslassen, hat Marcus Schwarzbach bei Telepolis zusammengefasst. Vieles dürfte ähnlich auch auf die Schweiz zutreffen.
- Ebenfalls in Deutschland ist der Online-Konsumentenschutz besser: So hat Google eine Werbung für ein – laut Gericht als betrügerisches Angebot erkennbaren – Fake-Shop geschaltet, auf den ein Kunde hereingefallen ist. Weil Google seine Sorgfaltspflichten nicht erfüllt habe, bekommt der Kunde Schadenersatz zugesprochen, wie der Tages-Anzeiger berichtet. Ob das Meta davon abhält, werden wir sehen.
- Nochmals Deutschland: Der mutmassliche Berliner Attentäter wurde noch am Tage der Tat überwacht. Trotzdem wird jetzt überall mehr Überwachung gefordert. Mit Software wie der von Palantir. Dabei wäre – wie die Republik beschreibt – mehr Schutz für alle Schwachen wichtiger. Und öffentlicher Support für sie, statt sie an den Rand der Gesellschaft zu drängen und damit zu (potenziellen) Opfern zu machen.
- «Der nächste Data Breach könnte einer ohne Datenverlust sein», titelt TheNextWeb und erwähnt, dass es möglicherweise einfach die KI sein könnte, die Schlussfolgerungen ziehe. Wieso das – wie die im Artikel zitierte Gartner-Studie erläutert – erst ab 2029 ein Problem sein soll, ist nicht ganz klar. Denn Google weiss schon seit Jahren mehr über dich als deine Freunde und Familie.
