Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat. Heute u. a. mit Abschieben von Verantwortung auf «Eigenverantwortung», falschen Hoffnungen in Altersverifikation, Spionagebrillen, nicht sterben wollende Cookie-Banner und KI-Plagiate.
Teenagers interpret age restrictions as damage and route around it
So könnte man – in Abwandlung des John-Gilmore-Zitats – die letzte Woche im British Medical Journal (BMJ) veröffentlichte ersten Studie zum Social-Media-Verbot für unter 16-Jährige zusammenfassen. So würden auf der einen Seite die Plattformen oft nicht so genau hinschauen, auf der anderen Seite würden die Jugendlichen auch bewusst die Altersbeschränkungen umgehen, beispielsweise mittels fremder oder Fake-Accounts. Interessanterweise änderte die Einführung des Gesetzes kaum etwas an der Social-Media-Nutzung der 12- und 13-Jährigen, bei den 14/15-Jährigen ging sie leicht (~10 %) zurück und bei den 16- und 17-Jährigen stieg sie etwa um den gleichen Anteil. Aufgrund der kleinen Anzahl der Teilnehmenden (N=408) sollten aus 10 % Unterschied aber keine detaillierten Schlüsse gezogen werden.
Amrit Kaur Purba schreibt in ihrem Editorial zur Studie, dass es hier besonders schwierig sei, die Regelung von ihrer Umsetzung zu trennen. Aber auch bei einheitlicher Umsetzung würde sich Plattformen, Nutzer:innen und Technologien gegenseitig dauernd beeinflussen, was zu Seiteneffekten führen würde, alternative, gefährlichere Plattformen zum Auftrieb verhelfen könnte und soziale und (mentale) Gesundheitsdifferenzen weiter verstärken könne.
Andy Burrows sieht durch die Untersuchung bestätigt, dass die Hoffnungen in derartige Regelungen überhöht seien. Er verweist auf eine Studie zu den sozialen Aspekt der Befolgung von Social-Media-Verboten betrachtet: Teenager würden laut eigenen Angaben erst dann aufhören, Social Media zu nutzen, wenn ⅔ ihrer Peers ebenfalls aufhörten. Gleichzeitig würden die Folgsamen als weniger attraktiv gesehen als die Revoluzzer. Die Studienautoren glauben deshalb, dass ein reines Verbot mindestens ein Jahrzehnt benötige, um wirksam zu werden.
Ein weiterer Kommentar im BMJ sieht deshalb die Social-Media-Riesen in der Verantwortung für die Auswirkungen ihrer Produkte. Die Profitmaximierung würde dazu führen, Abhängigkeiten zu fördern und emotional aufgeladene Inhalte zu pushen. Die Autorin sieht die Schuld für die Non-Compliance auch nicht bei den Jugendlichen, sondern bei den Firmen. Denn auch diese versuchten in anderen Ländern weiterhin aktiv Jugendliche möglichst jung an sich zu binden. Sie fordert deshalb, dass bestehende Schutzklauseln in Gesetzen wie dem Digital Services Act (EU DSA) auch genutzt werden sollten, um Kinderrechte im Design von digitalen Werkzeugen und Umgebungen einzubringen; Altersbeschränkungen seien da ungenügend.
Altersverifikation
Die Studie zeigt auch auf, dass an vielen Stellen Altersverifikationssysteme eingesetzt würden. Diese sind oft problematisch: privacy-invasiv, aus Datenschutzsicht bedenklich oder fragwürdig. Wenn Gesetze (und z. T. auch die Firmen aus Eigeninitiative) beginnen, Altersverifikation und sonstige ID-Daten zu verlangen, muss eine privatsphärefreundliche Altersverifikation unbedingt möglich sein. In der Schweiz stehen da die Hoffnungen auf der e-ID.
Und in Europa und der Schweiz?
In Deutschland hat letzte Woche die «Unabhängige Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“» 56 Handlungsempfehlungen vorgelegt, die durch die «Trias Schutz, Befähigung und Teilhabe» geprägt und durch folgende 5 Leitprinzipien (PDF) getragen werden:
- An Bewährtes anschließen, skalieren, verstetigen – erprobte Strukturen (Frühe Hilfen, erzieherischer Jugendschutz, Schulsozialarbeit, bewährte Projekte und Initiativen) nutzen, ausbauen und dauerhaft sichern statt neuer befristeter Maßnahmen.
- Vertrauen und Flexibilität vor Ort – Gestaltungsspielräume innerhalb eines verlässlichen Rahmens. Insb. Schulen können nicht unbegrenzt neue Aufgaben übernehmen.
- Verantwortungsgemeinschaft – Verantwortung verbindlich und gemeinschaftlich. Strukturelle Risiken dürfen nicht „nach unten“ an Kinder oder Eltern delegiert werden.
- Wirksamkeit durch Koordination – Reibungsverluste an Schnittstellen zwischen Bund, Ländern, Kommunen sowie zwischen Akteuren in Praxis und Aufsicht abbauen.
- Vorausschauend bei KI – (generative) KI als Querschnittsthema. Chancen und Risiken von Beginn an mitgestalten, am Vorsorgeprinzip orientiert.
Die Punkte «Teilhabe» und «Strukturelle Risiken dürfen nicht „nach unten“ an Kinder oder Eltern delegiert werden» sind die Punkte, die durch Fokus auf Altersrestriktionen ignoriert und negiert werden. Sarah Bosetti hat dies deshalb zum Thema ihrer Video-Glosse «Social Media Verbot: Ja, aber nicht für Jugendliche!» bei extra3 gemacht.
Die DNIP-Redaktion unterstützt hier die ähnlich lautende Position der Digitalen Gesellschaft. dass Social-Media-Plattformen für alle Altersgruppen besser werden müssten: Datensammlung, Überwachung und Missbrauchsrisiken reduziert werden sollten und manipulative sowie süchtigmachende Patterns reduziert werden sollten. (Und natürlich müssten die Plattformen auch aufhören, aktiv an Betrugsmaschen Milliarden zu verdienen. So wie wir anderen hoffentlich für Beihilfe am Betrug belangt würden.)
Smart Glasses als Frontalangriff auf unsere Privatsphäre
«Smart Glasses sind ein Frontalangriff auf unsere Privatsphäre» titelte Watson am Wochenende. Und erklärt, dass trotz der glamourös beworbenen Brillen die Realität alles andere als glamourös ist: Videos und damit biometrische Daten von Personen – bereit zur allgegenwärtigen Gesichtserkennung – fliessen im grossen Stil zu Meta (und demnächst Google), werden dort gesammelt und angeblich im grossen Stil von Kenyaner:innen klassifiziert, die dabei auch intimste Momente zu sehen bekommen. Insbesondere Frauen würden von den Smart-Glasses-Trägern gefilmt und die Videos auf Social-Media-Kanälen geteilt, damit die Frauen dort „bewertet“ und dadurch objektiviert werden könnten.
Im Artikel kommen neben den Tech-Konzernen auch Martin Steiger, Sprecher der Digitalen Gesellschaft und Anwalt, und Katja Zürcher, Sprecherin des Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten (EDÖB) zur Sprache. Steiger, von dem der Titelsatz stammt, sieht das Versprechen von Meta, dass man seine bei der Nutzung von Smart Glasses anfallenden Daten selber verwalten könne, kritisch: «Die heute erhältlichen Smart Glasses sind gebaut, um Daten zu sammeln, und nicht auf Datensparsamkeit optimiert.»
Zürcher betont im Watson-Artikel das hohe Risiko für die Persönlichkeitsrechte Dritter, das von aktuell erhältlichen Smart Glasses ausgehe: «Je mehr solcher Brillen im Umlauf seien, desto öfter müsse man damit rechnen, ungefragt gefilmt zu werden, ohne Kontrolle darüber zu haben, was mit den Bildern danach geschehe» schreibt Watson. Das wiederum verursache einen Chilling Effect: «Falls sich die Brillen in der Schweiz weiterverbreiten, wird das unser Verhalten zwangsläufig beeinflussen und unsere selbstbestimmte Lebensführung einschränken», so Zürcher im Artikel.
Die Schutzmechanismen seien realitätsfremd, unzureichend und leicht zu umgehen, so die beiden Datenschutz-Expert:innen anhand von eingängigen und erheiternden Beispielen. Auch sei Missbrauch von Smart Glasses aktuell kaum sinnvoll zu ahnden. Da es, wie Steiger weiter erläutert, nicht funktioniere, bei den Nutzerinnen und Nutzern anzusetzen, müsse die Regulierung bei den Konzernen ansetzen. Eine Schlussfolgerung, die wir bereits oben bei der Expertenkommission gesehen haben.
Den ganzen, sehr lesenswerten Artikel mit weiteren Beispielen und Tipps gibt es bei Watson.
Vorerst bleibt Personen, welche nicht alle ihre Aktivitäten dauerhaft in Online-Medien publiziert sehen wollen nur, einen grossen Bogen um Leute zu machen, die Smart Glasses einsetzen. Und ihre Bekannten darauf aufmerksam zu machen, dass man es gar nicht schätzen würde, wenn sie mit solchen Brillen auftauchen. Aber auch Betreiber:nnen von Badeanstalten und Geschäften sollten ein entsprechendes Verbot ausschildern und durchsetzen.
Lang lebe das Cookie-Banner
Im Rahmen des Digitalen Omnibus der EU zum Abbau von Wirtschaftshindernissen in der IT-Regulierung war auch eine Vereinfachung bis Elimination der Cookie-Banner geplant, durch Setzen eines Signals im Browser, wie das beispielsweise in Kalifornien gilt.
Doch nun gibt es eine Kehrtwende, wie der Datenschutzverein NOYB (None Of Your Business) um Max Schrems berichtet:
Cookie Banner sind keine Erfindung des Datenschutzes, sondern der Tracking-Industrie. Ohne Einwilligung gibt es kein Online-Schnüffeln. Jetzt hat man Angst, dass eine einfachere Möglichkeit, ‚Ja‘ oder ‚Nein‘ zu sagen, Umsatzeinbußen bei Google und Co zur Folge hat. Daher lobbyiert die Tracking-Industrie gerade was das Zeug hält, um den Cookie-Banner zu behalten. Offensichtlich will sie weiterhin die Möglichkeit, den Willen der Nutzer:innen direkt zu manipulieren.
Max Schrems in «EU-Staaten (und Google) wollen plötzlich Cookie-Banner behalten!»
Wen die Cookie-Banner nerven, aber nicht allen Verwendungen zustimmen will: Das Plugin Consent-o-Matic der Universität von Aarhus beantwortet viele Cookie-Banner automatisch, natürlich ablehnend. Mehr zu Tracking und Gegenmassnahmen hier bei DNIP: «Tracking, nein danke!».
KI und Plagiate
Die deutsche Tech-Journalistin Eva Wolfangel ist überzeugt, dass sich Medien und Journalist:innen das eigene Grab schaufeln, wenn sie mittels KI einfach Informationen aus dem Netz scrapen und die daraus rekombinierten Beiträge als eigene ausgeben, wie sie in ihrem Blog schreibt. Anlass war ein Journalist und «Experte KI und Digital» der einen ihrer Posts ziemlich offensichtlich abkupferte, gänzlich ohne Angabe seiner Quelle für die Textbausteine. Verständlicherweise beschwert sie sich darüber, dass der Aufwand, den sie für ihre Recherche eingesetzt hat, scheinbar wertlos wird: Beliebig reproduzierbar ohne Quellenangabe oder Verlinkung, quasi gratis.
Unter diesen Bedingungen wird sich seriöser Journalismus nicht halten können. Es ist natürlich viel billiger, die Abkürzung nehmen: die Arbeit einfach zu kopieren, von KI umschreiben zu lassen und als eigene auszugeben. Und es lässt sich mit moderner KI richtig gut und einfach automatisieren.
Eva Wolfangel in ihrem Blogpost «KI und das Ende des Journalismus» von letzter Woche
Besonders markant: In ihrem plagiierten Artikel ging es um Plagiate: Werkzeuge, mit denen „abgeschriebene“ oder KI-generierte Texte erkannt werden sollten. Und mit denen man anderen Autor:innen und Politiker:innen vorwerfen kann, dass sie gar nicht selbst arbeiten würden.
Die Aussage von Wolfangels Artikel «Misstrauen als Geschäftsmodell»: «Ein KI-Detektor wie Pangram kann verdächtigen, aber nichts beweisen. Wer damit Menschen beschuldigt, richtet Schaden an, den kein Dementi reparieren kann.»
Das Thema von einer anderen Seite beleuchtet hat Reto Vogt. In «Algorithmen als Ankläger» vergleicht er drei KI-Anschuldigungen und kommt zu einem ähnlichen Schluss, basierend auf der Intransparenz der Detektoren-Algorithmen: «Wenn ein Detektions-Tool beziehungsweise ein Algorithmus als Ankläger fungiert, ist kein Gegenbeweis möglich. Das ist ein Mechanismus, der jeden treffen kann. Auch mich.»
In den USA ist die Thematik schon etwas länger präsent. So erschienen im Atlantic vor einem Monat zwei kostenpflichtige Artikel zum Thema: «America Has a Pangram Problem» und «The Biggest Tell That Something Was Written by AI». Wer sich in die Thematik (und die Ethik) dahinter vertiefen will, findet ein Fallbeispiel dazu bei der deutschen Gesellschaft für Informatik.
Wir haben unzählige Beispiele, in denen angebliche KI-Detektoren versagt haben: So haben KI-Detektoren schon Shakespeare-Werke oder die US-Verfassung als angeblich KI-generiert „geoutet“. Insbesondere Texte, die nicht von Muttersprachler:innen geschrieben wurden, werden gerne fälschlich als „AI-generated“ gelabelt. Dass solche False Positives, also falsche Anschuldigungen, nicht wegzubekommen sind, hat kürzlich ein australischer Forscher mathematisch bewiesen: Ein KI-Detektor, der Dokumente unabhängig von der Vorgeschichte bewertet, ist zwangsläufig mit einer Fehlerrate behaftet, die sich an der Verteilung der menschlichen und KI-Schreibstile misst. Vereinfacht gesagt: Solange wir Menschen oder KI Variationen im Schreibstil zugestehen, kann das Erkennungsproblem nicht gelöst werden. Etwas, was auch die Erfinder von ChatGPT schon dokumentierten.
Nehmen wir für ein Gedankenexperiment an, wir hätten einen perfekten KI-Detektor. Ein Schüler hat seinen Aufsatz mit KI geschrieben, will das aber vertuschen. Nun produziert er (möglicherweise automatisch) so lange Variationen des Textes, bis der KI-Detektor „zufrieden“ ist. Dann hätten wir einen (ursprünglich) KI-generierten Text, der zuverlässig als KI-frei identifiziert wurde. Dadurch haben wir einen Widerspruch, es kann also den perfekten KI-Detektor nicht geben.
Schön zusammengefasst findet sich das alles bei der University of San Diego für KI-Detektoren oder bei Debora Weber-Wulff für „klassische“ Plagiate.
Noch besser ist es allerdings, wenn man sich gar nicht erst auf solche Werkzeuge verlassen muss. So sagt Vitomir Kovanović: «Versuche nicht, KI zu erkennen. Stelle stattdessen sicher, dass die Verwendung von KI kein Problem ist.»
Auch Rechenzentren wollen Sommerferien
Auch wenn Jeff Bezos nicht gesagt hat, dass Menschen endlich aufhören sollten, den KI-Rechenzentren das dort dringend notwendige Wasser wegzutrinken, das Problem mit dem Wasser (und dem Greenwashing) ist ein echtes, wie Reto Vogt am Freitag schrieb. Nun zeigt sich auch, dass erste Kernkraftwerke (Beznau I und II) wegen zu warmem Kühlwasser (und damit zu wenig Kühlmöglichkeiten) heruntergefahren werden müssen. Auch erste Rechenzentren mussten schon wegen ungenügender Kühlmöglichkeiten heruntergefahren werden.
Ein massiver Ausbau von KI-Rechenzentren, wie er Big Tech vorschwebt, muss sich also – Jeff Bezos & Co. hin oder her – definitiv auf die klimatischen Herausforderungen einstellen. Dutzende von riesigen Gaskraftwerken neben jedes neue Mega-Rechenzentrum zu stellen (DNIP berichtete) kann nicht die Antwort sein, sondern würde die Klimaerwärmung weiter vorantreiben (wie übrigens auch mehr Klimaanlagen). Und uns Menschen damit in vielen Regionen das Wasser abgraben.
Irgendwo muss die Energie herkommen und auch grosse Fernwärmenetze haben im Sommer keinen unbeschränkten Wärmebedarf. Entsprechend müssten alle neu gebaute Rechenzentren überregional koordiniert werden und ihr lokaler und überregionaler Einfluss gegen die Bedürfnisse von Umwelt, Mensch und Tier abgewogen werden.
Der Smartphone-Supercomputer
Alte Smartphones landen schnell mal im Elektronik-Abfall, spätestens dann, wenn es keine Sicherheitsupdates gibt oder die Lieblingsapps nicht mehr installierbar/updatebar sind, weil sie neuere Versionen von iOS oder Android voraussetzen. Forschende an der University of California San Diego versuchen zusammen mit Google, diesen Smartphones quasi ein zweites Leben zu geben.
Dabei wird ausgenutzt, dass die CPU eines Smartphones durchaus mit Desktop-Rechnern mithalten können. Mit zusätzlicher Hardware für die Datenflüsse zwischen Smartphones haben die Forschenden einen Verbund von Smartphones aufgebaut, der auch für verteilte Anwendungen insbesondere in Schulen und Hochschulen geeignet ist. Unterstützt wird dies durch dedizierte Software, welche diese verteilten Anwendungen steuern kann.
Offenbar ist es also möglich, Smartphone-Hardware über ihren vom Hersteller anvisierten Lebenszyklus hinaus zu betreiben. Schade ist allenfalls, dass es dazu ein universitäres Forschungsprojekt braucht. Hobbybastler etc. bleiben da leider schnell mal aussen vor.
Und schliesslich:
- Reto Vogt hat vor ein paar Wochen zur Manipulationsmacht von Fake-Bildern geschrieben. Und dass auch ein kleines „KI-generiert“ daran wenig ändert. Wer sich zu ethischen Fragen rund um KI-Einsatz (und generell Informatik-Einsatz) Gedanken machen will, ist bei der Fachgruppe Informatik und Ethik der deutschen Gesellschaft für Informatik gut aufgehoben. In ihren «Gewissensbits» werfen sie ethische Fragestellungen auf, in der letzten Ausgabe eben zum Thema «Ein Bild lügt mehr als tausend Worte». Die diversen Fallbeispiele sind geeignet um sich selbst mit dem Thema zu vertiefen oder es in einer Gruppe oder in einer Lehrveranstaltung zum Thema Informatik und Ethik einzusetzen.
- Als ob SchülerInnen und Studierende, welche ihre Hausaufgaben und Prüfungen mit KI erledigen anstatt selber zu denken, Schulen und Universitäten nicht schon vor genügend Probleme stellen würde: In Südkorea, Taiwan und China wurden erste StudentInnen dabei erwischt, Prüfungen mit Hilfe von KI in Smart Glasses (also Brillen mit Kamera und Internetanbindung) zu lösen. Da hilft dann auch die Rückkehr zu papiergestützten Prüfungen nichts mehr.
- Und gleich nochmals etwas zum Unterschied zwischen KI und „selber erleben“: Im Film Good Will Hunting gibt es eine Szene, in welcher Wills Psychologe Sean Maguire (gespielt von Robin Williams) diesem den Unterschied zwischen Buchwissen und „selber erleben“ erklärt. Ein US-amerikanischer Blogger hat diese in einem Blogpost beschrieben, und auch den Monolog von Sean transkribiert. Ein Text, der sich zu lesen lohnt, insbesondere wenn es um Argumente gegen KI-Propheten geht. Und schliesst mit einem Rezept
- Cory Doctorow engagiert sich schon lange für gute Arbeitsbedingungen bei fortschreitender Digitalisierung. Bei KI sollen nicht Menschen zu Anhängseln von Maschinen werden, sondern Maschinen wieder zu Werkzeugen der Menschen. So die Aussage seines neuesten Buchs, das noch nicht auf Deutsch verfügbar ist sowie eines jetzt von Digitalcourage übersetzten Vortrags, beide über die Fehlanreize rund um Big Tech und ihre Folgen.
- Wer Angst hat, von Windows zu Linux zu wechseln, findet hier einen motivierenden Blogpost, der Windows und Linux mit der berühmten «Matrix»-Szene mit der Wahl zwischen der roten und der blauen Pille vergleicht. (Wer von Windows auf Linux umsteigen will, sollte übrigens zuerst die Applikationen – eine nach der anderen – wechseln und das Betriebssystem erst als Letztes. Dies reduziert das Frustpotenzial massiv.)
- Wer noch ein Argument für Digitale Souveränität braucht: Der Bundesrat veröffentlichte letzte Woche den „Lagebericht NDB «Sicherheit Schweiz 2026»„, mit dem Satz «Die USA bleiben ein Unsicherheitsfaktor» in der Medienmitteilung (und mehr Details im Bericht, auch wenn wenige davon überraschend sind).
Zitate der Woche
Das Problem an der Sichtweise von Daten als ökonomisches Gut ist übrigens, dass es ja immer die Daten anderer sind, die verwertet werden. Abbau Daten anderer, die dann auf den Risiken und Folgen sitzen bleiben, wohingegen die Datenverwerter mit dem Gewinn davongehen.
Bianca Kastl, Digitalexperin
