Weil auf der ganzen Netzwelt so viel passiert, und wir nicht alles gleichzeitig verarbeiten, verarzten und verkommentieren können, empfehlen wir hin und wieder ein paar Artikel aus der Netzwelt, mit Lob, mit Kritik und auch Ergänzungen. Einfach und simpel Meta. Ausserdem nutzen wir das Format für Kurzeinordnungen und -erklärungen zu brandaktuellen Tech-News.
AI’s 6 Worst-Case Scenarios
Wenn in Science Fiction-Filmen das Worst Case-Szenario zum AI-Einsatz verwendet wird, dann haben wir es oft mit einem Skynet- oder Matrix-mässigen Endgegner zu tun, also mit intelligenten Maschinen, welche aus irgendwelchen Gründen auch immer die Menschheit vernichten wollen. Das IEEE Spectrum hat einige AI-Experten zum Thema interviewt, dabei hat sich herausgestellt dass schon deutlich weniger spektakuläre Szenarien für den Weltuntergang reichen.
Bereits absehbar sind Fehlentscheide aufgrund von Deepfakes (manipulierte Bilder oder Videos) welche, sofern sie zu spät als solche erkannt werden, zu Manipulationen sowohl der öffentlichen Meinung wie auch von Entscheidungsträger führen können, mit potenziell gefährlichen oder sogar tödlichen Konsequenzen. Und ebenfalls nicht mehr ganz theoretisch sind Szenarien, in welchen militärische Systeme wie Drohnen teil- oder vollautonom handeln um die Reaktionszeit zu verkürzen, auch hier mit unter Umständen unerwarteten Konsequenzen und Fehlreaktionen.
Mehr auf der gesellschaftlichen Ebene spielen Szenarien wie die AI-gestützte Erfassung und Ausleuchtung jeglichen menschlichen Verhaltens (seien es vordergründig hilfreiche Dinge wie Netflix- oder Bücher-Empfehlungen, seien es Überwachungstechnologien welche Kriminalität vorhersagen) oder die verstärkte Bindung von Benutzern an Plattformen durch Optimieren von bindungsverstärkendem Feedback. Und natürlich läuft der Einsatz von AI im Alltag generell Gefahr, bestehende Vorurteile zum Beispiel bei der Personalselektion, der Vergabe von Krediten/Hypotheken oder dem Auszahlen von Sozialhilfe quasi algorithmisch zu verstärken und zu legitimieren. Auch wenn diese Szenarien nicht direkt zu einem weltuntergangs-ähnlichen Resultat führen werden, so schränken sie die Vielfalt des menschlichen Handelns doch stark ein.
Spannend ist, dass der Artikel mit einem eigentlich positiven Punkt endet. Unter dem Titel “Fear of AI Robs Humanity of Its Benefits” wird ausgeführt, dass eine allzu grosse Zurückhaltung beim Einsatz (oder sogar explizite Verbote) dazu führen kann, dass deren Vorteile (als Beispiel wird medizinische Forschung erwähnt) ungenutzt bleiben.
Knee-jerk regulatory actions by governments to protect against AI’s worst-case scenarios could also backfire and produce their own unintended negative consequences, in which we become so scared of the power of this tremendous technology that we resist harnessing it for the actual good it can do in the world.
Encryption ja, Encryption nein?
Dass Verschlüsselung von Daten (und End-to-End-Verschlüsselung von Kommunikationen) wichtig sind, brauchen wir unseren Leserinnen und Lesern hoffentlich nicht zu erklären. Insofern ist es erfreulich, dass sich die neue Regierungskoalition in Deutschland im Koalitionsvertrag für sichere und verschlüsselte Kommunikation und gegen das Scannen privater Kommunikation ausspricht (auch wenn der Teufel wie so oft dann in der Umsetzung liegen wird). Und auch in der EU steigt der Druck, Verschlüsselung (und End-to-End-Verschlüsselung) zu stärken (auch wenn die Kommission gegenteilige Pläne verfolgt und auch wenn da dann die Idee EU-eigener DNS-Server mit Netzsperrpotential wieder in die andere Richtung zeigt).
Da mutet es dann leicht anachronistisch an, wenn die Regierung auf der anderen Seite des Ärmelkanals eine Kampagne plant, mit welcher die öffentliche Meinung gegen Verschlüsselung beeinflusst werden soll. Der Aufhänger dazu, wie könnte es auch anders sein: Schutz von Kindern vor Online-Gefahren.
We have engaged M&C Saatchi to bring together the many organisations who share our concerns about the impact end-to-end encryption would have on our ability to keep children safe,
https://www.rollingstone.com/culture/culture-news/revealed-uk-government-publicity-blitz-to-undermine-privacy-encryption-1285453/
Oder, wie es auf Techdirt pointiert heisst
The goal of this propaganda campaign is to turn the UK public’s opinion against their own privacy, not just in their electronic conversations, but even in the home, where the right to privacy is strongest and most ancient
https://www.techdirt.com/articles/20220118/11393948308/uk-has-voyeuristic-new-propaganda-campaign-against-encryption.shtml
Man muss sich das auf der Zunge zergehen lassen: Unter dem Vorwand, Kinder vor Online-Gefahren zu schützen, will die Regierung die Öffentlichkeit dazu bringen, end-to-end-Verschlüsselung als ganzes als negatives Element zu verstehen und sich so insgesamt vermehrten Online-Gefahren auszusetzen.
Ausserdem hat die britische Regierung unter Johnson noch ein paar weitere lustige oder zumindest nicht ganz durchdachte digitalpolitische Ideen im Köcher: erstens ein Verzeichnis guten Hackern einzuführen. Und zweitens: gegen die cookie-freie Initiative von Google vorzugehen im Namen der britischen Medienverlage (es geht um eine Untersuchung die von der britischen Wettbewerbsbehörde geführt wird, ah ja: Deutschlands Verleger haben sich auch dagegen positioniert) (zum Hacker-Verzeichnis und zu Googles neuster Cookie-Nachfolge-Idee dann unten mehr).
Datenschutz-fokussierte Gruppen haben jedenfalls bereits eine Gegenkampagne angekündigt. Unterstützung kriegen sie dabei nicht zuletzt vom Datenschutzbeauftragten in UK:
The Information Commissioner’s Office said strongly encrypting communications strengthens online safety for children by reducing their exposure to threats such as blackmail, while also allowing businesses to share information securely.
https://www.theguardian.com/technology/2022/jan/21/end-to-end-encryption-protects-children-says-uk-information-watchdog
UK government opens consultation on medic-style register for Brit infosec pros
Nochmals also Grossbritannien. Hier gibt es Bestrebungen oder zumindest Ideen, IT-Sicherheitsspezialisten ähnlich wie Ärzte als geschützten Beruf zu definieren und die Berufsausübung nur noch Menschen zu erlauben, welche entsprechende Kompetenzen nachweisen können (und wohl auch zentral registriert sind). Die Regierung hat hierzu eine Konsultation zu “Embedding standards and pathways across the cyber profession” gestartet und begründet die Notwendigkeit mit
The cyber profession is nascent and has developed over the last generation, drawing on multiple specialisms, many of which have origins across other professional structures in science, law and engineering. It has now reached a level of maturity where it needs its own identity, shape and form.
https://www.gov.uk/government/consultations/embedding-standards-and-pathways-across-the-cyber-profession-by-2025/embedding-standards-and-pathways-across-the-cyber-profession-by-2025#executive-summary
Lesen kann man das Dokument aus zwei Blickwinkeln:
- Einerseits ist es sicher nicht ganz falsch, wenn sich eine Regierung dafür einsetzt, ein im 21. Jahrhundert essentielles Berufsfeld so zu strukturieren dass man als Kunde/Nutzerin weiss auf was man sich verlassen kann (kennen wir ja auch hierzulande, sei es für Mediziner, sei es für Elektriker oder für andere “kritische” Berufe).
- Andererseits bieten solche Standards immer auch die Möglichkeit, unerwünschte Einflüsse oder Kritik (im konkreten Fall “Hacker”) auszuschliessen oder zumindest schlechter zu stellen. Und im Gegensatz zur Medizin können die negativen Konsequenzen dann grösser sein als man sich das vielleicht vorstellt. Falls es zum Beispiel darauf hinausläuft, dass nur noch offiziell anerkannte IT-Sicherheitsspezialistinnen straffrei Sicherheitslücken suchen und melden dürfen, werden motivierte “Unabhängige” dann halt im Verborgenen weiterhacken und allfällige Lücken eher dem Meistbietenden verkaufen als öffentlich zu machen.
Es bleibt zu sehen, wie sich das Thema in Grossbritannien entwickelt und ob es sich anschliessend eher als gutes oder eher als abschreckendes Beispiel für ähnliche Bemühungen in anderen Ländern verwenden lässt.
Google takes its second shot at cookie-free ad targeting
Über Google FLoC, den Versuch von Google, die Datenschutzbedürfnisse der Benutzerinnen und die Datenbedürfnisse der Werbeindustrie unter einen Hut zu bringen, haben wir ja im vergangenen April schon berichtet. Unterdessen hat Google das Thema FLoC nach massiver Kritik zur Seite gelegt und eine Alternative gesucht. Schliesslich will man auch nach der Abschaffung der fürs user-tracking wichtigen 3rd party cookies die Möglichkeit behalten, User-Interessen werbe- (und einnahmen-)wirksam erkennen und tracken zu können.
Der zweite Anlauf nennt sich Topics-API, die Beschreibung dazu hat Google vor ein paar Tagen auf Github veröffentlicht. Den Zweck beschreibt Google selbst wie folgt:
The intent of the Topics API is to provide callers (including third-party ad-tech or advertising providers on the page that run script) with coarse-grained advertising topics that the page visitor might currently be interested in. These topics will supplement the contextual signals from the current page and can be combined to help find an appropriate advertisement for the visitor.
https://github.com/jkarlin/topics
Den weiteren Ausführungen nach ist die Absicht hinter dem neuen API, User nicht mehr wie bei FLoC zu dynamisch generierten Gruppen (Cohorts) zuzuschlüsseln sondern anhand deren aus der jeweils besuchten Webseite abgeleiteten Interessen einer vorab definierten Taxonomy zuzuordnen. Sowohl die Zuordnung selbst wie auch deren Nutzung soll durch auf den jeweiligen Webseiten integrierten 3rd party-Komponenten erfolgen (also zum Beispiel durch einen Werbeplatz).
Die Kritik an diesem vordergründig neuen Ansatz lies nicht lange auf sich warten.
The Topics API is at root the same idea as FLoC. In both proposals the browser watches the sites you visit, uses that information to categorize your browsing interests, and then has your browser share that info back with advertisers, trackers, and the sites you visit—actors who otherwise wouldn’t know this data. It’s a self-perpetuating cycle of “learning” about you, all in the interest of selling more—and more targeted—advertising.
[…]
In some ways, the Topics API is worse than FLoC. In FLoC, all advertisers would learn the same interests for each user. In the Topics API, an advertiser “only” learns user interests and behaviors for the pages on which that advertiser appears.
Since large advertisers (like Google) are included on most websites, they’ll be relatively unaffected by the Topics API change. But it will put small advertisers at a significant disadvantage. Smaller advertisers appear on far fewer sites, meaning that the Topics API essentially strengthens Google’s advertising monopoly by default. And it does so through the cynical guise of user privacy.
https://brave.com/googles-topics-api/
Das Topics API löst also keine der zentralen Probleme von FloC sondern setzt weiterhin darauf, dass der Browser selbst das Tracking der von der Userin besuchten Seiten übernimmt, die Userin gemäss ihren Interessen kategorisiert und die Kategorien dann den Werbeanbietern gegenüber offenlegt. Und im Gegensatz zu FLoC favorisiert das Topics API sogar grosse Anbieter wie Google und Facebook, da die Werbeanbieter nur Informationen über Webseiten erhalten auf denen sie selber Werbeplätze anbieten. Und da ist Platzhirsch Google gegenüber kleinen Nischenanbietern vom Start aus massiv im Vortei.
Schlussendlich scheint also auch der neue Ansatz das grundsätzliche Problem des Spannungsfelds zwischen Schutzbedürfnis des Users und Datenbedürfnis der Werbeindustrie nicht lösen zu können. Überraschen dürfte diese Erkenntnis nicht, spannend bleibt die weitere Entwicklung auf alle Fälle.
Sanktionen gegen Russland: US droht mit technologischem Boykott
Wie gegen das Gebaren von Russland an der Ukrainischen Grenze umgehen? Die US-Regierung erwägt Russland bei einem ganz empfindlichen Nerv zu treffen: bei der technologischen Lieferkette. Konkret sollten keine Halbleiter und Chips mehr geliefert werden. Obwohl Zweitere zwar nicht in den USA produziert werden, kontrollieren die Amerikaner*innen viele Vorstufen des Prozesses wie Chip-Design und Fertigungsanlagen. Die Russ*innen wären damit von 5G ausgeschlossen, mutmasst das Tech-Magazin ArsTechnica. Denn die Unternehmen Nokia und Ericsson, die russische Unternehmen mit 5G-Equipment ausrüsten, würden sich wohl an den “Foreign Direct Product Rule” und die Regeln der USA halten. Huawei kann nämlich keinen gleichwertigen Ersatz bieten, seit die USA den Chip-Riesen TSCM aus Taiwan daran hindert 5G-Chips an den chinesischen Techkonzern zu liefern.
Ob die Tech-Sanktionen zur Anwendung kommen, ist unklar. Es wäre auf jeden Fall rechtlich und politischen gesehen Neuland für alle.
