Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat.
Ab sofort strukturieren wir das Briefing und beginnen mit leicht verdaulichen und verständlichen Inhalten – und enden mit technologisch-komplexen Artikeln. Ziel ist es, dass sich unsere Leser:innen schneller zurechtfinden und besser einschätzen können, was sie erwartet.
Was hältst du davon? Schreibe es uns.
Zahnbürste killt Seitensprung
Mit elektronischen Zahnbürsten und ihren (angeblichen) Risiken haben wir uns bereits letztes Jahr beschäftigt. Dass die Digitalisierung des Zähneputzens aber auch reale Risiken hat, zeigt jetzt ein Fall in UK. Die dortige Regenbogenpresse (Daily Mail, Mirror) berichtet, dass ein von der Ehefrau engagierter Privatdetektiv dem fremdgehenden Ehemann auf die Spur kam, indem er die Nutzungszeiten der smarten Zahnbürste auswertete. Und der Ehemann dann nicht sinnvoll erklären konnte, wieso er seit Monaten freitags kurz vor 11 die Zähne putzt, wo er doch seit 9 im Büro sein sollte.
Auch wenn es also in diesem Fall nicht um einen Angriff von IoT-Killer-Zahnbürsten geht, zeigt sich doch deutlich, welche Details all die kleinen Messgeräte und Tracker über uns verraten. Es muss dazu nicht mal die digitale Zahnbürste sein: Auch ein erhöhter Wasserverbrauch vor oder nach dem Tête-à-tête, oder regelmässig zur Bürozeit abgespielte romantische Lieder in der Playback-Historie des gemeinsamen Spotify-Accounts, könnten im konkreten Fall Geheimnisse verraten. Unabhängig vom konkreten Fall gilt dies auch für sonstige Tätigkeiten: Was Daten abwirft, kann ausgewertet werden. Und was ausgewertet werden kann, kann auf Muster (oder eben Abweichungen) durchsucht werden.
Microsoft buhlt um die Schweiz
Gestern fand in Bern eine hochkarätige Veranstaltung von Microsoft in Bern statt, bei der es laut Microsoft um nicht weniger als «Switzerland’s Digital Future» gehen sollte und bei der auch Bundesrat Parmelin auftrat. Microsoft will dabei laut eigenen Angaben die Cloud- und KI-Infrastruktur in der Schweiz ausbauen; Startups und KMUs stärken; KI-Fähigkeiten und digitale Kompetenzen entwickeln sowie die Rolle der Schweiz in der verantwortungsvollen KI-Governance stärken. Ziel von letzterem Punkt ist es unter anderem, seine KI- und Datenverarbeitungslösungen für Anwendungen rund um Gesundheit, humanitäre Dienste und Menschenrechte genutzt zu wissen.
Soweit der Hochglanzprospekt.
Martin Steiger als Sprecher der Digitalen Gesellschaft sieht das kritischer:
Für die Schweiz als Ganzes ist die Ankündigung problematisch. Je grösser Microsoft in der Schweiz wird, desto grösser wird auch die Abhängigkeit von Microsoft.
Schon heute wird die Verwendung von Microsoft-Diensten und Microsoft-Software von einigen Behörden als alternativlos dargestellt. Dabei müssen diese Behörden jederzeit damit rechnen, dass Ihnen der Zugang gesperrt wird, wie das aktuelle Beispiel des Internationalen Strafgerichtshofs zeigt.
Genauso stellt sich die Frage, wie ein amerikanischer Tech-Konzern den Datenschutz und die Vertraulichkeit gemäss schweizerischem Recht gewährleisten kann.
Die Schweiz geht ein erhebliches Risiko ein, wenn massgebliche Teile ihrer Infrastruktur, auch ihrer kritischen Infrastruktur, von ausländischen Tech-Konzernen betrieben wird. Die Schweiz gefährdet aber allenfalls auch die Grundrechte aller Menschen, wenn Finanz-, Gesundheits- und Sozialdaten bei Microsoft liegen. Mit der Verbreitung von Künstlicher Intelligenz (KI) werden die Gefahren und Risiken noch grösser.
Die Schweiz benötigt dringend mehr digitale Souveränität. Die Schweiz muss ihre Abhängigkeit von grossen Tech-Konzernen reduzieren.
Die Alternative ist freie Open Source-Software, auf deren Grundlage ein vielfältiges Angebot an Diensten angeboten wird – gerade auch von KMU in der Schweiz.
Die aktuellen politischen Entwicklungen zeigen eindrücklich, wie wichtig digitale Souveränität ist. Die Schweiz betreibt das Gegenteil von Standortförderung, wenn sie mit Microsoft kuschelt.
Mit mehr digitaler Souveränität würde auch weniger Geld aus der Schweiz an Microsoft und andere Tech-Konzerne im Ausland fliessen. Die Milliarden, die jedes Jahr aus der Schweiz an grosse Tech-Konzerne fliessen, könnten zu Gunsten der Wirtschaft in der Schweiz eingesetzt werden. Die Schweiz hat grosses Potenzial für eine aktive und vorbildliche Rolle in einer lebendigen europäischen Software-Landschaft.
Wenn sich Bundesrat Parmelin für eine Werbeaktion von Microsoft hergibt, setzt er damit ein verheerendes Zeichen in die falsche Richtung, nämlich für noch mehr Abhängigkeit von Microsoft.
Man muss sich aufgrund dieser zur Schau gestellten Nähe fragen, wie unabhängig der Bund im Zusammenhang mit Microsoft und anderen Tech-Konzernen handeln kann. So versäumte es der Bund beispielsweise, in seinen Verträgen mit Microsoft das Öffentlichkeitsprinzip zu verankern. Wir wissen deshalb bis heute nicht, was in den Verträgen für die «Public Clouds Bund» und andere Beschaffungen bei Microsoft steht.
Es ist bedenklich zu sehen, dass sich ein Bundesrat dafür hergibt, für einen Tech-Konzern mit pauschalen Schlagworten wie «Bildung» und «Innovation», «KI» zu werben. Microsoft zeigt einmal mehr, dass man das politische Lobbying meisterhaft beherrscht und es gerade in der Schweiz immer wieder schafft, Politiker:innen einzuseifen. Das hat unter anderem dazu geführt, dass die Schweiz bislang weder eine KI-Regulierung noch eine Plattform-Regulierung hat. Insofern ist es geradezu absurd, wenn Microsoft – gemeinsam mit Bundesrat Parmelin – eine «Stärkung der Rolle der Schweiz als globaler Hub für verantwortungsvolle KI-Governance» verkündet. Die Schweiz hat heute und absehbar keinerlei KI-Governance.
Bei der Governance zeigen wir als Digitale Gesellschaft immer wieder Alternativen auf. So haben wir ausführliche eigene Vorschläge für die Datenschutz- und KI-Regulierung erarbeitet und veröffentlicht.
Souveränität bedingt Selbstbewusstsein
Eva Wolfangel war letzte Woche an der Konferenz «TECH Heilbronn». Dabei wurde viel über Souveränität gesprochen. «Souveränität heisst», so Rolf Schumann, Chief Digital Officer der Schwarz-Gruppe (Lidl, Kaufland), «den Verhandlungstisch verlassen zu können.» Oder, wie Wolfangel das interpretiert: dass man nicht alles selbst machen müsse, aber eine echte Wahl zu haben. Auch die Wahl, irgendwann den Verhandlungstisch zu verlassen und es selbst zu machen oder anderswo einzukaufen. So weit sind leider erst wenige in Europa.
Und das bedeutet auch, so Wolfangel, dass Europa seine starke Verhandlungsposition nicht aufgeben darf, eine Verhandlungsposition, die es aufgrund seiner Datenschutzgesetze und anderer Gesetze zum Schutz der Bürgerinnen und Bürger aufgebaut habe. Denn dann verlöre Europa die Freiheit zu verhandeln.
Das ist aber genau das Gegenteil von dem, was die Schweiz gerade macht: Weder bei Datenschutz noch bei Plattformregulierung oder KI gibt es irgendwelche Forderungen. Damit werden die Firmen und Individuen bei ihren Verhandlungen mit den Tech-Konzernen alleine gelassen. Und verlieren ihre Macht am Verhandlungstisch und damit ihre Souveränität.
Phishing ist kein Problem der Nutzer
Phishing war gerade kürzlich wieder Thema bei DNIP, diesmal die Rolle des Schweizerdeutschen. Aber Phishing zu erkennen, so schreibt IT-Sicherheitsexperte Bruce Schneier in einem eindringlichen Artikel, sollte gar nicht Aufgabe der Nutzer:innen sein. Eigentlich sollten die Systeme so eingestellt sein, dass sie sowas verhindern.
Und ja, es gibt Entwicklungen in diese Richtung, beispielsweise Passkeys, mit denen man hoffentlich zukünftig keine Passwörter mehr merken oder eingeben muss. Und damit auch nicht mehr versehentlich auf Phishing-Seiten eingeben kann.
Solange das noch nicht überall umgesetzt ist, können es wenigstens die Versender von Mails können es den Empfänger:innen leichter machen, legitime von missbräuchlichen Mails zu trennen. Indem sie nämlich Mails nur ab ihrer Maildomain versenden und alle Links darin auf eigene Domains zeigen lassen. Im DNIP-Phising-Artikel von letzter Woche gibt es (schon vor dem Lesen des Schneier-Artikels) eine Liste mit Phishing-Präventions-Tipps für Mailversender.
KI-Startup ohne KI macht Konkurs
Das Startup builder.ai versprach, mittels der KI «Natasha» im Baukastenprinzip Apps zusammenbauen zu können. Scheinbar war da aber nicht Künstliche, sondern Indische Intelligenz dahinter. Nach Angaben von Heise und Times of India wurden die Apps aber stattdessen von einer Armee von 700 Programmierern in Indien zusammengebaut. Nun steht builder.ai und seine Muttergesellschaft engineer.ai vor dem Konkurs.
«Fake it till you make it» scheint bei KI-Firmen häufiger vorzukommen. So waren 1000 Personen in Indien die angebliche «KI» hinter Amazons «Just Walk Out»-KI-Geschäften, in denen man nur die Waren aus dem Gestell nehmen musste und damit herauslaufen; die Kreditkarte wurde automatisch belastet, ohne Kasse. Oder ein angebliches KI-basiertes Spracherkennungssystem für Drive-Thrus verliess sich ebenfalls auf Billiglöhner. Wie auch ein Chatbot für Immobilienkauf dauernd von Menschen gebabysittet werden musste.
Die Entwicklung ist nicht neu. Schon 2018 berichtete der Guardian über unzählige entsprechende Praktiken, lange vor ChatGPT & Co. Und solange solche Übertreibungen, Intransparenz oder direkte Lügen weiterhin für diese Firmenchefs kaum Konsequenzen haben, werden diese weitergehen. Im Gegenteil steigern Tech-CEOs ihr Vermögen durch solche Aktionen meist «nachhaltig».
KI-Halluzinationen haben doch Konsequenzen für Juristen
Nachdem wir im letzten Briefing noch bemängelt hatten, dass Juristen «dank» KI-Hilfe inzwischen rekordmässig nicht existierende Gerichtsurteile präsentierten und das scheinbar bisher keine echten Konsequenzen forderte, hat sich das Blatt inzwischen gewendet. So verlor ein Jurist letzten Monat in Utah seinen Job, weil er KI-Resultate ungeprüft als echt ausgab.
Schwächt Google die Platzierung von KMUs?
Das zumindest behauptet Nate Hake, Betreiber der US-Reiseplattform Travel Lemming. In einem Brief an die FTCs auf ihre Anfrage, wo grosse Plattformen andere benachteiligten, legt er dar, wie Google kleine unabhängige Webseiten immer stärker gegenüber grossen Konglomeraten benachteilligt habe, ganz besonders Google-eigenen Plattformen.
Mit Googles KI-Summaries werde das alles noch schlimmer: Damit kämen gar keine Besucher mehr auf die Seiten, die den eigentlichen Inhalt liefern würden.
Dass Google sich wie ein Monopolist verhalte, wird ihnen auch in einem laufenden Gerichtsprozess vorgeworfen.
Galileo-Intransparenz
Dass wir mehr Unabhängigkeit von grossen, zunehmend autokratischen Ländern benötigen, dürfte inzwischen allen klar sein. Doch das bedeutet auch, dass in Europa eine vergleichbare Qualität geliefert werden muss.
Wenn wir uns heute auf unserem Handy lokalisieren lassen, nutzen wir dabei nicht mehr nur die ursprünglichen US-amerikanischen GPS-Satelliten, sondern auch russische, chinesische und europäische. Dieses europäische System der Navigationssatelliten heisst «Galileo». Und genau dieses Galileo hat mit wenigen Tagen Vorlauf eine wochenlange(!) Betriebsstörung («degradations up to temporary disruptions of service») angekündigt, wie Bert Hubert schreibt.
Leider schweigt sich die dafür zuständige EU Agency for the Space Programme bis heute aus, wieso dieser Serviceunterbruch nötig war, wieso er erst so kurzfristig angekündigt wurde und wieso er eine ganze Woche dauerte.
Bert Hubert hat die Betriebsstörung aufgrund der von den Satelliten ausgesendeten Signalen minutiös verfolgt und hat Analysen und Mutmassungen aufgestellt. Aber eigentlich sollte das von Galileo transparent kommuniziert werden.
Die hohe Intransparenz gehört sich nicht für ein System, dem wir vertrauen sollen und mit dem beispielsweise grosse Mähdrescher autonom innerhalb des Feldes arbeiten sollen.
Und schliesslich:
- Der Kampf gegen Harvard ist auch ein Kampf gegen die Freiheit des Geistes und ein Kampf für die Unterdrückung des Volkes. «Rechte ideologische Vorherrschaft ist schwerer aufrechtzuerhalten, wenn Bildungs- und Wissenstätten jungen Menschen erlauben zu lernen, sich zu finden und Überliefertes infrage zu stellen» schreibt The Intercept.
- Musks KI «Grok» wird bei Telegram integriert. Elon lässt sich die einjährige Partnerschaft einiges kosten: Einerseits 300 Millionen Dollar in bar oder x.ai-Aktien, zusätzlich erhält Telegram 50% der Umsätze aller xAi-Abos, die über den Messengerdienst abgeschlossen werden. Daten für KI-Trainings sind ganz schön teuer.
