(Dieser Text von mir erscheint in der Dezember-Ausgabe des „041- Das Kulturmagazin“ und wird -mit freundlicher Genehmigung der 041-Redaktion- in leicht veränderter Form – für DNIP.ch übernommen)
Die Schweiz ist ein Entwicklungsland und Pionierin zugleich, wenn es um das Thema Algorithmen und die Digitalisierung allgemein geht.
Pionierin nicht nur wegen der Erfindung des World Wide Web am Genfer CERN oder wegen des im Tessin lebenden Jürgen Schmidhuber, der eines der ersten Forschungszentren für künstliche Intelligenz aufbaute; sondern auch weil sie Algorithmen etwa in der Medizin schon breit einsetzt: Das Unispital Genf arbeitet mit «Watson for Genomics» von IBM für die Krebserkennung und das Unispital Zürich nutzt Algorithmen für die bessere Analyse von Ultraschallbildern. Dabei unterstützen intelligente Programme medizinisches Fachpersonal. Es gibt aber auch einige andere, rechtsstaatlich heikle Bereiche, in denen die Schweiz vorprescht: Die Stadtpolizei Zürich war im deutschsprachigen Raum die erste, die mit der Software PRECOBS (Pre-Crime-Obser vation-System) Einbruchsserien voraussagte. Hierbei handelt es sich um ein Programm, das Einbruchsserien basierend auf vorhandenen Daten und Mustern voraussagt. PRECOBS war danach auch in den Kantonen Aargau und Basel-Landschaft im Einsatz.
Predictive policing ist en vogue in der Schweiz. Doch statt des wohlklingenden Anglizismus wird dafür hierzu lande der Begriff «kantonales Bedrohungsmanagement» verwendet. Und statt von suspects wird von Gefährder:innen geredet.
Die wenigsten der eingesetzten Prognosetools sind intelligent. Konkret bedeutet das: Es findet kein maschinelles Lernen statt, vielmehr ist der regelbasierte Algorithmus oft statisch und starr definiert. Und noch gravierender: intransparent.
Kein politischer Diskurs
Problematisch ist beim Thema Algorithmen nicht die zugrunde liegende Technik, die manchmal nachvollziehbar, manchmal eine Black Box ist, sondern die fehlen den rechtlichen Leitplanken oder das inexistente Checks-and-Balances-System. Predictive policing etwa findet unter völligem Ausschluss der Öffentlichkeit statt, es gibt – mit Ausnahme von Kantonen wie St. Gallen oder Luzern, wo Kantonsrät:innen kritische Fragen gestellt haben – keinen politischen Diskurs, in dem Rechen schaft über die eingesetzte Software verlangt wird.
Ich fand in einer Recherche für die Republik zusammen mit meinem Kollegen Florian Wüstholz heraus, dass die anwendenden Präventionsgruppen aus der Strafverfolgung weder wissen, wie die Prognosetools funktionieren, noch Einsicht in die Codes von deren Hersteller:innen verlangt haben. Gefährder:innen sind etwa in Gefährder:innendatenbanken nur deshalb gespeichert, weil irgendein Tool rot ausgeschlagen hat (ohne Überprüfung oder Hinterfragung durch eine Fachperson). Gewisse Kantone haben dafür noch nicht mal eine ausreichende Rechtsgrundlage, die Anpassung der Polizeigesetze war bei Einführung der Tools erst «in der Mache». Es wird also munter digital in einem rechtlichen Vakuum prognostiziert, ohne gesellschaftlich-politisches Korrektiv. Und teils auch ohne interne Aufsicht: Die Skandal-App Clearview, mit der man in Echtzeit Personengesichter dank zugehöriger Social-Media-Profile identifiziert, wurde von einigen Kantonspolizist:innen in Zürich und St. Gallen offenbar «privat» getestet, wie BuzzFeed herausgefunden hat.
Wüssten wir also nicht über die Fax-Liebe des BAG Bescheid, könnte man fast meinen, die Schweiz wäre in Sachen Technologien eine grosse Anhängerin von Zuckerbergs früherem Motto «Move fast and break things».
Oder auch, dass man, wenn man in neuen Technologien vorwärtskommen möchte, «sich nicht immer um alle ‹Bedenken› und ‹Risiken› kümmern [muss]», wie es der Finanzminister Ueli Maurer tatsächlich einmal in einer Ansprache formulierte.
Schweiz als Entwicklungsland
Das ist also die Kehrseite des Pionierinnen-Status: Auf der regulatorischen Ebene ist die Schweiz ein Entwicklungsland. Dies begründe ich etwa mit dem alten Datenschutzgesetz aus dem Jahr 1992, das erst jetzt einer umfassenden Reform unterzogen worden ist. Wesentliche zivilgesellschaftliche Punkte des europäischen Vorbilds, der Datenschutzgrundverordnung (DSGVO), wurden dabei nicht übernommen oder stark verwässert. Sollte zum Beispiel Software, die auf Machine Learning basiert, bei der Kreditvergabe zum Einsatz kommen, so haben Schweizer Einwohner:innen lediglich ein Informations-, aber kein Widerspruchsrecht (zudem ist beim DSG wie auch bei der DSGVO von „automatisierter“ Bearbeitung die Rede, was nicht explizit auf die Problematik von KI oder ML fokussiert). Abgesehen davon gibt es kaum Sanktionen für sträfliche Nachlässigkeit bei der Datensicherheit, wie sich am Beispiel der mittlerweile deaktivierten Plattform meineimpfungen.ch gezeigt hat. Die betreibende Stiftung hat ihre Plattform mittlerweile eingestellt, Bussen für allfällige Schäden und Datenabflüsse muss sie nicht bezahlen.
Mit anderen Worten: Unternehmen kommen bei Datenschutzverstössen abgesehen von Imagekratzern aufgrund von journalistischen Enthüllungen, relativ glimpflich davon. Bundesbern lässt auch im klassisch amerikanischen Laisser-faire-Modus den täglichen Datenhandel mit Cookies und Trackern auf Webseiten und Apps zu – und greift kaum ein. Zwar wird in Ansprachen von Politiker:innen und Behördenvertreter:innen aktuell immer wieder betont, dass die Digitalisierung menschenzentriert sein müsse. Auch möchte eine Public-Private Partnership aus Wirtschaft, Forschung und Bund die Schweiz als zentralen Knotenpunkt, als Hub für digitale Ethik positionieren mittels der Vergabe einer Art Gütesiegels.
Aber auf EU-Ebene hat es die Schweiz versäumt, proaktiv mitzudiskutieren (trotz aktiver Mitgestaltung in anderen europapolitischen Gremien wie etwa dem Europarat). Bei der aktuellen Digitalisierungs-Debatte nimmt die Schweiz nur eine Zaungastrolle ein, wie die GLP-Nationalrätin Judith Bellaiche in einer Motion vom Juni 2021 beklagte. Auch der Schweizer Ableger der Organisation AlgorithmWatch kritisiert: «Bisher gibt es keine absehbaren Bemühungen des Bundesrats oder des Parlaments, eine umfassende (also nicht auf einen Sektor begrenzte) Regulierung von KI-Systemen in der Schweiz umzusetzen.»
Der Bund beobachtet
Der Bundesrat antwortete auf den Vorstoss von Bellaiche in klassischer Manier, wie wir es seit der Pandemie gewohnt sind: Er werde vor allem erst mal beobachten, was die EU vorhat. Und sich dafür «einsetzen, dass die Chancen eines europäischen Datenraums und eines digitalen Binnenmarktes auch für die Schweiz bestmöglich genutzt werden können». Fast schon bezeichnend ist der in der Antwort verwendete wirtschaftliche Jargon: Es geht in erster Linie um den digitalen europäischen Binnenmarkt und nicht um werteorientierte europäische KI-Regeln.
Bleibt also zu hoffen, dass die IT-Zivilgesellschaft und Forschungsinstitutionen in die Lücke springen, Erfahrungen sammeln und sich beim Bund rechtzeitig mit Vorschlägen einbringen können, wenn er denn einmal genug «beobachtet» hat. Zum Glück passiert die Konzept- und Denkarbeit bereits auf konstruktive Weise: Das Zentrum für Demokratie Aarau hat etwa an Algorithmen für sozial ausgewogenere Schüler:innenzuteilungen in Klassen getüftelt und diese von der Forschungscommunity öffentlich kritisch debattieren lassen. Zu nennen ist auch die von der Universität Zürich etablierte „Digital Society Initiative“ die nun ein Positionspapier zur Regulierung von Künstlicher Intelligenz publizierte, das letzte Woche auch in der parlamentarischen ParlDigi-Komission debattiert worden ist.
Mein Fazit: Die Breitbandabdeckung mit 4G – an gestrebt ist 5G – mag zwar in der Schweiz besser sein als in Deutschland, aber in Sachen KI-Ethik und Digitalpolitik hinkt die Schweiz mit Blick auf die politische Agenda allen umliegenden europäischen Nachbarstaaten wieder drei Schritte hinterher.
Was übrigbleibt, ist wie so oft: der «autonome» Nachvollzug von Brüsseler EU-Gesetzen.
