Die mutmassliche Terroristin Daniela Klette wurde Ende Februar nach 30 Jahren Fahndung in Berlin-Kreuzberg festgenommen. Genau dort, wo Journalistinnen des ARD-Podcasts «Legion: Most Wanted» im vergangenen Herbst nach ihr gesucht hatten. Ausgerechnet mit einer Gesichtserkennungssoftware waren sie Klette auf die Spur gekommen. Am diesjährigen Winterkongress der Digitalen Gesellschaft diskutierten die grüne Nationalrätin Marionna Schlatter, Vertreterinnen der Bürgerrechtsorganisationen Algorithm Watch und Amnesty International über die Recherche. Auf dem Podium sass auch Monika Simmler, Strafrechtsprofessorin an der Universität St. Gallen.
Sylke Gruhnwald, Reporterin der Legion-Reihe und Kolumnistin bei DNIP, spricht mit Monika Simmler über die Team-Recherche zu Daniela Klette und der Roten Armee Fraktion (RAF) und befragt die KI-Expertin zum Einsatz von Gesichtserkennungssoftware als Recherchemethode.
DNIP: Frau Simmler, Sie kritisieren die Recherche zu Daniela Klette und der Roten Armee Fraktion. Warum?
Monika Simmler: Sie stellen mir eine unangenehme Aufgabe. Ihre Recherche zur Identifizierung einer mutmasslichen Terroristin war erfolgreich, weshalb sie schwer zu kritisieren ist. Aber sie war auch heikel. Laien sollten keine polizeilichen Aufgaben übernehmen, da dies dem staatlichen Gewaltmonopol widerspricht. Die Aufklärung von Straftaten ist allein Sache des Staates.
DNIP: Was geben Sie zu bedenken?
Simmler: Bei strafrechtlichen Ermittlungen werden Grundrechte berührt. Für einen Verdächtigen gilt die Unschuldsvermutung, bis ein Gericht ein Urteil gefällt hat. Nur Behörden können diese Grundsätze wahren. Das gilt auch für die Terrorverdächtige der Roten Armee Fraktion. Oder für die Hunderte, die am 6. Januar 2021 das Kapitol in Washington stürmten. Danach haben sich Gruppen von Privatermittlern zusammengetan, um die radikalen Anhänger von Donald Trump zu identifizieren. Der Staat darf solche Ermittlungen nicht aus der Hand geben; Laien dürfen nicht die Aufgaben der Polizei übernehmen. Das schwächt, wie gesagt, das Gewaltmonopol des Staates, aber auch das Vertrauen in ihn.
DNIP: Trumps Unterstützer filmten sich bei den Krawallen und stellten die Videos ins Netz. Aktivisten analysierten diese und veröffentlichten tausende Fotos von Teilnehmern, die mit Bildersuchdiensten und Gesichtserkennungssoftware überprüft wurden. Mehr als 600 Angreifer auf das Kapitol wurden verurteilt, darunter Mitglieder der rechtsradikalen Milizen «Oath Keepers» und «Proud Boys».
Simmler: Es ist eindrücklich, was Open Source Intelligence heute möglich macht.
DNIP: Bei Open Source Intelligence werden Informationen aus frei zugänglichen Quellen wie Suchmaschinen, Sozialen Netzwerken wie Twitter und Instagram gesammelt, Fotos und Videos werden verifiziert, Gesichter erkannt, Personen identifiziert, Satellitenbilder analysiert, und so Kriminalfälle gelöst, Kriegsverbrechen dokumentiert.
Simmler: Und das ohne technisches Wissen. Das zeigt auch Ihre Recherche sehr gut.
DNIP: Im Rahmen der Recherche wurde auch der Bildersuchdienst PimEyes genutzt. PimEyes wurde 2017 in Polen gegründet und im Dezember 2021 nach Dubai verlegt, angeblich wegen der günstigen Steuern in dem arabischen Emirat. Einige vermuten, dass dies geschah, um dem europäischen Datenschutz zu entgehen.
Simmler: PimEyes bietet einen Service zur automatisierten Gesichtserkennung an. Der Dienst durchsucht das Internet nach Bildern und vergleicht sie mit anderen Aufnahmen, wie etwa Fahndungsfotos. Solche Suchmaschinen können überall fündig werden, auch auf unbemerkt aufgenommenen Fotos. Die Anbieter kommen nicht aus Europa, und die Daten werden in unregulierte Drittstaaten geschickt. Sowohl für die Bearbeitung der hochgeladenen Fotos als auch für den biometrisch Abgleich ist eine Einwilligung erforderlich, die wohl fast immer fehlt. Denken Sie an Ihre Recherche. Oder an Fälle von Stalking. Haben Sie alle Personen, deren Fotos PimEyes zur Identifizierung von Daniela Kettele verwendet hat, um ihre Einwilligung gebeten? Ich habe PimEyes nicht erlaubt, alle meine Fotos zu scrapen.
DNIP: Haben Sie PimEyes ausprobiert?
Simmler: Ja.
DNIP: Was haben Sie gefunden?
Simmler: Ich habe Fotos von mir als Jugendliche bei Demonstrationen entdeckt. Es ist beunruhigend zu wissen, dass alles, was ich tue, für immer festgehalten wird. Das zu wissen, wird uns alle prägen und unsere Freiräume einschränken. Es scheint auch, dass man im Leben keine Fehler mehr machen darf. Es gibt kein Recht auf Vergessenwerden.
DNIP: Was darf der Staat? Was dürfen Laien?
Simmler: Der Staat braucht eine gesetzliche Grundlage, die derzeit fehlt. Für Laien gilt: Ohne Einwilligung dürfen solche biometrischen Vermessungstechnologien nicht eingesetzt werden. PimEyes greift in diese Rechte ein, weil Daten ins Ausland übermittelt und Personen biometrisch analysiert werden. Der Einsatz solcher Technologien bleibt daher problematisch.
DNIP: Kollidiert das Recht mit dem Alltag?
Simmler: Die Kluft zwischen Fähigkeiten und Befugnissen von Laien und dem, was die Polizei heutzutage darf, ist gross. Wir müssen entscheiden: Soll die Polizei alles dürfen? Oder sollen wir die Aktivitäten von Laien einschränken? Oder müssen wir differenzieren?
DNIP: Warum setzt die Polizei keine Gesichtserkennungssoftware ein?
Simmler: Einige Kantonspolizeien setzen sie offenbar ein, obwohl es dafür keine gesetzliche Grundlage gibt. Der Einsatz solcher Instrumente ist wegen des Schutzes der Grund- und Freiheitsrechte heikel, kann aber natürlich die Aufklärung von Straftaten erleichtern.
DNIP: Also keine Generalvollmacht aber auch kein grundsätzliches Verbot?
Simmler: In einer vernünftigen Abwägung zwischen Freiheit und Sicherheit, zwischen der Sorge vor einem Überwachungsstaat und der Notwendigkeit, Kriminelle zur Rechenschaft zu ziehen, muss eine Regelung für den Einsatz von Technologien zu polizeilichen Zwecken gefunden werden. Diese Regelung sollte darauf abzielen, den Einsatz, wenn überhaupt, nur bei schweren Straftaten zuzulassen. Zum Beispiel sollte Gesichtserkennungssoftware nicht eingesetzt werden, um Falschparker zu büssen. Allerdings kann ihr Einsatz gerechtfertigt sein, wenn es um Terrorismus geht. Es wird eine spezifische Regulierung geben, die den Umgang klar macht. Und das wird wahrscheinlich weder ein Verbot noch eine generelle Erlaubnis sein. Schon gar nicht, wenn gleichzeitig den Privaten so vieles erlaubt bleibt.
DNIP: Im Februar 2021 starteten Bürgerrechtlerinnen die europaweite Kampagne mit dem Namen Reclaim your Face. Sie fordern ein Verbot biometrischer Überwachungstechnologien.
Simmler: Jeder schwerwiegende Eingriff in die Grundrechte bedarf einer ausdrücklichen gesetzlichen Grundlage. Ohne diese ist der Einsatz solcher Technologien nicht zulässig. Wenn es keine gesetzliche Grundlage für biometrische Messungen wie die Gesichtserkennung im öffentlichen Raum durch den Staat gibt, dann ist das nicht erlaubt. Meines Erachtens gibt es derzeit bereits ein Verbot.
DNIP: Im Mai 2009 wurde über die Einführung elektronischer Pässe abgestimmt. Jeder Schweizer Pass enthielt bereits biometrische Daten wie Körpergrösse, Gesicht und neu auch Fingerabdrücke. Die Einführung des E-Passes wurde von verschiedenen politischen Parteien abgelehnt, darunter SVP, SP, Grüne, bürgerliche und links-grüne Jungparteien. Auch die Demokratischen Juristen und die Flüchtlingshilfsorganisation «Solidarité sans frontière» sprachen sich dagegen aus. Datenschutzbeauftragte waren ebenfalls dagegen.
Simmler: Die heftigen Diskussionen um den gläsernen Bürger und die Biometrie in der Schweiz zeigen, wie sensibel die Menschen in dieser Angelegenheit sind. Die eindeutige Identifikation durch biometrische Vermessung war früher sehr umstritten. Die Abstimmung über die Einführung im Pass fiel mit 50,1 Prozent sehr knapp aus. Heute, mit der Gesichtserkennung, hat sich die Aufregung etwas gelegt. Dennoch ist es nach wie vor notwendig, dass der Staat und private Unternehmen um Erlaubnis fragen, wenn sie biometrische Daten erfassen wollen. Der Staat fragt in einem demokratischen Prozess, während private Unternehmen dies oft im Zusammenhang mit Dienstleistungen tun, die ohnehin benötigt werden, wie zum Beispiel der Zugang zum Supermarkt. Dies kann als eine Art «Pseudo-Einwilligung» betrachtet werden.
DNIP: Die Europäische Union hat sich gerade auf Regeln für Künstliche Intelligenz geeinigt. Das KI-Gesetz, im Englischen «AI Act» genannt, erlaubt der Polizei künftig unter bestimmten Bedingungen den Einsatz automatisierter Gesichtserkennungstechnologie im öffentlichen Raum. Was bedeutet das Gesetzespaket für die Schweiz?
Simmler: In der Schweiz hat die demokratische Willensbildung dazu noch nicht stattgefunden. Unser Stil ist es, abzuwarten, zu beobachten und dann zu entscheiden. Aber die technologischen Entwicklungen überholen uns. Der «AI Act» regelt keine Angelegenheiten, bei denen wir mehrere Jahre Zeit haben.
DNIP: Haben wir Georg Orwells «1984» über die Dystopie der Massenüberwachung schon vergessen?
Simmler: Unsere Wahrnehmung dieser Technologien hat sich im Laufe der Zeit verändert. Früher hatten wir Angst, dass der Staat alle unsere Daten speichert und uns ständig überwacht. Heute sind wir daran gewöhnt, dass biometrische Messungen auf unseren Smartphones Standard sind, dass wir selbst im Internet nach Personen suchen können, dass wir selbst Fotos von unserem Mittagessen auf Instagram hochladen. Es hat einen gesellschaftlicher Wandel gegeben, bei dem es normal geworden ist, persönliche Informationen im Internet zu teilen. Dies zeigt, dass der Überwachungskapitalismus in den letzten zehn Jahren stark vorangeschritten ist. Die Auswirkungen dieser Entwicklung auf unsere persönliche Freiheit dürfen nicht unterschätzt werden.
DNIP: Frau Simmler, ich danke Ihnen für das Gespräch.
