Der Nationalrat will dem Nachrichtendienst erlauben, mittels KI Persönlichkeitsprofile zu erstellen. Kolumnist Reto Vogt sieht einen Fichenskandal 2.0 kommen.
Wenn es nach dem Nationalrat geht, erhält der Nachrichtendienst des Bundes (NDB) mehr Kompetenzen. Dazu gehört etwa, dass Überwachungsmassnahmen wie das Abhören von Telefongesprächen im Kampf gegen gewalttätigen Extremismus möglich werden. Ob das legitim ist oder nicht, möchte ich nicht bewerten, das steht mir nicht zu. Fakt ist: Die bürgerlichen Politiker:innen haben sich gegen die Ratslinke diesbezüglich durchgesetzt. Kollegin Adrienne Fichter hat bei der «Republik» bereits darüber berichtet.
Was ich mir zu beurteilen erlaube, ist Folgendes: Der NDB soll künftig mittels Künstlicher Intelligenz Persönlichkeitsprofile von «Gefährdern» erstellen dürfen. Dieses sogenannte Profiling bedeutet, dass KI-Systeme grosse Datenbestände wie Kommunikationsdaten, Bewegungsmuster, soziale Verbindungen oder Online-Verhalten miteinander verknüpfen und daraus Schlussfolgerungen ziehen, etwa: «Wer ist diese Person?» und «Was tut sie als Nächstes?»
Der KI-Einsatz macht Ermittlungsarbeit aber nicht per se effizienter oder führt zu besseren Ergebnissen. Profiling, das auf künstlicher Intelligenz basiert, ist etwas grundlegend anderes als menschliche Ermittlungsarbeit. Gerhard Andrey, Nationalrat von den Grünen, brachte es auf den Punkt: Hinter dem Begriff Profiling verberge sich ein fundamentaler Wandel weg von der Ermittlungslogik hin zu algorithmischer Vorhersage.
Muster statt Verdacht
Das trifft es präzise. Klassische Ermittlung beginnt bei einem Verdacht und sucht dann Belege. KI-Profiling dreht das um oder verschiebt mindestens den Fokus: Es durchsucht Datenbestände nach statistischen Mustern und leitet daraus einen möglichen Verdacht ab. Dabei können Fehler passieren: KI-Systeme diskriminieren entlang von Mustern, die in den Trainingsdaten stecken. Sie verwechseln Korrelation mit Kausalität. Sie schliessen von Verhalten auf Absicht.
Hinzu kommt ein weiteres, grundlegendes Problem: KI-Profiling ist nur so gut wie die Daten, auf denen es trainiert wurde. Wenn historische Ermittlungsdaten bestimmte Gruppen überproportional erfassen – was bei Strafverfolgungsdaten generell ein bekanntes Problem ist –, reproduziert und verstärkt das System diese Verzerrungen automatisch. Wer in der Vergangenheit häufiger überwacht wurde, könnte auch künftig häufiger ins Visier geraten. Das ist strukturelle Diskriminierung per Algorithmus.
Unsichtbar und unkontrollierbar
Ausserdem sind solche Systeme weitgehend intransparent. Weder Betroffene noch Kontrollinstanzen können nachvollziehen, wie ein Profil zustande gekommen ist, welche Daten eingeflossen sind und wo möglicherweise Fehler entstanden sind. Deshalb können ganz legale Tätigkeiten oder Aktivitäten in den Fokus des Nachrichtendienstes geraten. Nicht weil jemand etwas getan hat, sondern weil ein Algorithmus ein Muster erkannt hat.
Der Entscheid des Nationalrats ist noch nicht endgültig. Die Vorlage geht in den Ständerat. Dort liegt die Chance, die KI-Profiling-Bestimmung zu korrigieren oder an den Bundesrat zurückzuweisen. Auch weil die geplante Revision weitere Probleme schafft, die es zu verhindern gilt.
Die eigentliche Frage lautet nämlich nicht, ob KI-Profiling technisch möglich ist. Sondern welche Risiken ein Rechtsstaat bereit ist zu akzeptieren. Welche Fehlerquote akzeptiert der Staat bei einem solchen System? Wie viele Unschuldige dürfen im Raster landen, bevor der Nutzen die Kosten für den Rechtsstaat nicht mehr rechtfertigt? Diese Fragen sind ungeklärt. Die politische und gesellschaftliche Debatte darüber müsste geführt werden, bevor die Befugnisse ausgeweitet werden.
Ein weiteres Problem: Überwachungsbefugnisse, die für einen engen Zweck geschaffen werden, weiten sich historisch gesehen immer aus. Was heute nur für «Gefährder» gilt, gilt morgen für einen breiteren Kreis. KI verstärkt diesen Effekt.
Nichts links, sondern rechtsstaatlich
KI ist ein mächtiges Werkzeug. Gerade deshalb braucht es klare Grenzen, wenn der Staat es gegen die eigene Bevölkerung einsetzt. Transparenz, Nachvollziehbarkeit, Verhältnismässigkeit sollten nicht nur linke Forderungen sein. Ich halte das für rechtsstaatliche Grundprinzipien. Ich bin zu jung, um mich zu erinnern – aber die Schweiz hat Ähnliches schon einmal erlebt. Der Fichen-Skandal erschütterte das Vertrauen in die Behörden nachhaltig.
Der Fichenskandal wurde von Menschen angelegt. Der nächste könnte von Maschinen betrieben werden. Mit einer Geschwindigkeit und in einer Grössenordnung, die damals schlicht nicht möglich gewesen wären.
