Es war eine Meldung, wie sie 100-fach in Postfächern landet und mit 90%-iger Wahrscheinlichkeit von den meisten gleich gelöscht wird: “Enigma stellt AI-Driven Marketing Solutions Service vor, der die Content-Erstellung revolutionieren soll”, hiess eine Email, die bei mir im April 2023 hereinflatterte.
Vielleicht hab ich dem Thema nicht die ihr gebührende Aufmerksamkeit geschenkt. Fünf Monate später jedenfalls bastelte die “NZZ am Sonntag” einen Artikel aus der Meldung. Mit einer smarten Erzähl-Idee: eine Geschichte rund um eine fiktive Partei Zukunftspartei- made by Artificial Intelligence.
“Für diesen Versuch hat die «NZZ am Sonntag» eine fiktive politische Bewegung erfunden. Sie heisst «Zukunftspartei» und setzt auf Digitalisierung, Klimaschutz, Familien und soziale Marktwirtschaft. Diese wenigen Eigenschaften tippen wir in das Eingabefeld und klicken dann auf den «Generate»-Button.
Was die künstliche Intelligenz nun macht, hat das Zeug, die Kampagnenarbeit in Bundesbern auf den Kopf zu stellen. In wenigen Sekunden generiert das von der Werbeagentur Enigma entwickelte Tool ein ganzes Kommunikationskonzept. «Mach die Zukunft zur Gegenwart», will die künstliche Intelligenz die neue Partei bewerben. Sie textet Slogans, macht Vorschläge für Newsletter, Blog-Beiträge und einen Werbefilm.“
NZZ am Sonntag-Artikel vom 17. September, Titel “Algorithmen texten Slogans für Schweizer Politiker”
Im Artikel weist der Journalist ausgewogen auf die Chancen aber eben auch auf die Gefahren von KI hingewiesen. Mit dem Tool kann eine ganze Fake-Kampagne durcherzählt werden kann, ohne das irgendetwas davon reell existiert, weder die Partei noch ihr Programm. Angereichert wurde der Text noch mit politischen Pro- und Contra-Stimmen für die Regulierung von Künstlicher Intelligenz.
Umstrittene Aussagen in Handelszeitung-Interview 2018
Kurz darauf verschickte am Montag die Firma die Nachricht dass das Tool Ai.enigma.swiss öffentlich verfügbar ist. Und in der Tat: Das Tool kann von A bis Z alle möglichen Kampagenformen durchtexten. Social Media-Postings, Google Ads etc, alles optimiert auf die Anforderungen von Google etc. Für Marketing- und Social Media-Verantwortliche wird es definitiv einen Mehrwert generieren, unterhaltsame Spielerei ist garantiert.
Bloss weshalb hat sich die “NZZ am Sonntag” die Firma nicht etwas genauer angeschaut und etwas Kontext geliefert?
Der Geschäftspartner von Enigma, Martin Künzi, ist kein Unbekannter. Seit dem Cambridge Analytica-Skandal 2018 setzt er seine Agentur als “Schweizer Äquivalent” der britischen Datenfirma gekonnt in Szene und verspricht goldene Datenbanken für das genaue Zuschneiden von Wahlkampagnen. Zu seinen Kunden gehört offenbar die Partei “En Marche” des französischen Präsidenten Emmanuel Macron.
Natürlich warnt Künzi – wie es sich für einen tugendhaften AI-Unternehmer mittlerweile gehört- reflexartig vor den Risiken dieser Technologie (mit der er eben auch Geld verdient) und hofft, dass sein Tool nicht “in falsche Hände” gerate, wie er auch im Artikel der NZZ am Sonntag zitiert wird.
(Hierzu ein kleiner Seitenhieb und Schwenker: Stanford-Wissenschaftler Michael Kosinki machte eine ähnliche Aussage als er damals vor einigen Jahren an einem Machine Learning-Algorithmus tüftelte, der anhand von Gesichtsvermessung die sexuelle Orientierung herausfinden soll. Sinngemäss: Ich darf das machen – die Anderen sind die Bösen.)
Künzis Verhältnis zum Thema Datenschutz ist seit jeher etwas problematisch und vor allem ambivalent und etwas heuchlerisch. Ein Check der Mediendatenbank oder eine Suchmaschinenabfrage hätte da sicher weitergeholfen für die Recherche.
Zum Beispiel wären seine interessanten Aussagen aus einem Interview mit der Handelszeitung betrachtenswert gewesen:
“Andere Bots bedienen sich der frei zugänglichen Schnittstellen bei Social Media und gewähren den Zugriff auf Daten. Wir setzen Crawler ein, um Inhalte von Google oder anderen Medien zu extrahieren. Und wir sind in der Lage, Inhalte gezielt an empfängliches Publikum zu verbreiten. Aus dem Klickverhalten können wir feststellen, ob jemand dem «Nein»-Lager angehört und können die Wähler – je nach Auftrag – in ihrer Meinung bestärken oder mit Argumenten dagegen wirken.”
Martin Künzi, Enigma-Inhaber in einem Interview von März 2018
Soso, die Firma setzt – auf welcher legalen Basis auch immer- Crawler ein, zapft Schnittstellen von sozialen Netzwerken an, um eine Datenbank über die politischen Interessen von uns Schweizerinnen und Schweizern zu erstellen. Zweiter Gedanke: Warum macht Enigma auf ai.enigma.swiss nicht transparent, auf welchem Sprachmodell die KI trainiert wurde? Inwiefern unterscheidet sich Enigma also genau von den AI-Crawlern, die alle Inhalte von Webseiten schürfen und damit ihre Intelligenzen trainieren? Was genau die sind die Datenquellen und “Rohstoffe” des Tools?
Abgesehen davon dass es für seine im damaligen Handelszeitung-Interview (2018) postulierte These der Beeinflussung via Facebook-Werbung meiner Meinung nach immer noch keine politikwissenschaftlich stichhaltigen Belege gibt: den Eidgenössischen Datenschutzbeauftragten dürften solche Datensaug-Praktiken interessieren, er hat gemeinsam mit neun Datenschutzbehörden vor einem Monat eine Erklärung zum Thema Data Scraping abgegeben. Kurz zusammengefasst: der EDÖB findet das keine gute Sache.
“Social Media Unternehmen und andere Webseitenbetreiber sind gehalten, aktiv darüber zu informieren, wie sie ihre Kundschaft gegen Data Scraping schützen und mit welchen Massnahmen Letztere zum Schutz ihrer Daten beitragen kann. “
Gemeinsame Erklärung zu «Data Scraping» und Datenschutz
Facebook-Retargeting bei politischen Kampagnen
Bei der JA-Kampagne für die Sozialdetektive hatte Enigma (im Auftrag der CVP, heute: die Mitte) ein Mandat. Wer die Webseite besuchte, übermittelte – ohne es zu wissen, deklariert waren diese Tracking-Pixel nirgendwo- seinen Webseitenbesuch an Facebook, das Netzwerk ordnet dank der gesetzten Cookies gleich zur richtigen Facebook-ID zu, und prompt erschien auf Facebook die Werbekampagne bei der Person, die sich vorher auf der Abstimmungsseite erkundigen wollte. Alles ohne Wissen und Zustimmung der Webseiten-Besucherin, die nicht einmal ein Opt-Out vornehmen konnte. Fairerweise muss man dazu sagen, dass von links bis recht viele Parteien und Komitees davon Gebrauch machten, wie etwa hier bei der SP und hier bei der Kampagne gegen das Glücksspielgesetz.
Wir kennen das Phänomen aus eCommerce-Werbekampagnen: Ein Produkt beim Online-Detailhandel angeschaut, verfolgt es uns auf allen Webseiten, egal ob soziales Netzwerk oder Magazin. Doch im Fall von politischen Kampagnen ist die Sache heikler: denn die politische Meinung gilt als schützenswerte oersonenbezogene Information.
Obwohl Enigma-Gründer Künzi im Handelszeitung-Interview die mangelnde Regulierung von Datenschutz lauthals beklagt (Zitat: “Die gesetzlichen Regulierungen über Datenschutz kommen zu spät.”), betrieb die Agentur früher keine gesetzeskonformen Kampagnen (und das selbst bei den damals noch geltenden laschen Regeln des alten Datenschutzgesetzes von 1992).
Gleichzeitig beansprucht Herr Künzi jedoch dass alle Inhalte auf den Plattformen frei verfügbares Gut für alle sind.
“Ich verstehe nicht, warum die Leute wütend werden, wenn wir unseren Job machen. Wir nutzen frei verfügbare Tools mit frei zugänglichen Daten. Was ist daran falsch? Es ist jeder freiwillig auf Facebook, oder?“
Handelszeitung-Interview mit Martin Künzi, Geschäftspartner von Enigma
Nun wäre die Frage was “frei zugänglich” bedeutet. Ein Profil kann auf privat geschaltet werden, dennoch fliessen Likes, Interaktionen, Aktivitäten über die Schnittstellen an die Drittanbieter-Apps raus. Herr Künzi macht es sich also mit seiner Erklärung etwas zu einfach.
Denn normalerweise geht eine Facebook-Nutzerin davon aus, dass bei Zustimmung von “Terms and Conditions” bei Erstellung eines Profils ihre Daten innerhalb der Plattform verbleiben und dort ausgewertet werden. Und nicht dass es zu einem massenhaften Datenabfluss in private Hände kommt. Facebook musste dieser Praxis nach dem Cambridge Analytica-Skandal einen Riegel schieben und strengere Vorschriften zur Nutzung der API setzen.
Fazit: Künzi ist der Sam Altman der Schweiz
Kontextinformationen zu Herr Künzi, der sich als der Sam Altman (Gründer von OpenAI, dem Unternehmen das ChatGPT betreibt) der Schweiz geriert, wären also doch nützlich gewesen für die NZZ am Sonntag-Leserschaft, um zu erfahren dass es sich hierbei um jemanden handelt, der sich bewusst in einer Doppelrolle inszeniert: als Warner und Enabler von KI-Kreierten Kampagnen und datenbasierten Werbekampagnen. Noch ein Zitat aus dem NZZ am Sonntag-Artikel: «Will die Politik mitgestalten, muss sie einen Zacken zulegen. Sonst leben wir unter dem Diktat der Tech-Giganten.»
Denn wie der Gründer von OpenAI weist Künzi in vorauseilendem Gehorsam auf die Gefahren seiner Technik hin (mit den typisch defätistischen Worten der Longtermism-Schule der Silicon Valley Tech Bros: “Wir können den Prozess nicht stoppen. Aber wir können ihn steuern.”)
…. nur um sie dann allen Parteien und Politiker:innen erfolgreich zu verkaufen.
2 Antworten
Wenn ich das richtig verstehe, kann man KI mit allen Daten der Erdbeben von den letzten 100 Jahren füttern und dann eine zuverlässige Prognose stellen. Das gleiche gilt auch für das Wetter. Das wäre natürlich einen Segen für die Menschheit.
Es ist richtig hier einen kritischen Blick auf Herrn Künzi zu werfen und die Arbeitweise, wie ein solches Kampagnenmanagement funktioniert, transparenter offenzulegen.
Gleichwohl ist es für einen Webseitenbetreiber (gleich welcher Art, ob als Social Media Platform oder Forumsbetreiber) nicht in allen Facetten abzusehen, wie die öffentlich zugänglichen Daten verwendet werden. Zugreifbar (auch per Crawler) sind sie allemal, da sie ja öffentlich im Netz stehen (auch eine kostenlose Anmeldung ändert nichts an der Tatsache).
Gerade bei Facebook sollte der gemeine Nutzer Vorsicht walten lassen (und es bei Bedarf eben nicht nutzen). Das zeigt die Geschichte, wie u.a. durch den Camebridge Analytica Skandal, der im Artikel angeschnitten wird, zeigt. Facebook und Konsorten betreiben eine “kostenlose” Plattform, wo sich die Leute vernetzen und publizieren können. Bezahlt wird mit den persönlichen Daten der Nutzer, darunter auch das Klickverhalten, was Interessen offenbart. There is no such thing as free lunch.