Vor einer Woche war ich beim SRF Club eingeladen. Das Thema hiess: “Hate Speech” als Geschäftsmodell von Big Tech.
Als ich die Einladung dazu vom Produzenten erhielt, ging es in unserem Vorgespräch zuerst um die Enthüllung der Whistleblowerin Frances Haugen. Dabei war ich erst etwas skeptisch: Was ist hier die News? Ist es nicht “more of the same”? Befinden wir uns nicht im ewig selben Film? Oder wie es der Schriftsteller und ebenfalls Club-Gast Lukas Bärfuss treffend ausgedrückt hat: in einer “never ending Story”? Waren diese Enthüllungen – Facebook habe nun auch selber rausgefunden, dass seine Plattformen toxische Inhalte und Desinformation befördern- wirklich überraschend? Waren sie nicht einmal mehr das Drehbuch des Films “Groundhog Day”?
Alle Antworten: Ja. Und trotzdem müssen sie diskutiert werden.
Die #FacebookFiles sind vor allem zum einen Vergangenheitsbewältigung, zum anderen helfen sie uns obskuren Maschinen zu knacken. Deshalb ist wohl wieder an der Zeit ein Wrap-Up niederzuschreiben zum Thema Facebook.
Zuerst einmal: die #FacebookFiles von Frances Haugen zeigen Auswüchse und Konsequenzen von Konzernentscheidungen auf, die schon vor langer Zeit in den 2010er Jahren gefällt worden sind. Alles was das Geschäftsmodell gefährdet, wird ignoriert, abgestraft oder kleingeredet.
Was wir auch schon seit Langem wissen: Polarisierende Algorithmen strukturieren unseren Informationsfluss auf den Facebook-Plattformen. Polarisierung ist dabei kein Selbstzweck sondern eine logische Folge des Designs. Denn die Algorithmen sind zwar nicht spezifisch auf Hass oder Desinformation als Zielwert getrimmt, sondern lernen anhand von Metadaten. Alles was viele Reaktionen auslöst, ist “meaningful”, um im Zuckerberg’schen Jargon zu verbleiben. Relevanter Content. Nach 4 Jahren Trump-Ära wissen wir auch: Es ist Voyeurismus, Hass, Hetze und Desinformation, die uns auf der Plattform (unter-)halten. Und nur die Verweildauer und unsere Interaktionen alleine zählen da als Metrik. Ob es sich um Katzenvideos, Qualitätsjournalismus, Alt Right-Memes handelt, ist zweitrangig. Nur dann werden genügend Daten abgesaugt und nur dann sprudeln die Werbeeinnahmen. Facebook ignorierte die interne Studie dazu, die aufzeigt, welchen Schaden Instagram bei weiblichen Jugendlichen auslösen kann. Haugens Material zeigte also: more of the same.
Nun schreien Demokraten und Republikanerinnen wie auch europäische Politiker immer mehr nach Regulierung. Aus gutem Grund: Denn wenn nach Jahren öffentlichen Drucks Facebook & CO eigenmächtig handeln und durchgreifen, gibt es oft Kollateralschäden. Weil ihre KI nicht erkannt hat, dass man sich satirisch lustig macht über Coronaschwurbler*innen und man plötzlich verbannt wird. Oder ihre Content Moderatorinnen burmesische Dialekte nicht erkennen.
“Internal company documents from Haugen show that in some of the world’s most volatile regions hate speech proliferate because the company remains short on moderators who speak local languages & understand cultural contexts.”
APNews zu den Facebook-Papers, 25.10.2021
Auch verhalten sich Big Tech Konzerne höchst opportunistisch: Erst als sie in den letzten Amtstagen Trumps im Januar 2021 nichts mehr zu befürchten haben, löschten sie die Benutzerkonten des hetzenden US Präsidenten Donald Trump samt seiner herangezüchteten Hass-Entourage (man hätte ja auch einfach NUR die Community-Richtlinien durchsetzen können. Diese besagen dass Aufrufe zur Gewalt und Falschinformationen rund um die Wahl verboten sind. Eine Löschung jener Tweets wäre eine Alternative gewesen als die Verbannung aller Accounts).
In Europa hat man mit dem “Digital Market Act” (DMA) und “Digital Services Act” (DSA) – noch in Beratung bis Ende Jahr- einen möglichen rechtsstaatlichen Weg gefunden, um das Hate Speech-Problem in den Griff zu kriegen. Dabei sollen Lösch- und Moderationsentscheidungen durch die Konzerne nachvollziehbar sein, Userinnen haben dann auch einen Beschwerdeweg innerhalb ihres EU-Landes (und nicht irgendwo in Irland), sie erhalten Transparenz über Algorithmen und die Möglichkeit, diese Personalisierung (also das Kernstück der Newsfeed-Algorithmen) zu deaktivieren, kurz: der DSA soll dem User mehr Entscheidungskompetenz und Autonomie einräumen und ihn auch zum kritischen Umgang erziehen. (mehr dazu hab ich hier aufgeschrieben)
Im besten Fall hätte das zur Folge, dass das Facebook Management -intrinsisch motiviert – ihr Geschäftsmodell überdenken würde. Indem man vielleicht die Mitgliedschaft mit einem Franken pro Jahr kostenpflichtig macht- im Gegensatz dazu wären sie verpflichtet, weniger Daten abzusaugen und auszuwerten. Und vielleicht Algorithmen dahingehend optimiert, vielseitigere Inhalte anzuzeigen.
Darüber hinaus wird der DSA Big Tech zu Transparenz und externer Forschungskooperation zwingen. Beides mag Facebook nicht so sehr, weswegen Universitäten und Zivilgesellschaft regelmässig gezwungen sind, “reverse engineering” zu betreiben. Das bedeutet: mittels kleiner Programme wie Browser-Addons und vieler freiwilliger Teilnehmerinnen, die ihre Newsfeeds als Daten “spenden”- versuchen die AkademikerInnen zu rekonstruieren, was in der “Black Box” Facebook intern abläuft (jüngst kappte Facebook den Zugang für ein Forschungsprojekt von AlgorithmWatch, die Organisation wollte dabei die ausgespielten Inhalte auf Instagram untersuchen rund um die Bundestagswahl).
Für die Schweiz wäre eine EU-konforme Adaption des DSA hilfreich (und keine nationalen Alleingänge, wie das erst Bärfuss aus staatspolitischer Sicht forderte in der Clubdebatte). Im Bildungsbereich haben wir das bereits erreicht: Schweizer Schulen haben Rahmenverträge mit Google und Microsoft. Das bedeutet dass die Eltern hier in der Schweiz vor einem Schweizer Gericht klagen könnten und Schweizer Datenschutzrecht sowie Schweizer Haftungsregeln in erster Linie gelten. (Zugegeben, eine Klage wäre damit immer noch Herkulesaufgabe, denn welche Elternorganisationen haben die Ressourcen gegen Googles JuristInnen vorzugehen?) Darüber hinaus bräuchte es – wie es der DSA fordert- klare Gremien von staatlicher Seite die den Konzernen Vorgaben machen -basierend auf Schweizer Gesetzen- welche Beiträge zu moderieren sind. Denn ansonsten übernimmt das FB & Co in Eigenregie, beziehungsweise sie sind quasi durch den öffentlichen Druck dazu gezwungen, zu handeln. Und das missratene Netzwerkdurchsetzungsgesetz in Deutschland zeigt, wie die Konzerne handeln, wenn ihnen hohe Bussen drohen: im Zweifelsfall lieber schnell löschen.
Das Thema Hassrede- sowie auch der Titel der Club-Sendung- ist meiner Meinung nach sehr wichtig, doch eben auch Symptombekämpfung von einem tiefergehenden Problem. Wir müssen im Diskurs endlich einen Schritt weiterkommen und die grösseren Zusammenhänge diskutieren.
Haugens Enthüllungen sowie auch schon Sophie Zangs Whistleblowing (welches weitaus weniger Aufmerksamkeit erhielt, weil es eben nicht um den Westen ging), ein Jahr zuvor, zeigen eine weitere Dimension auf: die Rolle von Facebook als Infrastruktur-Unternehmen. Denn jenseits des westlichen Hate Speech-Diskurses sehen wir im Osten und im Süden, welchen gesellschaftlichen Schaden Zuckerbergs Monster-Imperium errichtete. Die UNO redet ja sogar von einem Werkzeug zum Genozid.
Eine die das bereits früh erkannt hat, ist die jüngst gekürte Co-Friedensnobelpreisträgerin philippinische Medienmacherin Maria Ressa. Sie klopfte vor Jahren in Washington an. Ihre Warnung: Der Präsident Duterte zerstöre ihr Land mit Facebooks “Hilfe”, Troll-Armeen bekämpfen Ressas unabhängiges Magazin Rappler, in welchem sie über Dutertes korruptem Machtapparat und seinen Drogenkrieg kritisch berichtete. Sie fand damals kaum Gehör in den USA. Niemand interessierte sich für die Anliegen der mutigen Journalistin. Jahre zuvor hofierte Duterte die Facebook-Delegation, die dem autoritären Machthaber Internet-Infrastruktur quasi gratis aufbaute. Dasselbe gilt auch für Myanmar, Sri Lanka und weitere Staaten. Dort bedeutet nämlich “Facebook=Internet”, der Konzern ist ein Synonym für das World Wide Web.
Seit der 2013 vom Konzern lancierten Initiative internet.org ist für die Einwohnerinnen die einzige Startseite des Internets, die sie kennen: facebook.com. Innerhalb dieser Plattfom ist das Netz gratis nutzbar, sprich: man bewegt sich NUR innerhalb von Facebook und Whatsapp. Externe Links sind aber kaum anklickbar, weil sie auch das Nutzen von kostenpflichtige Datenpaketen voraussetzen- was sich nur wenige leisten können. Sprich: Vorschau, Teaser-Bilder und Texte oder auch Anrisstexte sind die einzigen Informationen zu einem Thema.
Haugen erklärte in einem “60 Minutes”-Interview, welche Tragikomik diese digitale Expansion nach sich zog. Jedes Mal wenn Facebook ein neues Land “eroberte”, wusste das “Civic Integrity”-Team bereits dass sie in zwei Jahren wieder die daraus resultierenden Schäden eindämmen “dürfen”. Facebook bietet in jenen Regionen die Plattform an, aber kennt die Dialekte nicht, in den gepostet, debattiert und gehasst wird. Und zeigt sich dann jeweils schockiert über das Ausmass der Hass-Buddhisten die gegen die muslimische Minderheit Rohingya – angetrieben vom Newsfeed-Algorithmmus- hetzten.
Dass haben sich wohl die weissen, pazifistischen Programmierer im Silicon Valley wohl nicht träumen lassen, was “Connecting the world” auslösen kann. Und dennoch: Das Rezept dagegen ist bisher Pflästerchenpolitik, man schräubelt am Algo hier und dort, aber sicher nicht an der renditeträchtigen Hauptvariable, dem “Engagement”.
Nur Indien stoppte diese digitale Kolonialisierung mit einem Gerichtsbeschluss (und stellte damit die Netzneutralität her). Facebook verfügt wie Google ausserdem über fast 100’000 Kilometer von Unterseekabeln und wird bald ein neues 44’000 Kilometer langes Netz in Afrika (2Africa) in Betrieb nehmen, um sämtliche Staaten mit Meeranschluss zu erschliessen. Diese Ausweitung des Imperiums der Big Tech-Konzerne in eine Domäne der staatlichen Telekomunternehmen ist kaum Thema in der medialen und politischen Agenda. Und zeugt daher von einem Versagen vieler internationaler Institutionen.
Dass Facebook, Amazon und Google bisher nur minimal reguliert worden ist, ist aber nicht alleine der Politik anzulasten. Es hat auch mit der historisch absolut neuen Situation in der Wirtschaftsgeschichte zu tun. Wir haben es mit unendlich mächtigen Tech-Monopolen zu tun. Und das Schlimmste dabei? Es tut uns gar nicht weh! Denn sie kosten uns vermeintlich nichts (ausser eben dem absoluten Verlust unserer digitalen Selbstbestimmung und Privatsphäre). Die Netzwerkeffekte sind auf dem ersten Blick positiv: je mehr Daten über mich gesammelt werden, je mehr Leute sich auf dem gleichen Platz tummeln, desto “relevantere” und personalisiertere Angebote erhalte ich dafür. Desto mehr: Fun! Kurzfristig gesehen.
Langfristig zahlen wir jedoch. Nicht nicht nur mit dem Verlust der Privatsphäre, sondern indem eine dubiose (dumme) Machine Learning-getriebene KI aufgebaut wird, die irgendwelche Werte berechnet und Voraussagen macht und im schlimmsten Fall Entscheidungen trifft, die vielleicht überhaupt keinen Sinn machen, aber für mich bindend sein könnten. Und: mit Desinformation und Hass als “Nebenwirkungen”.
Wenn also die Regulierung wirkmächtige Hebel ansetzen sollte, dann bei der Grösse des Markts. Und hier kommt der europäische “Digital Market Act” zum Tragen, der die Zukäufe in der Tech-Industrie kritischer unter die Lupe nehmen wird. Den Kauf von Whatsapp und Instagram durchzuwinken war im Nachhinein ein grosser Fehler der Federal Trade Commission FTC, hierzu sind sich unterschiedliche politische Lager immer mehr einig. Und hier werden die Vorhaben in den USA und EU ansetzen und greifen müssen. Akquisitionen, die die Monopole noch mehr festigen, sollen möglich verhindert werden, vor allem das Vordringen in neue Branchen wie Gesundheit oder digitale Währungen (Libra, äh, Diem anyone?). Nur damit kann verhindert werden, dass Big Tech hoheitliche staatliche Aufgaben übernimmt wie das bereits in Asien, Südamerika und Afrika immer mehr der Fall ist.
Die USA bringt mit der Federführung der Demokratin Amy Klobuchar ein paar wegweisende Gesetzesprojekte auf den Weg für mehr Wettbewerb und Datenschutz gegen diskriminierende Algorithmen wie etwa dem “Platform Competition and Opportunity Act” (dazu bald mehr an anderer Stelle).
Fazit: Die Politik soll nicht nur die Vergangenheit aufarbeiten (Haugen tourt nun durch die europäischen nationalstaatlichen Parlamente in Paris, Berlin etc. Wäre ich Schweizer Nationalrätin würde ich sie auch hierher einladen, um mehr über die Black Box Facebook zu erfahren) und etwas mehr in die Zukunft blicken. Ich habe den Eindruck dass die wichtigen Enthüllungen von Haugen, sowie der FB-Ausfall wegen BGP-Routing-Probleme vor ein paar Wochen uns von einem anderen Thema ablenken sollen: der Ankündigung von Zuckerbergs (Buben-)Traum, dem Metaverse, in welchem wir mit Datenbrillen durch die Gegend laufen und unsere Realität mit smarten Anwendungen erweitern, oder Konferenzen auf einer virtuellen einsamen Insel führen. Doch das ist fast ein weiterer Text wert. Zuerst folgt hier noch ein Wrap-Up zu den neuesten Enthüllungen rund um die Kartellabsprachen und Marktmanipulation von Google und Facebook in der Online-Werbeindustrie von Patrick. Stay tuned!
