DNIP Briefing #52: Datencenter im Weltall

Die Redaktion präsentiert jeden Dienstag die Geschichten, die sie bewegt, aufgerüttelt oder zum Nachdenken angeregt hat.

Sind die Behauptungen von Musk, Zuckerberg oder Altman, dass die künstliche Superintelligenz oder Artificial General Intelligence (AGI) bald bevorsteht, ein Hoax? Schon 2026 sei es soweit, sagen die Jungs aus dem Silicon Valley. Wir zweifeln daran und ein hervorragender Artikel von The Verge (Paywall) bestätigt das. Im Kern gehts um folgendes:

Der AGI-Hoax

Sprache ist nicht Denken. Kinder denken, bevor sie zu sprechen lernen. Dasselbe gilt selbstverständlich für (taub)stumme Menschen. Diese Trennung ist für die Debatte um AGI entscheidend, weil sie den aktuellen Hauptansatz der KI-Entwicklung fundamental in Frage stellt. Denn wenn Sprache und Denken nicht dasselbe sind, dann ist die Annahme falsch, man könne durch die Perfektionierung eines Sprachmodells eine denkende Maschine erschaffen.

Heutige Sprachmodelle können auf Basis riesiger Datenmengen brillant formulieren und Muster wiedergeben, aber sie verstehen nicht wirklich, was sie sagen. Sie haben kein inneres Weltmodell, kein Konzept von Ursache und Wirkung. Der Weg zu AGI kann demzufolge nicht einfach darin bestehen, immer grössere und bessere Sprachmodelle zu bauen. Solange kein grundlegend anderer Ansatz gewählt wird (von Musk, Zuckerberg, Altman & Co.) bleibt die AGI-Ansage ein Hoax, weil keine wirklich denkenden Maschinen entstehen können.

Attention Economy auf Kosten der Gesellschaft

Aktuell laufen verschiedene Gerichtsverfahren, bei denen OpenAI angeklagt ist, für den Suizid von Jugendlichen zumindest mitverantwortlich zu sein. Jan Böhmermann fasste am Freitagabend im ZDF Magazin Royale die Hintergründe als Unterhaltung zusammen: Die grossen Sprachmodelle hinter den Chatbots sind nicht auf Widerspruch, sondern auf Bestätigung trainiert. Auch, weil ihr Ziel sei, die Aufmerksamkeit der Nutzer möglichst lange auf sich zu ziehen. Als Folge würden sich beispielsweise suizidgefährdete Personen weiter von ihrem Umfeld entfernen, bestärkt durch die Bestätigungen der KI-Chatbots. OpenAI-Chef Sam Altman wird in der Sendung ab Minute 23:48 zitiert: «Menschen werden diese irgendwie problematischen, oder vielleicht sehr problematischen, parasozialen Beziehungen entwickeln. Die Gesellschaft wird neue Leitplanken dafür finden müssen.» Das heisst, im Wettkampf der Plattformen ist OpenAI nur daran interessiert, diese Aufmerksamkeit (und die Daten) der Nutzer:innen zu bekommen; die Risiken soll bitte die Gesellschaft tragen.

Übrigens: Mit einer zufälligen Person zu sprechen, macht uns in den allermeisten Fälle glücklicher. Es muss also nicht immer ein Chatbot sein. Und bei schwierigen Problemen gibt es in der Schweiz und Liechtenstein Anlaufstellen wie beispielsweise die Dargebotene Hand.

KI-Videos auf Kosten des Planeten

Sora 2, der Videogenerator von Sam Altmans OpenAI, generiert laut Analystenschätzungen täglich über 11 Millionen Videos, was OpenAI alleine einen Verlust von über 15 Millionen Dollar am Tag(!) oder 5 Milliarden Dollar im Jahr einfährt, wie Alistair Alexander zusammenfasst. Dafür muss dauernd ein halbes Atomkraftwerk (408 MW) herhalten. Die riesigen Mengen an Kühlwasser noch nicht eingerechnet. Oder wahrscheinlich eher ein paar der rasch neu gebauten Gaskraftwerke oder hastig umgerüsteten Flugzeugtriebwerke, die für diesen Anwendungsfall wenig effizient sind, aber sofort zur Verfügung stehen.

Schätzungen der Financial Times zufolge muss OpenAI zur Deckung von diesen Verlusten in den nächsten 5 Jahren über 200 Milliarden Dollar finden. Und wird dann immer noch nicht profitabel sein.

Werbeeinnahmen sollen es richten

Über die Schwierigkeiten der KI-Branche, die bei Training und Nutzung anfallenden Kosten zu decken, haben wir schon mehrfach berichtet. Bei herkömmlichen Innovationen konnten sich Unternehmen darauf verlassen, dass die Stück- oder Transaktionskosten mit fortschreitender Entwicklung sinken und Unternehmen so in die Gewinnzone führen. Demgegenüber sind bei KI-Bots etc. die Kosten der einzelnen Abfragen nicht nur höher als die Abo-Gebühren der Nutzer, sie steigen mit jeder Modell-Generation sogar noch weiter an. Kein Wunder, dass OpenAI & Co über weitere Finanzierungsmodelle nachdenken, nicht ganz überraschend geht es dabei vor allem um Werbung.

Warum auch nicht? Schliesslich teilen Millionen von Menschen seit unterdessen mehreren Jahren intime Geheimnisse mit Chatbots, vertrauen ihnen Dinge an welche nicht mal ihre engsten Freunde wissen, und generieren so eine Datenspur, welche in diesem Ausmass nicht einmal Google kennt. Da dürfte das Schalten von äusserst zielgerichteter Werbung durchaus lukrativ sein, und dazu beitragen, das Finanzloch etwas zu stopfen. Ob es reicht, um die 100 Milliarden Dollar zusammenzubringen, mit welchen OpenAI bei seinen Partnern momentan verschuldet ist, wird die Zukunft weisen.

Das Web wieder für Menschen

In der NZZ am Sonntag hat Sylke Gruhnwald die (Auto-)Biographie des Web-Erfinders Tim Berners-Lee rezensiert, «This Is for Everyone». Ihm liegt am Herzen, dass seine Schöpfung nicht nur die Macht der Grosskonzerne fördert, sondern dass – u.a. mit seinem Projekt Solid (Social Linked Data) – die Nutzer die Kontrolle über ihre Daten zurückerhalten.

Der Technikpionier ruft die Lesenden dazu auf, sich eine Welt vorzustellen, in welcher der Computer nicht mehr versucht, uns abzulenken, sondern tatsächlich das tut, was wir von ihm wollen. Eine Welt, in der Technologie dem Menschen dient. Nicht umgekehrt. Oder, wie bei den Olympischen Sommerspielen 2012 in London, als Tim Berners-Lee das Stadion mit dem Schriftzug illuminierte: «This is for everyone».

Im New Yorker findet sich ein längeres Interview mit Tim Berners-Lee, in dem er seine Hoffnungen und Pläne eingehender erläutert.

KI im Weltraum

Immer mal wieder kommen kuriose Ideen auf. So haben KI-Bosse vor kurzem verkündet, dass sie planen würden, zukünftig KI-Rechenzentren im Weltall zu bauen. SRF hatte darüber berichtet und Reto gab in jenem Beitrag seinen Senf dazu.

Wieso aber die Weltraum-Geschichte gar nicht so einfach ist, hat eine erfahrene Person aus der Weltraumelektronik aufgeschrieben: So ist sowohl Energiebeschaffung als auch Kühlung schwierig, insbesondere letzteres noch viel schwieriger auf der Erde. Dazu kommen verschiedene Formen der kosmischen Strahlung, die sich negativ auf die Elektronik auswirken. Nur alleine für Sora 2 oben wären wahrscheinlich tausende solcher Satelliten mit jeweils mehreren fussballfeldgrossen Photovoltaik-Segen und Kühlelementen notwendig; jede grösser als die ISS, die man am Abendhimmel mit nacktem Auge sehen kann.

Im obigen Artikel noch nicht berücksichtigt sind mindestens folgende zwei Aspekte:

1. Die ganze Rechnerhardware, die teuer in den Weltraum geschossen wird, ist spätestens in 2-3 Jahren veraltet und benötigt eine neue Ladung Hardwarenachschub, ebenfalls wieder teuer.
2. Einige dieser Satelliten inklusive ihrer riesigen Energie- und Abwärmesegel werden wahrscheinlich auch auf die Erde fallen. Und dann heisst es, «Kopf einziehen!»

Wahrscheinlich ist einer der Gründe für diese absurden Ideen, der Wunsch, den irdischen Regulierungen rund um Umweltschutz, Energiebedarf etc. zu entkommen. Also die bereits bekannte Tech-Milliardärssicht.

Und schliesslich:

• Wer seine Stimme in Instagram freigeben will, damit andere User diese für deren Videos nutzen können, kann das jetzt tun. In Europa ist die Einstellung noch nicht per Default aktiv. Aber vielleicht wird sich das ja mal ändern.
• Zu reden gab diese Woche ein Artikel der Kollegen von Heise, die aus der Medienmitteilung von Privatim, der Konferenz der schweizerischen Datenschutzbeauftragten, zuerst folgende Schlagzeile zimmerten: «Schweiz: Datenschützer verhängen breites Cloud-Verbot für Behörden». Nach mehreren Hinweisen, wie falsch die Schlagzeile ist, ersetzten sie das Verb «verhängen» durch «empfehlen». Aber da war der Schaden schon angerichtet und das halbe Interwebz in Deutschland glaubt nun, die Schweiz habe amerikanische Clouds verboten. Tja, schön wärs.