Danke für die umfangreiche Einordnung zum Stromverbrauch, sma!
Das ist tatsächlich in der Liga, wo es stromsparend ist, das LLM Standardkram machen zu lassen.
Ich denke trotzdem, dass das Problem der schnellen Skalierung dann etwas mit den Preismodellen und der Verfügbarkeit zu tun. Also nicht nur Strom, auch Chips, klar.
Gerne.
Ein wesentlicher Punkt in meiner Abschätzung: Ältere Hardware ist um eine Größenordnung schlechter. Ich hatte gelesen, dass GB200 etwa 25x so effektiv ist wie H100, bei "nur" doppeltem Preis. Und nicht jeder darf diese neuen Chips besitzen. China muss mit der Resterampe (H20 als abgespeckte H200-Export-Variante) Vorlieb nehmen oder über Indien geschmuggelte Systeme nutzen.
(Das ist übrigens ein Cyberpunk/NearFuture-Szenario, das zu wenige auf dem Schirm haben: Schmuggel von Rechenzentrumskomponenten: Schafft einen Container im Wert von $100 Mio von A nach B und lasst euch nicht von der Konzernpolizei erwischen, die wiederum aber auch die teure Hardware nicht zerstören will. Oder genau anders herum: Beschafft den Container.)
China versucht daher auch selbst Chips herzustellen, liegt aber noch mindestens 5 Jahre hinter Nvidia. Inzwischen erlaubt Trump auch wieder H200-Chips (immer noch eine Generation hinter B200), aber nun will China nicht mehr, weil sich die Regierung nicht von US-Chips abhängig machen wollen. Daher braucht China um so mehr Taiwan – natürlich mit intakten Werken – weil TSCM der weltweit einzige Hersteller für diese Superchips ist. Die USA haben zwar TSMC auch "überredet", in den USA ein Werk zu bauen (Samsung als zweiter großer Player hat auch eines) aber noch können sie trotz aller Anstrengungen (sie importieren z.B. das Wasser) dort nicht fertigen. Wo ich mir natürlich auch vorstellen kann, dass Taiwan gar kein Interesse hat, ihren einzigen Grund, warum die USA sie vor einer Annexion durch China schützen sollte, wegzugeben. Den ohne Chips aus Taiwan wird die US-Wirtschaft zusammenbrechen, egal ob es nun eine KI-Bubble gibt oder nicht. Die europäische auch, aber das ist hier nicht weiter relevant.
Das Wettrennen um KI-Dominanz ist IMHO mit dem Space Race der 60er Jahre zu vergleichen. Nur dass es jetzt einfach um Macht und Geld und nicht um Wertesysteme geht. Falls AGI möglich ist (wovon ich nicht überzeugt bin, weil jedenfalls nicht mit aktuellen LLMs), wird es automatisch ein Monopol werden, denn durch die stete Selbstverbessung des Systems können die anderen dann nicht mehr aufholen.
Ein anderer wichtiger Punkt: Ich habe nur Textverarbeitung betrachtet. Bilderzeugung könnte aufwendiger sein und Video-Erzeugung ist definitiv aufwendiger und wie sprechen hier von 1-2 Größenordnungen.
YT mit KI-Videos zu fluten, um ein paar $ zu verdienen, weil der Plattform (und den Video-Erstellern) die Inhalte egal sind und nur wichtig ist, wie häufig die Leute Werbung gucken, ist damit, was Energieverbrauch angeht, wesentlich weniger einfach zu vertreten als z.B. KI zur automatischen Übersetzung aller verfügbaren Bücher zu nutzen um diese mehr Leuten zugänglich zu machen. Denkbar ist nicht nur die Übersetzung zwischen Sprachen sondern auch z.B. in Einfache Sprache oder Blindenschrift. Aber da spricht natürlich auch meine "Social Media war ein Fehler" Überzeugung mit.
Ebenfalls unberücksichtigt ist, dass der viele Strom größtenteils Wärme erzeugt, die von den Chips weg muss, und dazu wird Wasser benutzt, was man man wie Musk bei Colossus 2 einfach verdampfen kann, auf dass die Häuser der Anwohner drumherum dann langsam verrotten. Zumindest haben sie aus Eigeninteresse ein Klärwerk gebaut, von dem auch irgendwann die Bevölkerung profitieren soll. Aktuell verbrauchen sie "bis zu" 18 Mio m³ im Jahr. Hatte ich schon erwähnt, das alles, was Musk anfasst zu Scheiße wird?
Googles Giga-Rechenzentrum in Iowa (Council Bluffs) kam 2024 auf 4 Mio m³. Amazons Giga-Rechenzentrum in Indiana (Project Rainier) kam auf 1 Mio m³. Meiner Recherche nach ist das RZ von Amazon doppelt so groß wie das von Google.
Microsofts neues Rechenzentrum hat (weil der Bundesstaat sie gezwungen hat) ein geschlossenes System, das nur minimal Wasser verbraucht: 0,3 L/kWh. Bei 9 GWh im Jahr sind das 300 m³ pro SuperPOD. In Kiel kostet der Kubikmeter gewerblich 2€, das ist vernachlässigbar, selbst 100 oder 1000 Containern – wobei man fairerweise noch die Kosten für das Recycling berechnen muss, was sicherlich Millioneninvestitionen sind und auch Strom verbraucht.
Zur Einordung: Unsere geliebte Autoindustrie in Form von VW verbrauchte 2024 knapp 9 Mio m³ Wasser (allerdings weltweit). Grünheide, wo das ja zum Problem erklärt wurde, sind es 0,5 Mio m³ (von erlaubten 1,4 Mio m³). Der Jahreswasserverbrauch von Kiel (lt. Stadtwerke) liegt bei knapp 12 Mio m³ (128L/Kopf/Tag). In München sprechen wir von 110 Mio m³ (lt. Wikipedia).
Würden die Münchner nur so viel Wasser verbrauchen wie die Kieler, hätten wir 35 Mio m³ eingespart, mit denen zwei Musksche Giga-Rechenzentren die Umwelt befeuchten könnten. Vielleicht machen die dem Elon einfach mal ein Angebot, Platz für zwei Hallen á 0,1 km² sollten sich doch im Englischen Garten (3,75 km²) finden und ein abgeschaltetes Atomkraftwerk hat der Söder doch auch im Angebot. Durch die Isar fließen ~95m³/s bei Niedrigwasser, also im Jahr 3 Mrd m³, das reicht locker.