Wie stromhungrig ist die Künstliche Intelligenz? Meta plant immerhin KI-Rechenzentren knapp so groß wie Manhattan und mit 5GW Anschlußleistung. Also so viel wie vier große Kernkraftwerksblöcke liefern könnten. Doch was bedeutet das umgerechnet auf eine Anfrage an den KI Chatbot meines Vertrauens?
Mistral AI hat nun Zahlen veröffentlicht: Eine Anfrage an „Le Chat“, die eine Antwort aus 400 „Tokens“ (was zum Beispiel Wörter, Silben, Zahlen oder Satzzeichen sein können) auslöst, erzeugt 1,14 Gramm CO2. Rechnen wir das mit dem französischen Strommix auf Energie (56 g/KWh) um, kommen wir auf 20Wh.
20Wh entsprechen in etwa der Energie von ein bis zwei Handyladungen oder einer kleinen 5000mAh / 18,5Wh Powerbank (siehe Artikelbild).
Eine traditionelle Google-Suche brauchte im Jahr 2009 0,3Wh, was damals deutlich weniger war als ich angenommen hatte.
Mit „Koomeys Law“ (Die Energieeffizienz von Compute verdoppelt sich alle 18 Monate) fortgeschrieben, würde so eine einfache Suche im Jahr 2025 nur noch 0,0006Wh verbrauchen. Nun ist das Erstellen einer Ergebnisseite auf Suchanfragen heutzutage sicherlich aufwändiger als 2009 (Werbepartner aussuchen, ggf. Karte und Webseitenauszüge anzeigen, KI Übersicht…), aber der Unterschied ist doch groß: Ein Faktor zwischen 70x (20Wh zu 0,3Wh mit der Annahme daß Google seine Kosten pro über die Zeit komplexer gewordener Suchanfrage konstant hält) und maximal 34.000x (Mistral heute im Vergleich zu dem theoretischen Szenario „Google 2009, aber auf moderner Hardware“).
Mein Name ist Rolf Kersten, und als Ingenieur rechne ich gerne mit Kilowattstunden.