Magazin #3 | Herbst 2023
Wasser ist das neue CO₂
Durch die Fortschritte auf dem Gebiet des Deep Learning, das zur Analyse großer Datensätze künstliche neuronale Netze verwendet, hat Künstliche Intelligenz sich zu einem wahren Zugpferd entwickelt: Die neuen technologischen Möglichkeiten führen zu wissenschaftlichen Durchbrüchen, beschleunigen Unternehmenswachstum und scheinen sich als Lösungen für globale Herausforderungen in wichtigen Bereichen wie der Klimakrise anzubieten.
Die KI-Systeme können aber nur so gut funktionieren, wenn die entsprechenden Rechenkapazitäten vorhanden sind. Es ist nämlich sehr rechenintensiv, beim Training verwertbare Muster in Datensätzen zu finden und während der Inferenz, also der Anwendungsphase der KI-Systeme, zu prüfen, ob die darauf beruhenden Vorhersagen auch eintreffen. Daher werden KI-Modelle – insbesondere große generative Modelle wie GPT-3 und LaMDA – in der Regel auf großen Server-Clustern mit jeweils mehreren Grafikprozessoren (GPUs) trainiert, die wahre Stromfresser sind. Um den enormen Energiebedarf von KI-Systemen zu drosseln, wird es Zeit, dass wir uns ihren ökologischen Fußabdruck in seinem gesamten Ausmaß ansehen.
Während ein geringer CO2-Fußabdruck inzwischen als Indikator für Nachhaltigkeit ins öffentliche Bewusstsein gerückt ist, wird der Wasserfußabdruck von KI-Systemen – das für die Stromerzeugung und die Kühlung der Server verbrauchte Frischwasser – noch zu wenig beachtet. Selbst wenn wir den massiven Wasserverbrauch bei der Herstellung von Computerchips außer Acht lassen, können beim Training großer Sprachmodelle wie GPT-3 und LaMDA Millionen Liter Frischwasser für die Kühlung der Kraftwerke und KI-Server verdampfen. Dies ist umso besorgniserregender, als Wasser durch ein rasantes Bevölkerungswachstum und/oder veraltete Wasserinfrastrukturen immer knapper wird, insbesondere in dürregefährdeten Gebieten. Die Wasserknappheit ist zu einer der größten globalen Herausforderungen geworden. Trotz aller Effizienzgewinne, die auf dem Gebiet der Künstlichen Intelligenz beim Ressourcenverbrauch erzielt werden, führt die exponentiell gestiegene Nachfrage danach zu einem immer größeren Wasserfußabdruck. Der direkte Wasserverbrauch von Google ist beispielsweise zwischen 2021 und 2022 um 20 Prozent gestiegen und hat sich in bestimmten Dürregebieten sogar verdoppelt. In diesem Zeitraum verzeichnete Microsoft einen Anstieg seines direkten Wasserverbrauchs um 34 Prozent.
Der durch den Stromverbrauch beim Training von KI-Systemen verursachte indirekte CO2-Fußabdruck nach Scope-2 wird routinemäßig auf der Model Card eines veröffentlichten KI-Modells festgehalten. Dagegen wird noch nicht einmal der direkte Wasserverbrauch durch das Training des KI-Modells auf der Model Card verzeichnet, ganz zu schweigen von dem indirekten Wasserverbrauch durch den Stromverbrauch. Das Vorenthalten von Informationen über den KI-Wasserfußabdruck ist genauso fahrlässig, wie wenn auf einem Lebensmittel-Etikett der Kaloriengehalt nicht angegeben wäre. Ein solcher Mangel an Transparenz steht nicht nur Innovationen im Weg, durch die Wasser nachhaltig genutzt werden könnte. Er ist auch schwer mit den jüngsten Aussagen der großen Technologiekonzerne zum Thema Wasser zu vereinbaren. Google kündigte zum Beispiel an, dass es bis 2030 wasserneutral werden wolle.
Die Entwickler von KI-Modellen müssen dringend Maßnahmen ergreifen, um den wachsenden Wasserverbrauch einzudämmen. Ein erster und wichtiger Schritt bestünde darin, die Transparenz zu erhöhen und öffentlich Angaben darüber zu machen, wie viel Wasser für das Training und die Inferenz von KI-Modellen verbraucht wird, sowohl direkt für die Kühlung von Servern als auch indirekt für die Stromerzeugung zur Versorgung der Server. Der KI-Wasserfußabdruck sollte auf der Model Card verzeichnet werden. Erst wenn genaue Informationen darüber vorlägen, würde der ökologische Fußabdruck ganzheitlich abgebildet werden. Diese Maßnahme würde aktuelle Bemühungen ergänzen und unterstützen, die Wasserversorgung nachhaltiger zu gestalten, zum Beispiel wassersparende Techniken zur Kühlung von Servern in KI-Systeme zu integrieren. Wenn der KI-Wasserfußabdruck transparenter werden würde, könnten Entwickler außerdem die räumliche und zeitliche Flexibilität von KI stärker nutzen und KI-Modelle dort trainieren und einsetzen, wo ein kleinerer Fußabdruck zu erwarten ist. Außerdem würde es Abwägungsspielräume eröffnen: Wenn ein KI-Modell zum Beispiel in einem Dürregebiet eingesetzt werden soll, wäre es wahrscheinlich sinnvoller, ein kompaktes Modell mit einem kleineren Wasserfußabdruck zu verwenden als das vollständige, ressourcenintensivere Modell. Durch Angaben zum KI-Wasserfußabdruck könnte auch die durch KI-Systeme beschleunigte ökologische Ungerechtigkeit abgefedert werden. Wir könnten KI-Arbeitslasten verschieben, um den KI-Wasserfußabdruck über verschiedene Regionen hinweg auszugleichen, statt benachteiligte und dürregeplagte Regionen unverhältnismäßig stark unter den negativen Auswirkungen leiden zu lassen.
Wir dürfen beim Wasserfußabdruck von KI-Systemen nicht länger wegschauen. Er muss im Zuge der globalen Bekämpfung von Wasserknappheit mit Priorität behandelt werden. Der erste Schritt dazu wäre so einfach: Der KI-Wasserfußabdruck müsste gemessen und die Ergebnisse veröffentlicht werden.
Wie durstig ist KI?
ChatGPT benötigt 500 Milliliter Wasser für einen einfachen Dialog mit 20 bis 50 Fragen und Antworten. Da der Chatbot mehr als 100 Millionen aktive Nutzer*innen hat, von denen alle mehrere Dialoge eröffnen, ist der Wasserverbrauch von ChatGPT schwindelerregend. Und diese Zahlen beziehen sich nur auf den Anwendungsmodus: Das Training von GPT-3 in den State-of-the-Art-Rechenzentren von Microsoft in den USA kann direkt 700.000 Liter sauberes Frischwasser verbrauchen, was für die Produktion von 370 BMWs oder 320 Teslas ausreichen würde. Der Wasserverbrauch beim GPT-3-Training würde sich sogar verdreifachen, wenn es in den asiatischen Microsoft-Rechenzentren stattfände. Bisher werden solche Informationen aber geheim gehalten.
Diese Schätzungen sind in der Studie Making AI Less „Thirsty“: Uncovering and Addressing the Secret Water Footprint of AI Models zu finden. (Eine Peer-Review der Studie steht noch aus.) Deren Autoren haben öffentlich zugängliche Datenquellen ausgewertet und stellen einen Ansatz vor, um systematisch zu evaluieren, wie viel Wasser KI in der Entwicklung und Anwendung benötigt. Sie erklären, wie Entwickler den Wasserfußabdruck ihrer KI-Modelle verringern und die Wassereffizienz erhöhen könnten, wenn sie das Training und die Inferenz der Modelle über verschiedene Orte und Zeiten verteilen würden.
SHAOLEI REN
Associate Professor für Elektrotechnik und Informatik an der University of California, Riverside
Sein Forschungsschwerpunkt liegt auf KI und Nachhaltigkeit um eine ökologisch nachhaltige und gerechte Zukunft zu schaffen.