• AIs Carbon Footprint Transparency Problem

    KI und das Problem mit der Transparenz des CO2-Fußabdrucks

  • Everything you do online carries a carbon footprint and you probably dont know how big it is. AI is making both problems worse.

    Alles, was Sie online machen, hinterlässt einen CO2-Fußabdruck, von dem Sie wahrscheinlich nicht wissen, wie groß er ist. KI verschlimmert beide Probleme.

  • Buying two T-shirts costs twice as much as one. This is obvious when we see the money leave our wallet. Driving twice the distance will cost you twice the fuel. Also obvious when we look at the gas tank indicator.

    Der Kauf von zwei T-Shirts kostet doppelt so viel wie der von einem. Das ist offensichtlich, wenn wir sehen, wie das Geld unsere Brieftasche verlässt. Wenn Sie die doppelte Strecke fahren, kostet Sie das auch doppelt so viel Benzin. Das wird auch deutlich, wenn wir auf die Tankanzeige schauen.

  • If everything we do online <a id="a1">costs the environment</a> in some way, how much does a Google search cost? How does it compare to the cost of that same search on ChatGPT?

    Wenn alles, was wir online machen, in irgendeiner Weise <a id="a1">die Umwelt kostet</a>, wie viel kostet dann eine Google-Suche? Wie sieht es im Vergleich zu den Kosten der gleichen Suche auf ChatGPT aus?

  • As we move through the web streaming, searching, downloading and more we leave behind a footprint. Yet the size of that footprint, or even the fact that it exists, feels abstract and hidden away. Our internet carbon footprint is determined, in large part, by the decisions companies make when they create their tools tools that require vast amounts of <a id="a1">land, water and energy</a> somewhere off in the distance. That footprint is also determined by decisions consumers make, when we choose which of those tools we use and how often.

    Wenn wir uns im Internet bewegen streamen, suchen, herunterladen und mehr hinterlassen wir einen Fußabdruck. Doch die Größe dieses Fußabdrucks oder auch nur die Tatsache, dass es ihn gibt, scheint abstrakt und verborgen zu sein. Unser CO2-Fußabdruck im Internet wird zu einem großen Teil durch die Entscheidungen bestimmt, die Unternehmen bei der Entwicklung ihrer Tools treffen Tools, die irgendwo in der Ferne riesige Mengen an <a id="a1">Land, Wasser und Energie</a> benötigen. Dieser Fußabdruck wird auch durch die Verbraucherentscheidungen bestimmt, die wir treffen, wenn wir wählen, welche dieser Tools wir wie oft nutzen.

  • In an ideal world, all of our favorite sites and apps would be emissions free every app download would result in rainbows above our phones and thumbs-ups from polar bears off in the distance. In the real world, its quite the opposite. Not only are these modern conveniences costly to the environment, but it can be hard to tell how costly. Theres no wallet to indicate youre spending twice as much (or checking account, for those paying digitally). Theres no fuel gauge to say youve used twice the fuel (or <a id="a1">1.5x</a> the fuel, for those driving <a id="a2">electrically</a>). It isnt clear how much everyday internet usage costs in resources, and things are becoming even less clear with AI.

    In einer idealen Welt wären all unsere Lieblingsseiten und -Apps emissionsfrei jeder App-Download würde in Regenbögen über unseren Handys resultieren und Daumen hoch von Eisbären in der Ferne. In der realen Welt ist es genau das Gegenteil. Nicht nur sind diese modernen Annehmlichkeiten kostspielig für die Umwelt, es kann auch schwer sein zu sagen, wie kostspielig. Es gibt kein Portemonnaie, das anzeigt, dass Sie doppelt so viel ausgeben (oder ein Girokonto, für diejenigen, die digital bezahlen). Es gibt keine Kraftstoffanzeige, die besagt, dass Sie doppelt so viel Kraftstoff verbraucht haben (oder das <a id="a1">1,5x-fache</a> des Kraftstoffs, für diejenigen, die <a id="a2">elektrisch fahren</a>). Es ist nicht klar, wie viel die alltägliche Internetnutzung an Ressourcen kostet, und die Dinge werden mit KI noch unklarer.

  • The folks at <a id="a1">Code Carbon</a> are one of the <a id="a2">Mozilla Technology Fund awardees</a> hoping to bring us to that ideal world. (The zero emissions part. Not the polar bear thing.) Code Carbon is a code package that helps developers estimate their tools carbon emissions, and then offers ways to lessen it. When it comes to AI, some new norms are emerging that dont feel great to Code Carbon founder Sasha Luccioni. AI companies dont share the amount of energy a query costs, says Sasha. Companies like OpenAI keep information about their energy usage close to their chest, and according to Sasha, theyre incentivized not to say. Fortunately, open source models like <a id="a3">Hugging Face</a> help us guesstimate. When we look at open source AI models, we see that smaller models trained for a specific task use less energy than many of these huge large language models that can technically do a bunch of tasks but they use a lot more resources for each query. Sasha notes that asking a larger AI model a simple question can result in 30 to 40 times the energy usage for a single query, when compared to task-efficient models.

    Die Leute bei <a id="a1">Code Carbon</a> sind einer der <a id="a2">Preisträger des Mozilla Technology Fund</a> und hoffen, uns in diese ideale Welt zu bringen. (Der Teil mit den null Emissionen. Nicht das mit den Eisbären.) Code Carbon ist ein Code-Paket, das Entwicklern hilft, die CO2-Emissionen ihrer Tools zu schätzen und dann Möglichkeiten zur Reduzierung anzubieten. Wenn es um KI geht, entstehen einige neue Normen, die Sasha Luccioni, der Gründer von Code Carbon, nicht gut findet. KI-Unternehmen teilen nicht mit, wie viel Energie eine Abfrage kostet, sagt Sasha. Unternehmen wie OpenAI halten Informationen über ihren Energieverbrauch unter Verschluss, und laut Sasha haben sie keinen Anreiz, dies zu sagen. Glücklicherweise helfen uns Open-Source-Modelle wie <a id="a3">Hugging Face</a> bei der Schätzung. Wenn wir uns Open-Source-KI-Modelle ansehen, stellen wir fest, dass kleinere Modelle, die für eine bestimmte Aufgabe trainiert wurden, weniger Energie verbrauchen als viele dieser riesigen Sprachmodelle, die technisch gesehen eine Reihe von Aufgaben erledigen können, aber sie verbrauchen viel mehr Ressourcen für jede Abfrage. Sasha stellt fest, dass das Stellen einer einfachen Frage an ein größeres KI-Modell zu 30 bis 40 Mal mehr Energieverbrauch für eine einzelne Abfrage führen kann, verglichen mit aufgaben-effizienten Modellen.

  • But using an AI tool is just half of the picture. The other half is the profound amount of energy AI models require as part of their training. Facebook will buy <a id="a1">over 300,000 GPUs</a> this year, which will require the same amount of energy used by thousands of homes in France, says Benoît Courty, president at Code Carbon. Just training the AI requires the same amount of energy as powering a city. The graphics card, <a id="a2">Nvidias H100</a>, <a id="a3">gobbles up 700W</a> during peak usage the same as an average two-person American household. Facebook (now known as Meta) will use 350,000 of these graphics cards and a citys worth of energy strictly to develop artificial intelligence. And that doesnt even include the resources it will cost to then use its AI tools.

    Aber die Nutzung eines KI-Tools ist nur die halbe Miete. Die andere Hälfte ist die enorme Menge an Energie, die KI-Modelle für ihre Training benötigen. Facebook wird dieses Jahr<a id="a1"> über 300.000 GPUs</a> kaufen, was den gleichen Energiebedarf erfordert wie Tausende von Haushalten in Frankreich, sagt Benoît Courty, Präsident bei Code Carbon. Allein das Training der KI erfordert so viel Energie wie die Versorgung einer Stadt. Die Grafikkarte, <a id="a2">Nvidias H100</a>, schluckt in der Spitzenlast <a id="a3">700 W</a> genauso viel wie ein durchschnittlicher amerikanischer Zweipersonenhaushalt. Facebook (jetzt bekannt als Meta) wird 350.000 dieser Grafikkarten und eine Stadtmenge an Energie ausschließlich zur Entwicklung von künstlicher Intelligenz verwenden. Und das beinhaltet noch nicht einmal die Ressourcen, die es dann kosten wird, dessen KI-Tools zu nutzen.

  • How Do We Address The AI Carbon Footprint Problem?

    Wie gehen wir mit dem Problem des KI-CO2-Fußabdrucks um?

  • Changes to this can happen at three levels. The company level, the policy level and the individual level. Its clear that companies need to, first, be transparent about their products carbon footprint and second, actively work to shrink it. For example, pointing users to smaller AI models when their query is a basic one.

    Änderungen können auf drei Ebenen erfolgen: auf Unternehmensebene, auf politischer Ebene und auf individueller Ebene. Es ist klar, dass Unternehmen erstens transparent über den CO2-Fußabdruck ihrer Produkte sein müssen und zweitens aktiv daran arbeiten müssen, ihn zu verkleinern. Zum Beispiel könnten Nutzer auf kleinere KI-Modelle hingewiesen werden, wenn ihre Anfrage eine grundlegende ist.

  • Unfortunately, its unlikely meaningful change will happen at the company level without government intervention. So whats happening at the policy level? There arent many laws regarding AI and energy usage but we are seeing at least a little movement. <a id="a1">A bill in congress</a> proposes that the Environmental Protection Agency (EPA) and National Institute of Standards and Technology (NIST) nudge AI companies to report their tools energy usage. The bill would be a good first start if it passes but theres room to improve. The next step should be mandatory disclosure, says Sasha about the EPA/NIST bill. And even if you couldnt give an exact number, you could offer an average. Once companies are required to report these numbers, then you can start to add rules around how much energy, at a maximum, companies AI models can use.

    Leider ist es unwahrscheinlich, dass auf Unternehmensebene bedeutende Veränderungen ohne staatliche Intervention stattfinden werden. Was passiert also auf politischer Ebene? Es gibt nicht viele Gesetze in Bezug auf KI und Energieverbrauch, aber wir sehen zumindest ein wenig Bewegung. <a id="a1">Ein Gesetzentwurf im Kongress</a> schlägt vor, dass die Environmental Protection Agency (EPA) und das National Institute of Standards and Technology (NIST) KI-Unternehmen dazu drängen, den Energieverbrauch ihrer Tools zu melden. Der Gesetzentwurf wäre ein guter erster Schritt, wenn er verabschiedet wird, aber es gibt Verbesserungspotential. Der nächste Schritt sollte die Pflicht zur Offenlegung sein, sagt Sasha über den EPA/NIST-Gesetzentwurf. Und selbst wenn man keine genaue Zahl nennen könnte, könnte man einen Durchschnitt anbieten. Sobald Unternehmen verpflichtet sind, diese Zahlen zu melden, kann man damit beginnen, Regeln darüber aufzustellen, wie viel Energie KI-Modelle von Unternehmen maximal verbrauchen dürfen.

  • Love Generating AI Cats? Hit The Paws Button

    Sie generieren gerne KI-Katzen? Drücken Sie die Pfoten-Taste

  • And then theres the individual level. Even though consumers dont have much control over the carbon footprint of the tools they use, there is some agency in choosing the right tool for the job and the planet.

    Und dann gibt es noch die individuelle Ebene. Auch wenn Verbraucher nicht viel Kontrolle über den CO2-Fußabdruck der Tools haben, die sie verwenden, besteht doch eine gewisse Handlungsfähigkeit bei der Auswahl des richtigen Tools für die Aufgabe und den Planeten.

  • An app like ChatGPT is a huge model and (likely) requires a lot of energy each time you use it. Every problem may look like a nail when youre holding a hammer but keep in mind there are lots of different-sized tools in the internet toolkit and some are better for the planet than others. Bigger isnt always better, says Sasha. Sometimes good old-fashioned tools can get the same job done. If you want to do math, there are calculators. If you want information, run a simple web search or search encyclopedias. Using digital tools without AI can be just as effective, yet carry a lighter footprint.

    Eine App wie ChatGPT ist ein riesiges Modell und benötigt (wahrscheinlich) jedes Mal, wenn Sie es verwenden, viel Energie. Jedes Problem mag wie ein Nagel aussehen, wenn man einen Hammer in der Hand hält, aber denken Sie daran, dass es viele verschiedene Tools im Internet gibt und einige besser für den Planeten sind als andere. Größer ist nicht immer besser, sagt Sasha. Manchmal können altmodische Tools die gleiche Arbeit erledigen. Wenn Sie rechnen wollen, gibt es Taschenrechner. Wenn Sie Informationen wollen, führen Sie eine einfache Websuche durch oder suchen Sie in Enzyklopädien. Die Verwendung von digitalen Tools ohne KI kann genauso effektiv sein und doch einen geringeren Fußabdruck hinterlassen.

  • This isnt to say we should never use AI to generate anything. Benoît, for example, recommends using the text-only <a id="a1">ChatGPT 3.5</a> over ChatGPT 4 if you know you wont be doing any image processing. If you are using the extra processing power, though, Benoît says make it worth it. If youre using AI to generate global warming solutions that could be a good use for it, says Benoît. If its to make pictures of cats, we already have enough of those on the internet.

    Das bedeutet nicht, dass wir niemals KI zur Generierung von etwas verwenden sollten. Benoît empfiehlt zum Beispiel, den rein textbasierten <a id="a1">ChatGPT 3.5</a> anstelle von ChatGPT 4 zu verwenden, wenn Sie wissen, dass Sie keine Bildverarbeitung durchführen werden. Wenn Sie jedoch die zusätzliche Rechenleistung nutzen wollen, sollte es sich laut Benoît lohnen. Wenn Sie KI zur Generierung von Lösungen für die globale Erwärmung verwenden, könnte das eine gute Verwendung dafür sein, sagt Benoît. Wenn es darum geht, Bilder von Katzen zu machen, haben wir davon schon genug im Internet.

  • AI Is Getting Bigger. Is Its Climate Impact Getting Badder?

    KI wird immer größer. Werden ihre Auswirkungen auf das Klima schlimmer?

  • Written By: Xavier Harding

    Geschrieben von: Xavier Harding

  • Edited By: Audrey Hingle, Kevin Zawacki, Tracy Kariuki, Xavier Harding

    Bearbeitet von: Audrey Hingle, Kevin Zawacki, Tracy Kariuki, Xavier Harding

  • Art By: Shannon Zepeda

    Zeichnungen von: Shannon Zepeda

  • AI Is Getting Bigger. Is Its Climate Impact Getting Badder?

    KI wird immer größer. Werden ihre Auswirkungen auf das Klima schlimmer?

AIs Carbon Footprint Transparency Problem

KI und das Problem mit der Transparenz des CO2-Fußabdrucks