Forschung

Deutschland

Digitale Nachhaltigkeit

Umwelt-Kennzeichnung von KI-Inferenz: Der Stand der Labels — und wo NADIKI ansetzt

Umwelt-Kennzeichnung von KI-Inferenz: Der Stand der Labels — und wo NADIKI ansetzt

Für die Umweltwirkung von KI-Modellen in der Inferenz entsteht gerade eine erste Generation von Kennzeichnungen: der AI Energy Score von Hugging Face, der Mehrindikatoren-Rechner EcoLogits, der Benchmark MLPerf Power, der Software Carbon Intensity Standard (ISO/IEC 21031) und regulatorische Rahmen wie der EU AI Act oder die französische AFNOR Spec 2314. Dieser Beitrag ordnet diese Ansätze entlang der Fragen ein, die auch NADIKI stellt: Was wird gemessen, in welcher funktionalen Einheit, orts- oder marktbasiert, als eine Zahl oder als Indikatorenvektor? Das Ergebnis: Die Labels konvergieren auf zwei NADIKI-Kernentscheidungen — ortsbasierte Strommixe und getrennt ausgewiesene Ressourcenindikatoren — bleiben aber fast alle beim Modell im Prüfstand stehen, wo NADIKI die reale Infrastruktur bilanziert.

Dieser Vergleich ist Teil unserer Arbeit im NADIKI-Projekt. Er ergänzt unseren Methodenvergleich zu SCI und Blauem Engel, fokussiert hier aber ausschließlich auf Kennzeichnungen für die KI-Inferenz.

Ausgangslage

Die öffentliche Debatte über die Umweltwirkung von KI hat sich lange am Training großer Modelle abgearbeitet. Doch der weit überwiegende Teil des laufenden Ressourcenverbrauchs entsteht in der Inferenz — also im millionenfachen täglichen Betrieb bereits trainierter Modelle. Entsprechend entsteht gerade eine erste Generation von Kennzeichnungen, Ratings und Offenlegungspflichten, die genau diese Betriebsphase adressieren. Sie reichen vom freiwilligen Effizienz-Label über Open-Source-Rechner und Industrie-Benchmarks bis zu regulatorischen Dokumentationspflichten.

Für uns im NADIKI-Projekt ist diese Landschaft aus zwei Gründen relevant. Erstens messen wir dieselbe Sache — die reale Umweltwirkung von KI-Workloads —, allerdings aus einer anderen Richtung: von der Infrastruktur her, nicht vom Modell im Prüfstand. Zweitens zeigen die neuen Labels, worauf sich das Feld methodisch zubewegt. Dieser Beitrag ordnet die wichtigsten inferenz-spezifischen Ansätze ein und stellt sie unserem Ansatz gegenüber — im gleichen Geist der ehrlichen Standortbestimmung wie unser Methodenvergleich zu SCI und Blauem Engel.

Wir bewerten jeden Ansatz entlang von sechs Fragen: Was wird gemessen (Energie, THG/CO₂, Wasser, graue Emissionen, Ressourcenverbrauch)? Welche funktionale Einheit (pro Anfrage, pro Token, pro 1.000 Queries oder pro Modell)? Orts- oder marktbasierte Emissionsfaktoren? Eine aggregierte Zahl oder ein Indikatorenvektor? Freiwillig oder regulatorisch? Und: Modell im Labor oder reale Messung im Betrieb?

Die Kennzeichnungslandschaft im Überblick

Die relevanten Ansätze lassen sich in drei Gruppen ordnen: freiwillige Modell-Labels und -Benchmarks, LCA-basierte Inferenz-Rechner und regulatorische bzw. staatliche Rahmen.

Freiwillige Modell-Labels und -Benchmarks

  • AI Energy Score (Hugging Face, Salesforce, Cohere, CMU): Das derzeit prominenteste inferenz-spezifische Label. Primärmetrik ist der GPU-Energieverbrauch in Wattstunden pro 1.000 Anfragen, gemessen über zehn standardisierte Aufgaben und mehrere Modalitäten (Text, Bild, Audio) auf einheitlicher Hardware (NVIDIA H100). Daraus wird ein 1-bis-5-Sterne-Rating abgeleitet, indem die Energiespanne einer Aufgabe in fünf gleich große 20-%-Intervalle geteilt wird. Für die CO₂-Bilanzierung empfiehlt das Schema ausdrücklich ortsbasierte Durchschnittsfaktoren (nicht marginale) von Electricity Maps. Bemerkenswert: Zwar wird der Gesamtenergieverbrauch inklusive CPU und RAM erfasst, für das Rating zählt aber nur die GPU-Energie. Ein aktuelles Ergebnis der v2-Version: Modelle mit aktiviertem Reasoning verbrauchen im Schnitt rund 30-mal mehr Inferenzenergie (im Extremfall das 150- bis 700-Fache).

  • MLPerf Power (MLCommons): Ein industriegetragener Benchmark, der Energieeffizienz als Leistung pro Watt über eine Spanne von Mikrowatt (IoT/Edge) bis Megawatt (Rechenzentren) misst, für Training und Inferenz. Zentrale methodische Festlegung: Messung auf Gesamtsystem-Ebene (Compute, Speicher, Interconnect) statt isolierter Komponententests. MLPerf Power liefert selbst keine CO₂-Werte — Kühlung ist ausgeklammert, und die Umrechnung in Emissionen wird als künftige Aufgabe benannt.

  • „How Hungry is AI?“: Eine einflussreiche Benchmark-Studie, die die LLM-Inferenz für 30 Modelle über drei Dimensionen — Energie (Wh), Wasser und CO₂ — vermisst und bewusst nicht zu einer Zahl verdichtet. Die Bandbreite ist enorm: von 0,42 Wh für kurze Anfragen bis über 29 Wh für lange Prompts; die energieintensivsten Modelle verbrauchen über 65-mal mehr als die effizientesten.

  • Token Arena: Ein neuerer Benchmark, der Inferenzenergie analytisch modelliert statt sie direkt zu messen, und Energie mit Aufgaben-Genauigkeit zu „Joule pro korrekter Antwort“ (JCA) kombiniert. CO₂ wird als g pro 1 Mio. Token über ortsbasierte Netzintensitäten ausgewiesen — mit optionaler marktbasierter Anrechnung des vom Anbieter angegebenen Ökostromanteils. Ein wichtiger Befund: Dasselbe Modell auf unterschiedlichen Endpunkten variiert um bis zum 6,2-Fachen — Inferenzeffizienz hängt stark vom Serving-Setup ab, nicht nur vom Modell.

LCA-basierte Inferenz-Rechner

  • EcoLogits (GenAI Impact, unterstützt von Boavizta): Der methodisch reichste inferenz-spezifische Ansatz. EcoLogits schätzt die Umweltwirkung generativer KI pro Anfrage auf Basis von Lebenszyklusprinzipien und weist bewusst vier getrennte Indikatoren aus: Energie (kWh), Treibhauspotenzial (kg CO₂-eq), abiotisches Erschöpfungspotenzial für Elemente (ADPe, kg Sb eq) und Primärenergie (MJ), dazu einen Wasser-Fußabdruck in der Nutzungsphase. Erklärtes Ziel dieser Mehrindikatorik: „pollution shifting“ vermeiden — also verhindern, dass eine CO₂-Verbesserung durch höheren Ressourcenverbrauch erkauft wird. EcoLogits deckt Nutzungs- und Herstellungsphase ab (schließt aber das Lebensende aus), nutzt ortsbasierte Emissionsfaktoren (ADEME Base Empreinte, Weltmittel 0,5904 kg CO₂-eq/kWh als Default) und benennt seine Grenzen offen: Die Energie der Eingabe-Token wird nicht modelliert (was den Verbrauch bei sehr langen Eingaben bis zum 133-Fachen unterschätzen kann), und Modellparameter werden geschätzt.

  • CodeCarbon: Eine verbreitete Bibliothek, die ausschließlich Energie und CO₂ misst (als einzelne aggregierte Kennzahl in kg CO₂ pro Lauf) — für CPU, GPU und RAM auf der eigenen Hardware, ortsbasiert. Wasser, graue Emissionen und Elektroschrott bleiben außen vor. Für entfernte GenAI-API-Aufrufe verweist CodeCarbon selbst auf EcoLogits. Der AI Energy Score nutzt CodeCarbon als Mess-Framework.

Regulatorische und staatliche Rahmen

  • EU AI Act (Annex XI): Anbieter von General-Purpose-AI-Modellen müssen den bekannten oder geschätzten Energieverbrauch des Modells dokumentieren. Die Pflicht ist um das Training herum formuliert (Rechenressourcen, FLOPs, Trainingszeit), setzt keine Effizienzschwellen und verlangt keine einheitliche Einzelkennzahl — es ist eine reine Offenlegungspflicht gegenüber Behörden. Die zugehörige GPAI Code of Practice fordert in ihrem Model Documentation Form die Offenlegung des Energieverbrauchs in der Inferenz — sie schreibt jedoch keinen verbindlichen Inferenz-Benchmark vor. Parallel hat die EU-Kommission (April 2026) eine Konsultation gestartet, um ein Messrahmenwerk und ein mögliches „AI energy and emission label“ vorzubereiten — ausdrücklich für Training und Inferenz. Harmonisierte Standards sollen bis August 2028 entstehen.

  • AFNOR Spec 2314 — „Référentiel général pour l'IA frugale“ (Frankreich, Juli 2024): Ein von der Regierung (Ecolab des CGDD) und AFNOR mit rund 150 Beteiligten entwickelter, freiwilliger Rahmen. Er ist bewusst mehrindikatoren-basiert (31 Good-Practice-Blätter statt einer aggregierten Zahl), verfolgt einen LCA-Ansatz (Geräte-Fußabdruck über Herstellung, Transport, Lebensende plus lokaler Strommix) und deckt Training und Inferenz ab. Zielgruppe ist vor allem die öffentliche Beschaffung; der Anspruch ist, Vorlage für eine europäische bzw. ISO-Norm zu werden. Auf europäischer Ebene hat CEN-CENELEC (JTC 21) ein entsprechendes Arbeitsthema zu „Guidelines and metrics for the Environmental impact of AI“ angenommen.

  • EU-Ökodesign-Verordnung 2019/424 (Server): Der einzige bereits verbindliche Rahmen — allerdings auf Hardware-Ebene. Er regelt Server und Datenspeicher über Metriken wie Leerlaufleistung (Pidle) und Effizienz im aktiven Zustand; funktionale Einheit ist das Produkt (der Server), nicht die Inferenz. Wichtig für KI: Neben Energie fordert er Materialeffizienz (Zerlegbarkeit, Offenlegung kritischer Rohstoffe wie Kobalt und Neodym), schließt aber Hochleistungsrechner (HPC) aus — womit viele beschleuniger-basierte KI-Systeme aus dem Anwendungsbereich fallen.

  • Software Carbon Intensity — ISO/IEC 21031:2024: Zwar ein Software- und kein reines KI-Label, aber für die Inferenz direkt anwendbar. SCI = (E × I) + M, pro funktionaler Einheit R — und diese Einheit kann ausdrücklich „pro Token“, „pro Inferenz“ oder „pro Bild“ sein. SCI liefert eine einzige CO₂-Kennzahl pro funktionaler Einheit, nutzt ortsspezifische Netzintensitäten (die Studie nennt bis zu 35-fache Unterschiede zwischen Schweden ~20 und Polen ~700 g CO₂-eq/kWh) und schließt Wasser sowie Kompensationen aus. Als ISO-Standard formal etabliert, in der Anwendung aber freiwillig.

  • Weitere: Das US-EPA Energy Star für Rechenzentren (freiwilliges 1-100-Rating, Facility-Ebene, nicht KI-modellbezogen) sowie ISO/IEC JTC1 SC42 bzw. ISO/IEC 42001 (ein KI-Managementsystem-Standard zur Governance, ohne eigene Umweltmessvorschrift) runden das Bild ab, adressieren die Inferenzwirkung aber nicht direkt.

Übersicht: Was die Ansätze messen

Ansatz

Funktionale Einheit

Indikatoren

Strommix

Status

AI Energy Score

pro 1.000 Anfragen

1 Zahl (nur GPU-Energie → Sterne)

Ortsbasiert (Durchschnitt)

Freiwillig

EcoLogits

pro Anfrage

Mehrindikatoren (Energie, CO₂, ADPe, PE, Wasser)

Ortsbasiert

Freiwillig / Open Source

MLPerf Power

pro Arbeitseinheit (Samples/Joule)

Energie/Leistung (kein CO₂)

Freiwillig (Industrie)

„How Hungry is AI?“

pro Anfrage/Prompt

Mehrindikatoren (Energie, Wasser, CO₂)

Modellbasiert

Studie

Token Arena

Joule pro korrekter Antwort

Composite-Score + CO₂

Ortsbasiert (+ optional marktbasiert)

Studie / Benchmark

CodeCarbon

pro Lauf

1 Zahl (Energie + CO₂)

Ortsbasiert

Freiwillig / Open Source

SCI (ISO/IEC 21031)

pro Token / Inferenz

1 Zahl (CO₂-eq)

Ortsspezifisch

ISO-Standard, freiwillig

EU AI Act (Annex XI)

pro Modell

Energie (kWh, Offenlegung)

Regulatorisch (Dokumentation)

AFNOR Spec 2314

Systems-/Projektebene

Mehrindikatoren (LCA)

Lokaler Strommix

Freiwillig (staatlich)

EU 2019/424 (Server)

pro Produkt (Server)

Energie + Materialeffizienz

Regulatorisch (verbindlich)

NADIKI

pro Workload/Zeit (kumulativ)

Mehrindikatoren + CO₂-eq-Index

Ortsbasiert, stündlich real

Bilanzierungsmethodik

Vergleich mit dem NADIKI-Ansatz

Der Vergleich fällt differenziert aus. In zwei Grundsatzfragen bewegt sich das Feld auf Positionen zu, die NADIKI von Beginn an vertreten hat. In zwei anderen bleiben die Labels methodisch hinter NADIKI zurück. Und in einem Punkt sind sie NADIKI voraus.

Konvergenz 1: Ortsbasierte statt marktbasierte Emissionsfaktoren

Bemerkenswert einheitlich ist der Trend zu ortsbasierten Emissionsfaktoren: AI Energy Score (Electricity Maps, ausdrücklich Durchschnitt statt marginal), EcoLogits (ADEME Base Empreinte), CodeCarbon, SCI und Token Arena rechnen alle mit dem realen regionalen Strommix, nicht mit Herkunftsnachweisen. Das ist exakt die Position, die wir in unserer Berechnungsmethodik begründet haben: Grünstromzertifikate sind für operative Entscheidungen wertlos. NADIKI geht hier aber noch einen Schritt weiter — wir nutzen die stündlich reale CO₂-Intensität am Standort (Electricity Maps), während die Labels meist mit regionalen Jahres- oder Durchschnittswerten arbeiten. Die einzige Ausnahme im Feld ist Token Arena, das optional eine marktbasierte Anrechnung des Anbieter-Ökostromanteils zulässt — genau die Aufweichung, die NADIKI bewusst ablehnt.

Konvergenz 2: Ressourcenverbrauch getrennt ausweisen

Die methodisch reichsten Ansätze — EcoLogits und AFNOR Spec 2314 — teilen unsere Überzeugung, dass eine einzige Zahl der Umweltwirkung von KI nicht gerecht wird. EcoLogits weist mit ADPe in kg Sb eq denselben abiotischen Ressourcenindikator aus wie NADIKI und begründet die Mehrindikatorik ausdrücklich mit der Vermeidung von „pollution shifting“. Das deckt sich exakt mit unserer Analyse in der NADIKI-Indexzahl: Weil ADP weniger als 0,1 % einer CO₂-eq-Aggregation ausmacht, verschwindet die Information zur Mineralknappheit im Rauschen, wenn man sie nicht separat ausweist. EcoLogits kommt über einen anderen Weg — konsequente Trennung statt Aggregation — zur selben Schlussfolgerung.

Lücke 1: Systemgrenze — Modell im Prüfstand statt reale Infrastruktur

Hier liegt der schärfste Unterschied. Fast alle Modell-Labels ziehen die Systemgrenze eng um den Beschleuniger: Der AI Energy Score bewertet ausschließlich die GPU-Energie — CPU, RAM, Netzwerk, Kühlung und das Rechenzentrumsgebäude bleiben außen vor. MLPerf Power erweitert immerhin auf das Gesamtsystem inklusive Interconnect, klammert aber die Kühlung aus. NADIKI bilanziert dagegen die gesamte Wertschöpfungskette: Serverstrom mal reale CO₂-Intensität, graue Emissionen der Hardware (über Boavizta) und die Umweltwirkung von Gebäude und Infrastruktur (Kühlung, USV, Stromverteilung) über ein LCA-Modell. Für einen ehrlichen Fußabdruck der Inferenz ist das entscheidend — die GPU ist nur ein Teil des Systems, das sie am Laufen hält.

Lücke 2: Graue Emissionen

Die meisten reinen Benchmarks messen nur den Betrieb. AI Energy Score, CodeCarbon und MLPerf Power berücksichtigen keine grauen Emissionen aus der Hardwareherstellung. Nur SCI (über den M-Term), EcoLogits (Herstellungsphase, ohne Lebensende) und die LCA-basierte AFNOR Spec beziehen sie ein. NADIKI modelliert graue Emissionen explizit und rechnet sie über ein tägliches Herstellungs-Budget kumulativ der Workload zu — inklusive der offenen Frage refurbished Hardware, die wir transparent als Weiterentwicklungsthema benennen.

Vorsprung der Labels: Die funktionale Einheit

In einem Punkt sind die Labels NADIKI klar voraus — und es ist derselbe Punkt, den wir schon im SCI-Vergleich als Lücke benannt haben: die funktionale Einheit. AI Energy Score (Wh pro 1.000 Anfragen), EcoLogits (pro Anfrage), SCI (pro Token/Inferenz) und Token Arena (Joule pro korrekter Antwort) liefern genau die Pro-Einheit-Werte, die für Modellvergleich und Nutzerkommunikation gebraucht werden. NADIKI liefert die Wirkung pro Workload über einen Zeitraum, aber nicht „pro generiertem Token“. Wer NADIKI-Daten für ein Pro-Anfrage-Reporting nutzen will, muss diese Aggregationsschicht selbst bilden. Eine SCI-kompatible Ableitung aus NADIKI-Konten bleibt ein logischer nächster Entwicklungsschritt.

Der blinde Fleck aller Ansätze: Modell ≠ Betrieb

Ein Befund verdient besondere Aufmerksamkeit, weil er die Grenze der Modell-Labels grundsätzlich markiert. Token Arena zeigt: Dasselbe Modell auf unterschiedlichen Serving-Endpunkten variiert im Energieverbrauch um bis zum 6,2-Fachen. Auch der AI Energy Score misst auf standardisierter H100-Hardware unter Laborbedingungen — nicht das, was im realen Rechenzentrum unter realer Auslastung, mit realer Über- oder Unterreservierung und realem Strommix tatsächlich passiert.

Ein Modell-Label ist damit eine wertvolle Ex-ante-Orientierung: Es sagt, wie effizient ein Modell im Prinzip sein kann. NADIKI liefert die komplementäre Ex-post-Bilanzierung: was ein Workload im konkreten Betrieb tatsächlich verbraucht hat. Genau diese Trennung zwischen produktiver und nicht-produktiver Nutzung — Leerlauf, Überreservierung, schlechte Auslastung — bleibt in einem Prüfstand-Benchmark systematisch unsichtbar. Sie ist aber der wirksamste operative Hebel.

Einordnung und Empfehlung

Die ehrlichste Schlussfolgerung ist auch hier nicht, dass ein Ansatz gewinnt, sondern dass sie verschiedene Schichten desselben Problems abdecken:

  • Modell-Labels (AI Energy Score, MLPerf Power, EcoLogits) sind die Auswahl- und Vergleichsschicht. Sie helfen Entwicklern und Beschaffern, unter Modellen zu wählen — bevor eine Zeile produktiv läuft. Wir empfehlen ausdrücklich den Bezug auf ortsbasierte Faktoren und, wo verfügbar, mehrindikatoren-basierte Werkzeuge wie EcoLogits, das ADPe konsistent mit NADIKI ausweist.

  • NADIKI ist die Betriebs- und Bilanzierungsschicht. Es misst, was im realen Rechenzentrum tatsächlich verbraucht wird — über die gesamte Infrastruktur, inklusive grauer Emissionen und nicht-produktiver Verschwendung. Ein Label kann ein gutes Modell empfehlen; ob es im Betrieb effizient läuft, zeigt erst die reale Zurechnung.

  • Die Regulierung (EU AI Act, AFNOR, künftiges EU-Label) ist die Offenlegungs- und Beschaffungsschicht. Die anstehende EU-Konsultation zu einem „AI energy and emission label“ ist die entscheidende Weichenstellung. Hier plädieren wir dafür, ortsbasierte reale Strommixe und einen getrennt ausgewiesenen Ressourcenindikator zum Standard zu machen — beides Positionen, auf die das Feld ohnehin zuläuft, und beides Kern des NADIKI-Ansatzes.

Was fehlt, sind — wie schon beim SCI-Vergleich — die Brücken zwischen diesen Schichten: eine funktionale Einheit über NADIKI-Konten, die an SCI und die Modell-Labels anschlussfähig ist, und eine institutionalisierte Prüfschicht. Genau daran arbeiten wir. Die neue Generation von Inferenz-Labels bestätigt die Richtung von NADIKI in den beiden Grundsatzfragen Strommix und Ressourcentransparenz — und macht zugleich sichtbar, wo unsere nächste methodische Aufgabe liegt.