Im Bereich Künstliche Intelligenz bleibt eine Frage bisher unbeantwortet: Was sind die ökologischen Kosten des Trainings und der Inferenz von KI-Modellen? Um diese Frage zu beantworten, hat IDED (damals als SDIA bekannt) gemeinsam mit der Universität Stuttgart ein Kubernetes-Plugin entwickelt, das KI-Modellen ermöglicht, ihre eigene Umweltwirkung zu bestimmen. Die Arbeit wird als KI-Leuchtturmprojekt vom Bundesministerium für Umwelt und Verbraucherschutz (BMUV) gefördert.

Was ist NADIKI?

NADIKI entwickelt die Fähigkeit für KI-Modelle, ihre eigenen Umweltkosten innerhalb eines Kubernetes-Clusters zu bestimmen. Das ist besonders relevant während der Inferenzphase, wenn das Modell in Produktionsumgebungen eingesetzt und in Echtzeit abgefragt wird — oft über viele Rechenzentren, in unterschiedlichen Regionen und auf verschiedenen Hardware-Plattformen.

NADIKI nutzt einen dreistufigen Ansatz: 1) mathematische Schätzung auf Basis bewährter Formeln, 2) Messung über hardware- und softwarebasierte APIs und 3) direkte Anbindung an das Rechenzentrum zur Abfrage externer Strommessungen, Hardware-Informationen und Energiedaten.

Ziel ist eine ganzheitliche Sicht auf die Umweltwirkung — vom genutzten und rückgewonnenen Strom, über die eingesetzte Server- und Netzwerkhardware, bis hin zu Wassernutzung, Kühlsystemen und dem Rechenzentrumsgebäude selbst.

Transparenz als Grundlage für neue Standards

Ohne Daten aus der Infrastruktur einer Anwendung ist es für Entwickler und Betreiber unmöglich, die Umweltwirkung ihrer KI-Modelle zu verstehen. Mit NADIKI wird es möglich — und einfach — die Umweltkosten zu messen, zu überwachen und zu berichten: von Energie über Ressourcenverbrauch bis zu Emissionen.

Auf Basis der von NADIKI bereitgestellten Metriken lassen sich KI-Anwendungen optimieren:

• Serverressourcen maximieren: Bestehende Infrastruktur voll auslasten, damit keine unnötigen neuen Rechenzentren oder IT-Geräte gebaut werden.

• Tatsächlichen Ressourcenverbrauch verstehen: Signale aus der physischen Infrastruktur nutzen, um Training zu optimieren oder zu stoppen, wenn Ressourcenziele nicht erreicht werden — etwa nur dann trainieren, wenn erneuerbare Energie verfügbar ist.

• Informierte Entscheidungen über Ort und Zeitpunkt: Training in eine andere Region verlagern, Geschwindigkeit anpassen oder KI-Anwendungen zu Zeiten freier Kapazität oder günstiger Kühlbedingungen betreiben.

Was ist neu an NADIKI?

NADIKI stellt erstmals Umweltmetriken für KI-Modelle und -Anwendungen bereit, die auf Kubernetes laufen. Zusammen mit der Universität Stuttgart entwickelt NADIKI eine Datenerfassungssoftware für das Rechenzentrum, die eine einheitliche API für Kubernetes bereitstellt: Wie hoch ist der aktuelle Strommix? Wie viel erneuerbare Energie ist verfügbar? Laufen die Dieselgeneratoren? Wie viel Wasser wird aktuell für die Kühlung benötigt?

Innerhalb von Kubernetes aggregiert NADIKI die Informationen aus dem Rechenzentrum, der Server-Infrastruktur und der Orchestrierungsplattform, reichert sie an und liefert alle relevanten KPIs an die Anwendung und Monitoring-Systeme.

NADIKI nutzt eine Lebenszyklusanalyse (LCA), um den tatsächlichen Ressourcenverbrauch zu messen — inklusive regionaler Stromerzeugung, Einsatz von recycelter IT-Hardware und Wiederverwendung von Abwärme. Es unterstützt sowohl virtuelle als auch physische IT-Infrastruktur.

Die gesamte Software — sowohl für Kubernetes als auch für die digitale Infrastruktur — wird Open Source veröffentlicht und kann in bestehender IT-Infrastruktur eingesetzt werden.

KI-Leuchtturm: Förderung durch BMUV

Die NADIKI-Förderung wurde dem Projektteam durch Christian Kühn, Parlamentarischer Staatssekretär des BMUV, und Corinna Enders, Geschäftsführerin der Zukunft-Umwelt-Gesellschaft (ZUG), bei einer Veranstaltung für KI-Leuchtturmprojekte aus der Region Baden-Württemberg überreicht.

Die weiteren geförderten KI-Leuchtturmprojekte der Region: DESIRE4ELECTRONICS (KI zur Optimierung der Wiederverwertung kleiner Elektronikgeräte), KiKKa (KI für klimaneutrale Kläranlagen) und RecycleBot (KI zur Steigerung der Kunststoffrecyclingquote).