NADIKI: Fokus auf Inferenz — KI-Training vorerst ausgeklammert

NADIKI: Fokus auf Inferenz — KI-Training vorerst ausgeklammert

Das NADIKI-Projektteam hat entschieden, den ersten Anwendungstest auf Inferenz zu beschränken. Technische Realitäten beim KI-Training machen eine sinnvolle Umweltoptimierung derzeit unmöglich — die Indikatoren dafür liefert NADIKI trotzdem.

Das NADIKI-Projektteam hat den Anwendungsfokus für den ersten Test festgelegt: Inferenz. KI-Training ist damit nicht aus dem Scope gestrichen — die NADIKI-Komponenten laufen auf jeder Kubernetes-Workload und können auch Trainingsprozesse messen. Der Grund für die Priorisierung ist technischer Natur.

KI-Training profitiert massiv davon, wenn GPUs im selben Rechenzentrum gebündelt sind. InfiniBand ermöglicht die nötige Hochbandbreitigkeit zwischen den Beschleunigern. Verteiltes oder zeitversetztes Training — etwa um Strommix oder Auslastung zu berücksichtigen — ist unter diesen Bedingungen technisch unrealistisch. Eine Verlagerung von Trainingsworkloads nach Umweltkriterien ist heute kein praktikabler Hebel.

Was NADIKI trotzdem leistet: Die Methode stellt die Indikatoren bereit, die KI-Labore bräuchten, um solche Entscheidungen langfristig auf Basis von Umweltdaten zu treffen. Die Grundlage für transparente, umweltbewusste Planung von KI-Infrastruktur ist damit gelegt — auch wenn der Moment für ihre Anwendung im Training noch nicht gekommen ist.

Related publications

None