Follow #kiinfrastruktur from Mastodon or any other Fediverse app and its public posts arrive in your timeline. No vutuv account needed.
@kiinfrastruktur@tags.vutuv.de
2 posts
đ Wissen fĂŒrs Kopfkissen: đ
Was steckt hinter dem Wasserverbrauch von KI?
Seit Monaten erscheinen Presseartikel, die den #Wasserverbrauch von KI kritisieren. Viele beinhalten keine weiteren ErklĂ€rungen und lassen den Leser rĂ€tselnd zurĂŒck.
Was bedeutet eigentlich #Wasserverbrauch in Bezug auf #Rechenzentren?
Ein produktiver KI-Assistent, der gut genutzt wird, sollte ein Erfolg sein. In der Public Cloud wird er stattdessen oft zum Kostenrisiko: Token-basierte Abrechnung bedeutet, dass die Rechnung linear mit dem Erfolg des Use Cases wĂ€chst. Je mehr Mitarbeitende den Assistenten nutzen, desto höher die monatlichen API-GebĂŒhren â der Erfolg des Systems bestraft sich in der Cloud selbst.
On-Premise-Infrastruktur funktioniert umgekehrt: Die Kostenkurve bleibt nach der initialen Investition flach, unabhÀngig davon, wie intensiv das System genutzt wird. In den meisten Enterprise-Szenarien liegt der wirtschaftliche Break-even zwischen Public-Cloud-Inferenz und On-Premise-Inferenz zwischen 12 und 24 Monaten Laufzeit.
Die BullSequana SH macht diese Rechnung planbar:
Cloud-Pilotierung ist ein guter Startpunkt fĂŒr einen neuen Use Case. Aber sobald er erfolgreich skaliert, verdient er eine Infrastruktur, deren Kosten nicht mit ihm mitwachsen.
