01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed post 01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed 0 Johannes Tigges https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed 2026-08-20 johannes_tigges Das ganze "digitale Souveranität" Thema wird immer gerne rumgereicht. Und für KI wirds ebenso so wichtig, wenn nicht wichtiger. Leider ist Deutschland hier auch wieder kurz vor abgehängt. Aber... @hetzner@mastodon.hetzner.social to the rescue. Da scheint gerade die Aufbau-Phase fürs Inference-Only Hosting mit OpenWeight-Modellen zu laufen. Aktuell Qwen 3.6 und das aktuelle Qwen 3.8. Und in dem Zusammenhang gibt's aktuell eine kostenlose Testphase mit Free-Tokens: https://docs.hetzner.com/general/company-and-policy/experiments/inference/ Qwen 3.8 scheint unter der Last zusammengebrochen zu sein, 3.6 reagiert. OpenCode hat es schon als direkt verwendbaren Provider integriert. Fragt sich ob das mit ZDR (Zero Data Retention) läuft und wie die zukünftigen Pläne für Flatrates, ZDR, andere Modelle wie DeepSeek V4 Flash und dergleichen aussehen. Sie sind an Feedback interessiert, sagt die Website. 01a038aa-a7b6-77c6-9632-e86e1b8b44dd 1 Alexander van der Steeg https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd 2026-08-25 01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed alexander_vds Wir haben das Thema bei uns im Rechenzentrum mit einer eigenen KI Einheit nun erledigt und könnten jedes Modell anbieten und nutzen ohne Internet und Datenabfluss. Daher muss die Frage gestattet sein, was nun "wahre digitale Souveränität" am Ende bedeutet? Und was sind die passenden Rahmenbedingungen dafür? Johannes Tigges 01a03925-ef8d-7c5e-b8bf-40c9b2a5da6b 2 Johannes Tigges https://vutuv.de/johannes_tigges/posts/01a03925-ef8d-7c5e-b8bf-40c9b2a5da6b 2026-08-25 01a038aa-a7b6-77c6-9632-e86e1b8b44dd johannes_tigges Das ist natürlich quasi eine der besten Lösungen. Aber nicht für jeden oder jede Skalierung so einfach möglich. Insofern ist das andere sicher ein wertvoller Ansatz für die bei denen es nicht gleich geht. Welche Hardware-Basis und Skalierung war es bei Dir? Was für Wirtschaftlichkeits-Berechnungen habt ihr angestellt? Alexander van der Steeg 01a03942-ce3a-7d99-8c22-ef68719aa6c3 3 Alexander van der Steeg https://vutuv.de/alexander_vds/posts/01a03942-ce3a-7d99-8c22-ef68719aa6c3 2026-08-25 01a03925-ef8d-7c5e-b8bf-40c9b2a5da6b alexander_vds Aktuell testen wir eine stärkere DGX Spark Einheit, die wir dann mehrfach als Cluster schalten können. Für uns ist das Thema als SaaS Anbieter eine Frage der Sichtweise, des Überlebens etc. Wir arbeiten schon seit 2023 mit KI (zuerst als Wrapper!), von daher wird das gar keine so große Umstellung sein außer das wir souverän etwas anbieten können! Johannes Tigges 01a03978-4dff-70e5-8cda-4fd376d7a38d 4 Johannes Tigges https://vutuv.de/johannes_tigges/posts/01a03978-4dff-70e5-8cda-4fd376d7a38d 2026-08-25 01a03942-ce3a-7d99-8c22-ef68719aa6c3 johannes_tigges Diese [Nvidia 1,5KW Workstation](https://www.nvidia.com/en-us/products/workstations/dgx-station/)? Alexander van der Steeg Das ganze "digitale Souveranität" Thema wird immer gerne rumgereicht. Und für KI wirds ebenso so wichtig, wenn nicht wichtiger. Leider ist Deutschland hier auch wieder kurz vor abgehängt. Aber... Johannes Tigges johannes_tigges https://vutuv.de/johannes_tigges Alexander van der Steeg https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd 2026-08-25 alexander_vds Wir haben das Thema bei uns im Rechenzentrum mit einer eigenen KI Einheit nun erledigt und könnten jedes Modell anbieten und nutzen ohne Internet und Datenabfluss. Daher muss die Frage gestattet sein, was nun "wahre digitale Souveränität" am Ende bedeutet? Und was sind die passenden Rahmenbedingungen dafür? https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed.json https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed.txt https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed.md https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed.xml hetzner LLM inference openweightmodels freebeer 2026-08-26T12:50:25Z 3 4 2026-08-20 2 1 Das ganze "digitale Souveranität" Thema wird immer gerne rumgereicht. Und für KI wirds ebenso so wichtig, wenn nicht wichtiger. Leider ist Deutschland hier auch wieder kurz vor abgehängt. Aber... @hetzner@mastodon.hetzner.social to the rescue. Da scheint gerade die Aufbau-Phase fürs Inference-Only Hosting mit OpenWeight-Modellen zu laufen. Aktuell Qwen 3.6 und das aktuelle Qwen 3.8. Und in dem Zusammenhang gibt's aktuell eine kostenlose Testphase mit Free-Tokens: https://docs.hetzner.com/general/company-and-policy/experiments/inference/ Qwen 3.8 scheint unter der Last zusammengebrochen zu sein, 3.6 reagiert. OpenCode hat es schon als direkt verwendbaren Provider integriert. Fragt sich ob das mit ZDR (Zero Data Retention) läuft und wie die zukünftigen Pläne für Flatrates, ZDR, andere Modelle wie DeepSeek V4 Flash und dergleichen aussehen. Sie sind an Feedback interessiert, sagt die Website. 0 1 @lenzgr@mastodon.social like https://mastodon.social/users/lenzgr 2026-08-21T08:44:09 mastodon.social @ai@channel.org announce https://channel.org/users/ai 2026-08-20T12:41:57 channel.org 0 1 Stefan Wintermeyer wintermeyer https://vutuv.de/wintermeyer Alexander van der Steeg alexander_vds https://vutuv.de/alexander_vds René Oelke reneoelke https://vutuv.de/reneoelke 3 false