{
  "id": "01a038aa-a7b6-77c6-9632-e86e1b8b44dd",
  "type": "post",
  "thread": [
    {
      "id": "01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed",
      "depth": 0,
      "author": "Johannes Tigges",
      "url": "https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed",
      "published_on": "2026-08-20",
      "in_reply_to_id": null,
      "author_username": "johannes_tigges",
      "body_markdown": "Das ganze \"digitale Souveranität\" Thema wird immer gerne rumgereicht. Und für KI wirds ebenso so wichtig, wenn nicht wichtiger. Leider ist Deutschland hier auch wieder kurz vor abgehängt. Aber...\n\n@hetzner@mastodon.hetzner.social to the rescue. Da scheint gerade die Aufbau-Phase fürs Inference-Only Hosting mit OpenWeight-Modellen zu laufen. Aktuell Qwen 3.6 und das aktuelle Qwen 3.8.\n\nUnd in dem Zusammenhang gibt's aktuell eine kostenlose Testphase mit Free-Tokens: https://docs.hetzner.com/general/company-and-policy/experiments/inference/\n\nQwen 3.8 scheint unter der Last zusammengebrochen zu sein, 3.6 reagiert. \n\nOpenCode hat es schon als direkt verwendbaren Provider integriert.\n\nFragt sich ob das mit ZDR (Zero Data Retention) läuft und wie die zukünftigen Pläne für Flatrates, ZDR, andere Modelle wie DeepSeek V4 Flash und dergleichen aussehen. Sie sind an Feedback interessiert, sagt die Website.",
      "in_reply_to_author": null
    },
    {
      "id": "01a038aa-a7b6-77c6-9632-e86e1b8b44dd",
      "depth": 1,
      "author": "Alexander van der Steeg",
      "url": "https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd",
      "published_on": "2026-08-25",
      "in_reply_to_id": "01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed",
      "author_username": "alexander_vds",
      "body_markdown": "Wir haben das Thema bei uns im Rechenzentrum mit einer eigenen KI Einheit nun erledigt und könnten jedes Modell anbieten und nutzen ohne Internet und Datenabfluss.\n\nDaher muss die Frage gestattet sein, was nun \"wahre digitale Souveränität\" am Ende bedeutet? Und was sind die passenden Rahmenbedingungen dafür?",
      "in_reply_to_author": "Johannes Tigges"
    },
    {
      "id": "01a03925-ef8d-7c5e-b8bf-40c9b2a5da6b",
      "depth": 2,
      "author": "Johannes Tigges",
      "url": "https://vutuv.de/johannes_tigges/posts/01a03925-ef8d-7c5e-b8bf-40c9b2a5da6b",
      "published_on": "2026-08-25",
      "in_reply_to_id": "01a038aa-a7b6-77c6-9632-e86e1b8b44dd",
      "author_username": "johannes_tigges",
      "body_markdown": "Das ist natürlich quasi eine der besten Lösungen. Aber nicht für jeden oder jede Skalierung so einfach möglich. Insofern ist das andere sicher ein wertvoller Ansatz für die bei denen es nicht gleich geht.\n\nWelche Hardware-Basis und Skalierung war es bei Dir? Was für Wirtschaftlichkeits-Berechnungen habt ihr angestellt?",
      "in_reply_to_author": "Alexander van der Steeg"
    },
    {
      "id": "01a03942-ce3a-7d99-8c22-ef68719aa6c3",
      "depth": 3,
      "author": "Alexander van der Steeg",
      "url": "https://vutuv.de/alexander_vds/posts/01a03942-ce3a-7d99-8c22-ef68719aa6c3",
      "published_on": "2026-08-25",
      "in_reply_to_id": "01a03925-ef8d-7c5e-b8bf-40c9b2a5da6b",
      "author_username": "alexander_vds",
      "body_markdown": "Aktuell testen wir eine stärkere DGX Spark Einheit, die wir dann mehrfach als Cluster schalten können.\n\nFür uns ist das Thema als SaaS Anbieter eine Frage der Sichtweise, des Überlebens etc.\n\nWir arbeiten schon seit 2023 mit KI (zuerst als Wrapper!), von daher wird das gar keine so große Umstellung sein außer das wir souverän etwas anbieten können!",
      "in_reply_to_author": "Johannes Tigges"
    },
    {
      "id": "01a03978-4dff-70e5-8cda-4fd376d7a38d",
      "depth": 4,
      "author": "Johannes Tigges",
      "url": "https://vutuv.de/johannes_tigges/posts/01a03978-4dff-70e5-8cda-4fd376d7a38d",
      "published_on": "2026-08-25",
      "in_reply_to_id": "01a03942-ce3a-7d99-8c22-ef68719aa6c3",
      "author_username": "johannes_tigges",
      "body_markdown": "Diese [Nvidia 1,5KW Workstation](https://www.nvidia.com/en-us/products/workstations/dgx-station/)?",
      "in_reply_to_author": "Alexander van der Steeg"
    }
  ],
  "description": "Wir haben das Thema bei uns im Rechenzentrum mit einer eigenen KI Einheit nun erledigt und könnten jedes Modell anbieten und nutzen ohne Internet und Datenabfluss.",
  "title": "Alexander van der Steeg · 2026-08-25",
  "author": {
    "name": "Alexander van der Steeg",
    "username": "alexander_vds",
    "url": "https://vutuv.de/alexander_vds"
  },
  "replies": [
    {
      "author": "Johannes Tigges",
      "url": "https://vutuv.de/johannes_tigges/posts/01a03925-ef8d-7c5e-b8bf-40c9b2a5da6b",
      "published_on": "2026-08-25",
      "author_username": "johannes_tigges",
      "body_markdown": "Das ist natürlich quasi eine der besten Lösungen. Aber nicht für jeden oder jede Skalierung so einfach möglich. Insofern ist das andere sicher ein wertvoller Ansatz für die bei denen es nicht gleich geht.\n\nWelche Hardware-Basis und Skalierung war es bei Dir? Was für Wirtschaftlichkeits-Berechnungen habt ihr angestellt?"
    }
  ],
  "url": "https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd",
  "formats": {
    "json": "https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd.json",
    "text": "https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd.txt",
    "markdown": "https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd.md",
    "xml": "https://vutuv.de/alexander_vds/posts/01a038aa-a7b6-77c6-9632-e86e1b8b44dd.xml"
  },
  "tags": [],
  "in_reply_to": {
    "author": "Johannes Tigges",
    "url": "https://vutuv.de/johannes_tigges/posts/01a01f17-b3a7-7158-8ac9-d9ebd3cc37ed"
  },
  "generated_at": "2026-08-26T13:47:19Z",
  "schema_version": 3,
  "like_count": 0,
  "published_on": "2026-08-25",
  "images": [],
  "license": null,
  "review": null,
  "fediverse_reaction_count": 0,
  "reply_count": 1,
  "fediverse_replies": [],
  "body_markdown": "Wir haben das Thema bei uns im Rechenzentrum mit einer eigenen KI Einheit nun erledigt und könnten jedes Modell anbieten und nutzen ohne Internet und Datenabfluss.\n\nDaher muss die Frage gestattet sein, was nun \"wahre digitale Souveränität\" am Ende bedeutet? Und was sind die passenden Rahmenbedingungen dafür?",
  "bookmark_count": 0,
  "fediverse_like_count": 0,
  "fediverse_reactions": [],
  "fediverse_reply_count": 0,
  "fediverse_repost_count": 0,
  "likers": [],
  "repost_count": 0,
  "thread_truncated": false,
  "verified_author_links": []
}