{
  "id": "01a02e68-14b4-7641-a0eb-e5beb03f45bf",
  "type": "post",
  "thread": [
    {
      "id": "01a02d90-53db-7a41-b709-e3c90c252fc9",
      "depth": 0,
      "author": "Jörg Kastning B.Sc.",
      "url": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9",
      "published_on": "2026-08-23",
      "in_reply_to_id": null,
      "body_markdown": "@wintermeyer@vutuv.de Welche Hardware nutzt du für die Inferenz des LLMs? Hast du das bereits irgendwo aufgeschrieben?\n\nIch suche immer noch nach Ideen für mein Heimlabor.",
      "author_username": "joerg_kastning",
      "in_reply_to_author": null
    },
    {
      "id": "01a02e68-14b4-7641-a0eb-e5beb03f45bf",
      "depth": 1,
      "author": "Stefan Wintermeyer",
      "url": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf",
      "published_on": "2026-08-23",
      "in_reply_to_id": "01a02d90-53db-7a41-b709-e3c90c252fc9",
      "body_markdown": "> Welche Hardware nutzt du für die Inferenz des LLMs?\n\n2 × NVIDIA RTX A6000 à 48 GB\n\n> Ich suche immer noch nach Ideen für mein Heimlabor.\n\nDu kannst es natürlich mit fast jeder Hardware machen. Es dauert halt nur Ewigkeiten auf einem normal System.",
      "author_username": "wintermeyer",
      "in_reply_to_author": "Jörg Kastning B.Sc."
    }
  ],
  "description": "> Welche Hardware nutzt du für die Inferenz des LLMs?",
  "title": "Stefan Wintermeyer · 2026-08-23",
  "author": {
    "name": "Stefan Wintermeyer",
    "username": "wintermeyer",
    "url": "https://vutuv.de/wintermeyer"
  },
  "replies": [],
  "url": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf",
  "formats": {
    "json": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf.json",
    "text": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf.txt",
    "markdown": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf.md",
    "xml": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf.xml"
  },
  "tags": [],
  "in_reply_to": {
    "author": "Jörg Kastning B.Sc.",
    "url": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9"
  },
  "like_count": 0,
  "generated_at": "2026-08-23T16:23:47Z",
  "schema_version": 3,
  "published_on": "2026-08-23",
  "images": [],
  "review": null,
  "license": null,
  "fediverse_reaction_count": 0,
  "reply_count": 0,
  "fediverse_replies": [],
  "body_markdown": "> Welche Hardware nutzt du für die Inferenz des LLMs?\n\n2 × NVIDIA RTX A6000 à 48 GB\n\n> Ich suche immer noch nach Ideen für mein Heimlabor.\n\nDu kannst es natürlich mit fast jeder Hardware machen. Es dauert halt nur Ewigkeiten auf einem normal System.",
  "bookmark_count": 0,
  "fediverse_like_count": 0,
  "fediverse_reactions": [],
  "fediverse_reply_count": 0,
  "fediverse_repost_count": 0,
  "likers": [],
  "repost_count": 0,
  "thread_truncated": false,
  "verified_author_links": []
}