{
  "id": "01a02d90-53db-7a41-b709-e3c90c252fc9",
  "type": "post",
  "thread": [
    {
      "id": "01a02d90-53db-7a41-b709-e3c90c252fc9",
      "depth": 0,
      "author": "Jörg Kastning B.Sc.",
      "url": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9",
      "published_on": "2026-08-23",
      "in_reply_to_id": null,
      "author_username": "joerg_kastning",
      "body_markdown": "@wintermeyer@vutuv.de Welche Hardware nutzt du für die Inferenz des LLMs? Hast du das bereits irgendwo aufgeschrieben?\n\nIch suche immer noch nach Ideen für mein Heimlabor.",
      "in_reply_to_author": null
    },
    {
      "id": "01a02e68-14b4-7641-a0eb-e5beb03f45bf",
      "depth": 1,
      "author": "Stefan Wintermeyer",
      "url": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf",
      "published_on": "2026-08-23",
      "in_reply_to_id": "01a02d90-53db-7a41-b709-e3c90c252fc9",
      "author_username": "wintermeyer",
      "body_markdown": "> Welche Hardware nutzt du für die Inferenz des LLMs?\n\n2 × NVIDIA RTX A6000 à 48 GB\n\n> Ich suche immer noch nach Ideen für mein Heimlabor.\n\nDu kannst es natürlich mit fast jeder Hardware machen. Es dauert halt nur Ewigkeiten auf einem normal System.",
      "in_reply_to_author": "Jörg Kastning B.Sc."
    }
  ],
  "description": "@wintermeyer@vutuv.de Welche Hardware nutzt du für die Inferenz des LLMs? Hast du das bereits irgendwo aufgeschrieben?",
  "title": "Jörg Kastning B.Sc. · 2026-08-23",
  "author": {
    "name": "Jörg Kastning B.Sc.",
    "username": "joerg_kastning",
    "url": "https://vutuv.de/joerg_kastning"
  },
  "replies": [
    {
      "author": "Stefan Wintermeyer",
      "url": "https://vutuv.de/wintermeyer/posts/01a02e68-14b4-7641-a0eb-e5beb03f45bf",
      "published_on": "2026-08-23",
      "author_username": "wintermeyer",
      "body_markdown": "> Welche Hardware nutzt du für die Inferenz des LLMs?\n\n2 × NVIDIA RTX A6000 à 48 GB\n\n> Ich suche immer noch nach Ideen für mein Heimlabor.\n\nDu kannst es natürlich mit fast jeder Hardware machen. Es dauert halt nur Ewigkeiten auf einem normal System."
    }
  ],
  "url": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9",
  "formats": {
    "json": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9.json",
    "text": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9.txt",
    "markdown": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9.md",
    "xml": "https://vutuv.de/joerg_kastning/posts/01a02d90-53db-7a41-b709-e3c90c252fc9.xml"
  },
  "tags": [
    "GPU",
    "Inferenz",
    "self-hosting"
  ],
  "in_reply_to": null,
  "like_count": 1,
  "images": [],
  "generated_at": "2026-08-23T15:37:43Z",
  "schema_version": 3,
  "published_on": "2026-08-23",
  "review": null,
  "license": null,
  "fediverse_reaction_count": 0,
  "reply_count": 1,
  "fediverse_replies": [],
  "body_markdown": "@wintermeyer@vutuv.de Welche Hardware nutzt du für die Inferenz des LLMs? Hast du das bereits irgendwo aufgeschrieben?\n\nIch suche immer noch nach Ideen für mein Heimlabor.",
  "bookmark_count": 0,
  "fediverse_like_count": 0,
  "fediverse_reactions": [],
  "fediverse_reply_count": 0,
  "fediverse_repost_count": 0,
  "likers": [
    {
      "name": "Stefan Wintermeyer",
      "username": "wintermeyer",
      "url": "https://vutuv.de/wintermeyer"
    }
  ],
  "repost_count": 0,
  "thread_truncated": false,
  "verified_author_links": []
}