FutureOfWork

Definitionsreihe, um in die KI-Welt einzusteigen. Möglichst einfach, mit Analogien aus dem Alltag.

Abschluss der Definitionsreihe, um in die KI-Welt einzusteigen.
Wie fandest du die Idee, was hast du mitgenommen? Konnte ich hiermit einen Mehrwert für dich generieren? Hast du bis zum Ende durchgehalten?

Übersicht: 1–7 erklären zunächst die KI selbst und den Umgang mit ihr. 8–11 zeigen, wie aus einem Chatbot ein Arbeitswerkzeug wird. 12–15 öffnen am Ende die Tür zur technischen Ebene.

Generative KI
LLM
Prompt
Kontextfenster
Token
Halluzination
Markdown
Skills & AGENTS.md
KI-Agent
MCP
RAG
Offene & geschlossene Modelle
Gewichte
Quantisierung
Lokale KI / On-Device AI

Definitionsreihe, um in die KI-Welt einzusteigen. Möglichst einfach, mit Analogien aus dem Alltag.

15/15 – Lokale KI: Datenhoheit
Viele bekannte KI-Dienste laufen in großen Rechenzentren. Deine Anfrage wird an einen Server geschickt, dort verarbeitet und anschließend bekommst du die Antwort zurück. Ein KI-Modell kann aber auch lokal auf dem eigenen Computer oder direkt auf einem Gerät betrieben werden. Open-Weights-Modelle und Techniken wie Quantisierung haben dazu beigetragen, dass leistungsfähige KI inzwischen auf immer kleinerer Hardware ausgeführt werden kann.

Das kann besonders interessant sein, wenn sensible Daten das eigene Unternehmen oder Gerät möglichst nicht verlassen sollen oder eine KI auch ohne Internetverbindung verfügbar sein soll.

Dabei muss es nicht immer das größte und leistungsfähigste Modell sein. Gerade für spezielle Aufgaben kann eine kleine Edge-KI völlig ausreichen: Ein Babyphone erkennt beispielsweise anhand der Audiosignale, ob tatsächlich ein Baby weint, und ignoriert andere Geräusche. Eine günstige Kamera kann den Stand eines analogen Wasserzählers erkennen und ihn damit in eine Hausautomatisierung integrieren. Die KI läuft dabei direkt auf dem jeweiligen Gerät.

Alltagsbeispiel: Stell dir den Unterschied zwischen einem Restaurant und einem Privatkoch in deiner eigenen Küche vor. Im Restaurant gibst du deine Bestellung nach außen und bekommst das fertige Gericht zurück. Der Privatkoch arbeitet dagegen direkt bei dir zu Hause mit den Zutaten, die bereits dort vorhanden sind. Dafür musst du ihm allerdings auch Küche, Ausstattung und Arbeitsbedingungen bereitstellen.

Takeaway: Lokale KI bedeutet, dass das Modell dort läuft, wo auch deine Daten entstehen. Dadurch bekommst du mehr Kontrolle darüber, wo Informationen verarbeitet werden, kannst Anwendungen unabhängig vom Internet betreiben und KI direkt in Geräten einsetzen. Die Zukunft wird spannend, denn die technische Entwicklung macht immer leistungsfähigere Modelle direkt auf unseren eigenen Geräten nutzbar, ohne dass deine Daten dafür das Gerät verlassen müssen.

Damit schließt sich der Kreis unserer Serie: Von der Frage, was generative KI überhaupt ist, über Prompts, Kontext, Halluzinationen, Skills, Agenten und MCP bis hin zu einem KI-Modell, das direkt auf der eigenen Hardware arbeitet.