LLM

Tags

Follow from the Fediverse

Follow #llm from Mastodon or any other Fediverse app and its public posts arrive in your timeline. No vutuv account needed.

@llm@tags.vutuv.de

Your address is used once, to send you to your own server's follow dialog. It is never stored here.

Posts with this tag

40 posts

Filters
Grow Your Own Services 🌱 @homegrown social.growyourown.services

If you want to avoid FOSS which uses GenAI/LLMs, there’s a guide called “AI-free FOSS Alternatives” at:

🏡 codeberg.org/ethical-foss/…

It’s heavy on technical terms and detail, so it’s good for comparing different projects and navigating least-worst options, but does require some prior tech knowledge to understand.

It also has a section listing reasons why LLMs are problematic:

🏡 codeberg.org/ethical-foss/…

FOSS GenAI LLM AI AntiAI

Interessanter Artikel von @dirkriehle@hachyderm.io : dirkriehle.com/2026/…

Grundsätzlicher Take: Quellcodeverfügbarkeit ist das Premiumfeature, dementsprechend der Preis. Entspricht auch den in bestimmten Bereichen gängigen Wünschen nach Code Escrow - die dann idR mit erheblichem Premium zu bezahlen sind, sofern sie überhaupt verfügbar sind.

Open Source als Ganzes sollte meiner Meinung nach das “ist billiger” Argument restlos hinter sich lassen.

Zusammen mit dem “erzeugt kein Gewinn” “darf kein Geld verdienen” usw. Argumenten die leider viel zu häufig zu hören sind und zunehmen zu scheinen. Es kann ab einer gewissen Skalierung nur existieren wenn es Geld verdienen kann. Siehe dazu auch den Post im ersten Kommentar.

open source nachhaltigkeit incentives Betriebswirtschaft
open source nachhaltigkeit incentives Betriebswirtschaft
2
From other networks 3

stalw.art/blog/…

Nachvollziehbar aus der Position des Autors. Wird es die abschließende Lösung sein oder ist hier kein Brechen des so erschaffenen Moats mit LLM absehbar: unwahrscheinlich.

Wird es das ganze eher in die Kategorie “source available” befördern und Beiträge erschweren? Wahrscheinlich. Aber andererseits scheint das ohnehin nicht das Ziel des Autors zu sein eben solche zu bekommen.

Ansonsten: Spannende Software

stalwart open source LLM incentives AI
stalwart open source LLM incentives AI

Bei der Liste der häufigsten Sicherheitslücken OWASP für LLM-Anwendungen 2026 gibt es eine interessante Umkehrung.

Kurz zur Einordnung: #OWASP ist ein offenes Sicherheits-Netzwerk, dessen Listen die relevantesten Software-Risiken definieren. Die #LLM-Liste ist die Standardreferenz für Risiken in Anwendungen mit Sprachmodellen - von Chatbots bis zu KI-Agenten.

Fachleute stufen KI-Fehlinformation fast als unwichtig ein. Der Datensatz aus über 7.700 echten Vorfällen stuft es hingegen weit nach oben. Die größte Lücke zwischen Wahrnehmung und Wirklichkeit in der gesamten Liste, in einer schmerzhaften Richtung.

Warum ist das so? Ein KI-Modell formuliert flüssig und selbstbewusst. Wenn dieser Output eine Entscheidung oder einen Werkzeug-Aufruf beeinflusst, führt eine falsche Antwort zu einer falschen Handlung. Der Fehler landet anscheinend öfter als angenommen.

Für Führungskräfte heißt das: Das Risiko von KI-Fehlern liegt nicht im Text, sondern in dem, was Unternehmen mit dem Text anfangen. Ein nicht integriertes Modell nervt höchstens. Ein Modell jedoch, dessen Output ungeprüft in Prozesse fließt, trifft Entscheidungen.

Genau deshalb steht KI-Fehlinformation jetzt mittendrin auf der Liste statt unten.

genai.owasp.org/resource/…

#KI #Cybersecurity #Leadership

1
From other networks 2

1 reply 1 repost

@0xA1E8@infosec.exchange shared this

Already counted in the numbers above.

Moritz @preya mastodon.social

#GLM5.3 successfully rooted my #Amazon Fire HD 8 (Onyx, 10th gen, FW 7.3.3.1) Tablet. What a time to be alive. Took a couple of tries and many hours. Exploit is based on CVE-2023-6241 (Mali GPU) #LLM #HardwareHacking

📐 Diagrams as Code trifft KI: Diagramme pflegen statt zeichnen

Während meiner Vorbereitung auf den und im Kurs 🎓 zum Certified Professional for Requirements Engineering (IREB, FL) habe ich Diagramme deutlich intensiver und auch aus einer anderen Perspektive kennengelernt. Besonders spannend war es, anhand von User Stories eigene Diagramme zu interpretieren und auch zu erstellen – so wurde schnell klar, wie stark eine gute Visualisierung das gemeinsame Verständnis verbessert. 🧩

Auch in der Zusammenarbeit mit Git und GitLab konnte ich mit Mermaid experimentieren. Der Vorteil gegenüber MS Visio oder draw.io liegt für mich klar in der Versionierung: Diagramme liegen als Text im Repository, sind im Diff nachvollziehbar und lassen sich direkt mit dem Code weiterentwickeln. 🔄

Daher war die Folge mit Jacqui Read für mich besonders interessant: Genau um diese Verbindung ging es – und um den Einsatz von KI:

🛠️ #PlantUML, Mermaid und Structurizr haben unterschiedliche Stärken

🧩 Structurizr bietet ein Modell hinter den Diagrammen und unterstützt konsistente Sichten

🤖 KI kann Diagramme erstellen, konvertieren und korrigieren – aber kein Ersatz für Fachwissen sein

⚠️ Zu allgemeine Prompts führen schnell zu Halluzinationen; präzise Fragen und Review bleiben entscheidend

📊 C4 zeigt Struktur, Sequenz- und Aktivitätsdiagramme kommunizieren Verhalten

📝 Diagramme können in Spec-driven Development Kontext liefern und das Verständnis validieren

Mein Fazit: Diagrams as Code macht Architektur-Kommunikation wartbarer, und KI kann den Weg dorthin beschleunigen. Vertrauen entsteht aber nicht durch den Output – sondern durch Prüfung. ✅

Und: Hier gibt es bei mir auch noch mehr Potential zu lernen Diagramme selber zu erstellen. Nur so kann ich das Ergebnis einer KI auch überprüfen 😉

👉 Hier geht es zur Folge:

software-architektur.tv/2025/…

#SoftwareArchitecture #DiagramsAsCode #AI #LLM #Mermaid #PlantUML #Structurizr #C4Model #SpecDrivenDevelopment #RequirementsEngineering #Softwarearchitektur #KI #Architekturdokumentation #Git #GitLab

🤖 Transparenz-Hinweis: Dieser Beitrag wurde mit Unterstützung eines KI-Assistenten erstellt. Die Inhalte, Erfahrungen und Empfehlungen basieren auf meiner eigenen Praxis – die Formulierungshilfe kam von meinem digitalen Kollegen. 😉

SpecDrivenDevelopment RequirementsEngineering Architekturdokumentation
SpecDrivenDevelopment RequirementsEngineering Architekturdokumentation
From other networks 1

1 repost

@simsus@social.tchncs.de shared this

Already counted in the numbers above.

Florian Haas @xahteiwi mastodon.social

Take a Markdown file of appreciable length, say a thousand or so words, that has been line-wrapped at 80 characters. (Meaning, sentences start and end in the middle of blocks of text.)

Prompt your LLM with this:

“Reformat this file so that every line outside code blocks contains exactly one complete sentence.”

If your agent and model can do this correctly, on your first try, please let me know the agent/model combination.

Boosts for reach appreciated.

LLM OSPL OneSentencePerLine
Bernhard Biedermann @Bied digitalhub.social

#KI eine Bilanz über Einsatz von #LLMs.

Mehrere (> 100) ungewollte und nicht beauftragte “Ausbrüche” um Fragen zu beantworten haben deutlich gemacht, generell ist KI aktuell nicht im offenen Internet sicher benutzbar. 🥶

Die Grundlagen der Sicherheit wie #DNS wurden und werden nicht hinreichend beachtet. Herr Andy Jenkinson (WHITETHORN SHIELD), hat dies sehr gut dokumentiert. Auch nach Warnungen haben die Konzerne, soweit mir bekannt, bislang keine Verbesserung der Sicherheit angestrebt.

Warum man mit LLMs Biowaffen Entwicklung verbieten bzw. abschirmen muss ist mit Logik nicht erklärbar. Man muss ja schon ein echter Zyniker sein wenn man ein #LLM auf Bio-Forschung trainiert. Ist vielleicht die Auslöschung der Menschheit ein sehr menschliches Programm, dass das Militär von den Bürgern bezahlt haben möchte? 🤢

Die Energiebilanz des KI-Training ist grottenschlecht, soweit man es aus der Presse entnehmen kann. Der Bau von neuen #KI-Rechenzentren soll mit Steuermitteln (10 Milliarden EUR) gefördert werden. Damit sollen die Verluste von der Allgemeinheit finanziert werden und die Gewinne privatisiert bleiben, oder?

#KI in der #Schule - mehrere Studien aus den USA zeigen die Fähigkeiten der Kinder nehmen stark ab wenn mittels #KI Aufgaben bewältigt werden. “#Lernen” wird deklassiert und konsumieren gefördert. Einige der Daten hat Herr Richard Self (via LinkedIn) gut aufbereitet.

Der sehr gute Artikel der taz beschreibt ausführlich warum die Fake-News der Bros nur der Ablenkung dienen. Die einfache Frage nach dem Hashtag#ROI wird seit Beginn des Hype nicht beantwortet. Stattdessen werden wir mit Hashtag#AGI, Krebsforschung, Rettung des Klimas, etc. zugeschüttet. 😭

Aus meiner Sicht ist der KI-Hype ein Pyramiden-System um die Naiven abzuzocken. Zentralisieren und der Ausbau der Überwachung ist der Nebeneffekt.

Natürlich geht es den Autokraten darum die anlasslose #Überwachung zu etablieren. Das ist ein Ziel, das leider auch in der #EU großen Anklang findet. #Zensursula lässt grüßen. Seit 2009 wird immer wieder versucht die Bürger nahtlos zu überwachen. Dies ist aber in einer #Demokratie grundsätzlich illegal. Anders wäre es wenn es eine Diktatur ist, da wäre es die Grundlage.

#KI hat seit langem einen recht hohen Nutzwert, zum Beispiel in Bereich der Medizin. Einfach gesagt, immer wenn es einen sehr eingeschränkten Bereich und eine große Datenmenge gibt, kann man mit #KI deutlich Zeit bei der Lösungssuche einsparen. Voraussetzung ist, die Daten sind lokal vorhanden und Dritte haben keinen Zugriff (um die Datenbasis zu vergiften oder um zu stehlen). 👍

Es gibt zahlreiche Experten die bei Bedarf weitere Details zu #KI und die “Digitale Souveränität” einbringen können, einfach fragen, dann weiß man mehr.

taz.de/Ja-KI-wird-uns-alle-toeten-Aber-…

Charlotte Aten @caten mathstodon.xyz

So I’m about a month out from not being able to make ends meet financially. I finally just got moved into my new place and am able to take interviews online and job hunt more seriously. I decided to try #Indeed as a hopefully less evil alternative to #LinkedIn. Never used any of these sites before, only the American Mathematical Society’s job board (mathjobs.org).

They want a resume right away. Fine, I submit my CV. I then get a bunch of “AI summary” of various parts of my CV, all pretty much totally wrong. Okay, at least I can decline each of the suggestions. But then I get to this, where I must affirm that the LLM was fucking accurate. I don’t know, man, I don’t know if I want to pay my rent bad enough to click that box.

A website popup titled "Review Changes". Beside a triangle with an exclamation mark inside of it we see "This tool uses AI and it may make mistakes. There is then a checkbox, unchecked, beside the text "I have reviewed all changed made by AI and confirm they are accurate."

Two buttons follow. One says "Review all changes" and another says "Continue". The "Continue" button is greyed out, indicating that I can't click it until I check the box.
Roland Alton @rasos fairmove.net

KI lokal betreiben? Ich habe in den letzten Wochen an einem passenden Setup herumgetüftelt und bin mittlerweile sehr zufrieden. Mit dem aktuellen qwen3.8-27B Modell auf einem PC mit einer besseren Grafikkarte kann ich nun fast alles machen wofür ich früher #Claude Sonnet oder Opus gebraucht habe: Code Review, Fehler suchen und verbessern, übersetzen, READMEs schreiben oder etwas recherchieren. Hier in meinem Blogbeitrag gibt es die ganze Story: roland.alton.at/roland/…

ai localai llm
PC mit fetter Grafikkarte und Ente

Replying to @wintermeyer

Wie funktioniert das technisch ?😅

1

Ich habe im Serverraum ein paar Fachanwälte sitzen. Das PDF wird automatisch ausgedruckt, und die schreiben dann mit Kuli die Bewertungen rein. Danach wieder gescannt und per OCR zurück. Also quasi halbautomatisch. SCRN. 😂

Scherz beiseite: Ein Anwalt hat zu dem Thema ein eigenes Open-Source-Repository mit Prompts veröffentlicht: github.com/Klotzkette/arbeitszeugnispru…

Diese Prompts benutze ich mit in einem lokalen LLM. Aber es ist ziemlich rechenintensiv. Deshalb dauert es auch so lange. Und das mit zwei fetten NVIDIA-Karten.

Anwalt Arbeitszeugnis LLM
Anwalt Arbeitszeugnis LLM
From other networks 1
@BjornW@mastodon.social @BjornW mastodon.social

RE: infosec.exchange/@david_chisnall/…

This explains very well why “bad” code contributions by enthusiastic people can still be very worthwhile in the long run.

Also LLM’s will not share a drink with you at a conference reminiscing about that time you collaborated on a piece of code, or sharing stories about stuff happening in their life.

Opensource projects dismissing these social aspects are doomed in my view.

Keyboard shortcuts

Navigation

Home g h
Feed g f
Messages g m
Notifications g n
Your profile g p
Search /

Actions

Write a new post n
Send the post or message you are writing ⌘/Ctrl ↵
Next post in the feed j
Previous post in the feed k

General

Show this help ?
Close menus and dialogs Esc

The single-key shortcuts pause while you type, and are off on phones and tablets.