#LLMs

hex @Hex kolektiva.social 06.10.26, 10:27

A couple of billion years ago, cyanobacteria evolved the ability to photosynthesize. Suddenly they could turn the abundant atmospheric C02 into carbon for replicating themselves. The only side effect was the release of oxygen.

It was a monumental success, but it ended up turning Earth’s C02 centered atmosphere into an Oxygen centered one, leading to what may have been the first great extinction event. Cyanobacteria still exist, but they are no longer the dominant life on Earth.

Some things that thrive in one environment also change that environment such that they destroy the resource they need to thrive. We’re seeing this today with #LLMs They were only possible to create given massive amounts of clean human-generated content. As they dump their memetic effluent back into the data they feed from, they produce statistical distortions that degrade models trained on the same data. Like the cyanobacteria, they poison the air they breathe.

I encourage everyone to think in terms of systems, not simply components. Because, though this lens, it becomes obvious that some systems include within themselves the logic of their own collapse. And, like a Greek tragedy, it is often precisely a system’s strength that leads to its collapse.

Bernhard Biedermann @Bied digitalhub.social 03.10.26, 19:29

#KI eine Bilanz über Einsatz von #LLMs.

Mehrere (> 100) ungewollte und nicht beauftragte “Ausbrüche” um Fragen zu beantworten haben deutlich gemacht, generell ist KI aktuell nicht im offenen Internet sicher benutzbar. 🥶

Die Grundlagen der Sicherheit wie #DNS wurden und werden nicht hinreichend beachtet. Herr Andy Jenkinson (WHITETHORN SHIELD), hat dies sehr gut dokumentiert. Auch nach Warnungen haben die Konzerne, soweit mir bekannt, bislang keine Verbesserung der Sicherheit angestrebt.

Warum man mit LLMs Biowaffen Entwicklung verbieten bzw. abschirmen muss ist mit Logik nicht erklärbar. Man muss ja schon ein echter Zyniker sein wenn man ein #LLM auf Bio-Forschung trainiert. Ist vielleicht die Auslöschung der Menschheit ein sehr menschliches Programm, dass das Militär von den Bürgern bezahlt haben möchte? 🤢

Die Energiebilanz des KI-Training ist grottenschlecht, soweit man es aus der Presse entnehmen kann. Der Bau von neuen #KI-Rechenzentren soll mit Steuermitteln (10 Milliarden EUR) gefördert werden. Damit sollen die Verluste von der Allgemeinheit finanziert werden und die Gewinne privatisiert bleiben, oder?

#KI in der #Schule - mehrere Studien aus den USA zeigen die Fähigkeiten der Kinder nehmen stark ab wenn mittels #KI Aufgaben bewältigt werden. “#Lernen” wird deklassiert und konsumieren gefördert. Einige der Daten hat Herr Richard Self (via LinkedIn) gut aufbereitet.

Der sehr gute Artikel der taz beschreibt ausführlich warum die Fake-News der Bros nur der Ablenkung dienen. Die einfache Frage nach dem Hashtag#ROI wird seit Beginn des Hype nicht beantwortet. Stattdessen werden wir mit Hashtag#AGI, Krebsforschung, Rettung des Klimas, etc. zugeschüttet. 😭

Aus meiner Sicht ist der KI-Hype ein Pyramiden-System um die Naiven abzuzocken. Zentralisieren und der Ausbau der Überwachung ist der Nebeneffekt.

Natürlich geht es den Autokraten darum die anlasslose #Überwachung zu etablieren. Das ist ein Ziel, das leider auch in der #EU großen Anklang findet. #Zensursula lässt grüßen. Seit 2009 wird immer wieder versucht die Bürger nahtlos zu überwachen. Dies ist aber in einer #Demokratie grundsätzlich illegal. Anders wäre es wenn es eine Diktatur ist, da wäre es die Grundlage.

#KI hat seit langem einen recht hohen Nutzwert, zum Beispiel in Bereich der Medizin. Einfach gesagt, immer wenn es einen sehr eingeschränkten Bereich und eine große Datenmenge gibt, kann man mit #KI deutlich Zeit bei der Lösungssuche einsparen. Voraussetzung ist, die Daten sind lokal vorhanden und Dritte haben keinen Zugriff (um die Datenbasis zu vergiften oder um zu stehlen). 👍

Es gibt zahlreiche Experten die bei Bedarf weitere Details zu #KI und die “Digitale Souveränität” einbringen können, einfach fragen, dann weiß man mehr.

taz.de/Ja-KI-wird-uns-alle-toeten-Aber-…

KI Demokratie AGI LLM Schule

Jakob (he/him) @blauertee berlin.social 18.09.26, 14:56

Eine bekannte Person hat von deren Therapeutin einen Zettel vorgelegt bekommen, dass Sitzungen und Zukunft von einer #KI der Firma #VIAHealthTech mitgeschnitten und ausgewertet werden, sie soll das unterschreiben.

Laut ViaHeathTech alles DSGVO konform und Schweigepflicht wird gewahrt.

Weiß er was dazu finde wenig Infos die sich kritisch damit auseinander setzen.

fedihelp ai llms Datenschutz medizin

+3 Less

psychologie therapie psychotherapie

Johannes Tigges 26.08.26, 21:18

Die neueste LLM-Modell Einführungsstory: Ox Alpha aka GLM 5.3 Flash.

heise.de/hintergrund/…

OpenCode hatte in das in ihrem Go/Zen Programm auch der Meute zur Verfügung gestellt und massiv Durchsatz produziert. Und tolle Statistiken produziert:

opencode.ai/data

Und das beste: Die Open Weights dazu sind schon draußen:

huggingface.co/zai-org/…

oxalpha opencode openweights LLMs Aiassistedcoding

0

Andres Correa Casablanca 24.08.26, 17:56 edited

This afternoon a couple of my CI/CD pipelines broke because a user deleted all their their public repositories from Github.

I suppose many people are starting to be fed up with all what’s going on with big companies stealing our code to train their LLMs, or maybe it’s something else… who knows. It’s not like we have a single reason to be discontent with Github / Microsoft.

Anyway… I started reviewing all my projects to ensure that I mirror all my critical dependencies so I don’t suffer the same problem again.

AI GitHub LLMs CICD

1

Michael Schmidt 23.07.26, 14:22

KI außer Kontrolle: OpenAI-Modell hackt Hugging Face

OpenAI-Modell bricht aus Sandbox aus, hackt Hugging Face, um bei einem eigenen Test zu schummeln. Klingt nach Fiktion, ist aber offiziell bestätigt (von OpenAI selbst).

Wir haben den Vorfall aufgedröselt – inklusive der Ironie, dass kommerzielle KI-Modelle sich weigerten, bei der Aufklärung zu helfen, weil ihre eigenen Sicherheitsfilter den Angriff für echt hielten.

tagworx.net/ynews.php?cid=1&nid=39027

OpenAI Hugging Face KI-Sicherheit Cyberangriff

2

Sebastian Hädrich 23.07.26, 17:44

“offiziell bestätigt” und dann steht da als Quelle “OpenAI” – die #LLM-Unternehmen behaupten viel, wenn es ihnen nützt. Und zu “bestätigen”, dass ein Modell so mächtig ist, dass es aus einer Sandbox ausbricht, macht den Leuten zwar Angst, aber es verbreitet auch weiter den Narrativ, dass wir bald bei #AGI angelangt seien (jakecuth.com/work/…). Und mit der Angst kann man auch wiederum gut arbeiten (“Wollt ihr, dass den Chinesen lieber die Macht über den #KI-Markt überlassen oder wollt ihr lieber uns mehr Macht geben?”).

AI LLMs OpenAI hugging-face NoAI

0

LLMs

Follow from the Fediverse

Posts with this tag

KI außer Kontrolle: OpenAI-Modell hackt Hugging Face

Keyboard shortcuts

Navigation

Actions

General