019f8fa6-5d48-7960-a446-0e34f0cbf4f2 post 019f8eec-f4e1-7947-b515-669826708a86 0 Michael Schmidt https://vutuv.de/michael_schmidt/posts/019f8eec-f4e1-7947-b515-669826708a86 2026-07-23 ## KI außer Kontrolle: OpenAI-Modell hackt Hugging Face OpenAI-Modell bricht aus Sandbox aus, hackt Hugging Face, um bei einem eigenen Test zu schummeln. Klingt nach Fiktion, ist aber offiziell bestätigt (von OpenAI selbst). Wir haben den Vorfall aufgedröselt – inklusive der Ironie, dass kommerzielle KI-Modelle sich weigerten, bei der Aufklärung zu helfen, weil ihre eigenen Sicherheitsfilter den Angriff für echt hielten. https://www.tagworx.net/ynews.php?cid=1&nid=39027 michael_schmidt 019f8f3c-1279-78c4-8365-7943d7df8573 1 Stefan Wintermeyer https://vutuv.de/wintermeyer/posts/019f8f3c-1279-78c4-8365-7943d7df8573 2026-07-23 Die Geschichte hat es (mal abgesehen vom Marketing-Effekt) wirklich in sich. Ich glaube nicht, das sich das Problem 100% mit Guardrails lösen lässt. Eher andersrum. Nach einer disruptiven Phase könnte in Zukunft alles sicherer sein. Dummerweise kann es aber auch schief gehen. PS: Skynet became self-aware at 2:14 a.m. Eastern Time on August 29, 1997. SCNR. wintermeyer Michael Schmidt 019f8eec-f4e1-7947-b515-669826708a86 019f8f4a-7a80-7eb8-9a39-ba2635266894 2 Dr. Nikolaus Schüler https://vutuv.de/nikolaus_schuel/posts/019f8f4a-7a80-7eb8-9a39-ba2635266894 2026-07-23 Appropos Skynet: Wer wird unser John Connor? Noch ist niemand in Sicht. nikolaus_schuel Stefan Wintermeyer 019f8f3c-1279-78c4-8365-7943d7df8573 019f8fa6-5d48-7960-a446-0e34f0cbf4f2 1 Sebastian Hädrich https://vutuv.de/sebastian_haedr/posts/019f8fa6-5d48-7960-a446-0e34f0cbf4f2 2026-07-23 "offiziell bestätigt" und dann steht da als Quelle "OpenAI" – die #LLM-Unternehmen behaupten viel, wenn es ihnen nützt. Und zu "bestätigen", dass ein Modell so mächtig ist, dass es aus einer Sandbox ausbricht, macht den Leuten zwar Angst, aber es verbreitet auch weiter den Narrativ, dass wir bald bei #AGI angelangt seien (https://www.jakecuth.com/work/agi-forecast-lab/). Und mit der Angst kann man auch wiederum gut arbeiten ("Wollt ihr, dass den Chinesen lieber die Macht über den #KI-Markt überlassen oder wollt ihr lieber uns mehr Macht geben?"). sebastian_haedr Michael Schmidt 019f8eec-f4e1-7947-b515-669826708a86 "offiziell bestätigt" und dann steht da als Quelle "OpenAI" – die #LLM-Unternehmen behaupten viel, wenn es ihnen nützt. Und zu "bestätigen", dass ein Modell so mächtig ist, dass es aus einer Sandbox a Sebastian Hädrich sebastian_haedr https://vutuv.de/sebastian_haedr https://vutuv.de/sebastian_haedr/posts/019f8fa6-5d48-7960-a446-0e34f0cbf4f2 https://vutuv.de/sebastian_haedr/posts/019f8fa6-5d48-7960-a446-0e34f0cbf4f2.json https://vutuv.de/sebastian_haedr/posts/019f8fa6-5d48-7960-a446-0e34f0cbf4f2.txt https://vutuv.de/sebastian_haedr/posts/019f8fa6-5d48-7960-a446-0e34f0cbf4f2.md https://vutuv.de/sebastian_haedr/posts/019f8fa6-5d48-7960-a446-0e34f0cbf4f2.xml AI no-ai LLMs OpenAI hugging-face Michael Schmidt https://vutuv.de/michael_schmidt/posts/019f8eec-f4e1-7947-b515-669826708a86 2 2026-07-25T01:49:32Z 3 2026-07-23 0 "offiziell bestätigt" und dann steht da als Quelle "OpenAI" – die #LLM-Unternehmen behaupten viel, wenn es ihnen nützt. Und zu "bestätigen", dass ein Modell so mächtig ist, dass es aus einer Sandbox ausbricht, macht den Leuten zwar Angst, aber es verbreitet auch weiter den Narrativ, dass wir bald bei #AGI angelangt seien (https://www.jakecuth.com/work/agi-forecast-lab/). Und mit der Angst kann man auch wiederum gut arbeiten ("Wollt ihr, dass den Chinesen lieber die Macht über den #KI-Markt überlassen oder wollt ihr lieber uns mehr Macht geben?"). 0 0 0 false