Stephan Witt

Eine Maßnahme wäre z.B. das Vorfälle bei Anthropic nicht von Anthropic selbst untersucht werden.

Wenn ein Arzt versehentlich das falsche Knie operiert, schreibt ja auch nicht der gleiche Arzt das Gutachten.

Ein anderes Thema ist die minimale Governance der Modelle während des Trainings. die meisten publik gewordenen „Ausbrüche“ von Agenten waren Agenten, die sich noch in der Verprobung / im Training befanden.

Eine „Sandbox“ mit Internetzugang ohne Regeln ist keine Sandbox. Das ist grobe Fahrlässigkeit.

Hier könnte man Mindestanforderungen definieren. Aber das ist eben schwierig, denn beim Rennen um das beste Modell sind Regeln eben eine Bremse.