Posts by Stephan Witt
Eine Maßnahme wäre z.B. das Vorfälle bei Anthropic nicht von Anthropic selbst untersucht werden.
Wenn ein Arzt versehentlich das falsche Knie operiert, schreibt ja auch nicht der gleiche Arzt das Gutachten.
Ein anderes Thema ist die minimale Governance der Modelle während des Trainings. die meisten publik gewordenen „Ausbrüche“ von Agenten waren Agenten, die sich noch in der Verprobung / im Training befanden.
Eine „Sandbox“ mit Internetzugang ohne Regeln ist keine Sandbox. Das ist grobe Fahrlässigkeit.
Hier könnte man Mindestanforderungen definieren. Aber das ist eben schwierig, denn beim Rennen um das beste Modell sind Regeln eben eine Bremse.
Ich vermute bei Vutuv hast Du das Schild bei Dir auf dem Tisch stehen?
Ja, weil es mir wichtig ist.
Aber ab einer gewissen Organisationsgröße ist es für die einzelne Person irrelevant, weil man oft nicht wirklich etwas bewegen kann. Das stumpft ab. Dann kommt es zu der “not my job” Mentalität. Bei vielen Organisationen ist das ganz fest in der DNA eingebrannt. Was könnten so manche Firma und Behörde produktiv sein, wenn es allen Mitarbeitern wirklich wichtig wäre.
Oft ruht man sich eben darauf aus, dass der Kunde ja in Review über die Qualität entscheidet. Mir persönlich ist das zu kurz gesprungen. Kein Kunde will im Review Mist präsentiert bekommen. Qualität fängt schon beim Anforderungsmanagement an und muss sich durch den kompletten Entwicklungszyklus ziehen.