Post by Matthias Schmidt
Gartner sagt: Bis 2028 erleiden 40% der Infrastruktur- und Operations-Organisationen, die KI skalieren, eine geschäftskritische Störung wegen schwacher KI-Governance. Aus der Studie “Gartner Says Weak AI Governance Will Lead to Business-Critical Service Disruptions for 40% of I&O Organizations by 2028”: 95% der befragten I&O-Leader hatten in den letzten 12 Monaten mindestens einen Vorfall mit einem KI-Agenten. Aber nur 15% haben automatische Circuit Breaker, die einen durchdrehenden Agent stoppen.
Meine Haltung: Das eigentliche Problem ist nicht die Technik, sondern dass KI-Agenten wie Automatisierungsskripte behandelt werden. Gartners Empfehlung, jeden KI-Agenten als nicht-menschliche Identität in einem zentralen Registry zu erfassen, halte ich für die wichtigste Einzelmaßnahme der gesamten Studie. Kein Agent darf im Schatten laufen. Alles andere - Guardrails, Observability, Kill Switches - setzt voraus, dass man überhaupt weiß, was aktiv ist.
Frage an CIOs und CTOs: Wisst ihr aktuell, wie viele KI-Agenten in eurer Landschaft aktiv sind - und wer sie im Zweifel abschaltet?