Der EU AI Act fragt: Können Sie das erklÀren?
Seit August 2024 ist der EU AI Act in Kraft. FĂŒr Hochrisiko-KI-Systeme, etwa in Kreditvergabe, Personalwesen, Medizin, kritischer Infrastruktur oder Strafverfolgung, reicht ein funktionierendes Modell nicht mehr aus. Betreiber mĂŒssen Datenherkunft, Modellverhalten und Entscheidungswege dokumentieren und auf Anfrage der Aufsichtsbehörde vorlegen können.
Das strukturelle Problem: Ein nicht-transparenter Hyperscaler-LLM-Dienst erzeugt genau die DokumentationslĂŒcke, die der Kunde selbst nicht schlieĂen kann. Wenn niemand erklĂ€ren kann, warum ein Modell wie entschieden hat, ist die KonformitĂ€tsbewertung von Anfang an gefĂ€hrdet.
Der AI Act steht dabei nicht allein:
DORA verlangt von Banken und Versicherern eine auditierbare Kontrolle ĂŒber kritische IT-Dienstleister
NIS2 erweitert den Kreis regulierter Sektoren auf Energie, Gesundheit, Verkehr, Finanzmarktinfrastruktur und öffentliche Verwaltung
BaFin (BAIT/VAIT-Rundschreiben) fordert, dass jedes Modell, das GeschÀftsentscheidungen beeinflusst, erklÀrbar und revisionsfest sein muss
Vier Regelwerke, eine gemeinsame Konsequenz: Wer KI-Verarbeitung nicht lĂŒckenlos nachweisen kann, trĂ€gt das Risiko, nicht der Anbieter.
Die BullSequana SH macht diesen Nachweis fĂŒhrbar:
On-Premise-Betrieb: Daten, Modellgewichte und Inferenzausgaben bleiben im eigenen Perimeter
Intel TDX/SGX fĂŒr Confidential Computing und nachvollziehbare Verarbeitung
Fertigung in Angers (EU), französisch-staatlicher Hersteller: eine bis zum Hersteller nachvollziehbare Lieferkette
Keine Metadaten-AbflĂŒsse in eine Nicht-EU-Cloud
Compliance wird dann zur Checkliste, wenn die Architektur sie von Anfang an unterstĂŒtzt, und nicht zum Projekt, das erst nach dem Audit beginnt.
