Der EU AI Act fragt: Können Sie das erklären?
Seit August 2024 ist der EU AI Act in Kraft. Für Hochrisiko-KI-Systeme, etwa in Kreditvergabe, Personalwesen, Medizin, kritischer Infrastruktur oder Strafverfolgung, reicht ein funktionierendes Modell nicht mehr aus. Betreiber müssen Datenherkunft, Modellverhalten und Entscheidungswege dokumentieren und auf Anfrage der Aufsichtsbehörde vorlegen können.
Das strukturelle Problem: Ein nicht-transparenter Hyperscaler-LLM-Dienst erzeugt genau die Dokumentationslücke, die der Kunde selbst nicht schließen kann. Wenn niemand erklären kann, warum ein Modell wie entschieden hat, ist die Konformitätsbewertung von Anfang an gefährdet.
Der AI Act steht dabei nicht allein:
DORA verlangt von Banken und Versicherern eine auditierbare Kontrolle über kritische IT-Dienstleister
NIS2 erweitert den Kreis regulierter Sektoren auf Energie, Gesundheit, Verkehr, Finanzmarktinfrastruktur und öffentliche Verwaltung
BaFin (BAIT/VAIT-Rundschreiben) fordert, dass jedes Modell, das Geschäftsentscheidungen beeinflusst, erklärbar und revisionsfest sein muss
Vier Regelwerke, eine gemeinsame Konsequenz: Wer KI-Verarbeitung nicht lückenlos nachweisen kann, trägt das Risiko, nicht der Anbieter.
Die BullSequana SH macht diesen Nachweis führbar:
On-Premise-Betrieb: Daten, Modellgewichte und Inferenzausgaben bleiben im eigenen Perimeter
Intel TDX/SGX für Confidential Computing und nachvollziehbare Verarbeitung
Fertigung in Angers (EU), französisch-staatlicher Hersteller: eine bis zum Hersteller nachvollziehbare Lieferkette
Keine Metadaten-Abflüsse in eine Nicht-EU-Cloud
Compliance wird dann zur Checkliste, wenn die Architektur sie von Anfang an unterstützt, und nicht zum Projekt, das erst nach dem Audit beginnt.