EU AI Act Governance Demo – High-Risk Medical AI (SaMD)
Projektübersicht
In diesem Projekt zeige ich ein praxisnahes Governance-Demo für ein medizinisches KI-System im Sinne des EU AI Act (High-Risk, SaMD-ähnlich). Der Fokus liegt nicht auf Produktentwicklung, sondern auf der Frage: Wie lassen sich regulatorische Anforderungen in prüfbare, nachvollziehbare Evidenz übersetzen? Das Demo ist bewusst als Schulungs- und Diskussionsgrundlage konzipiert – geeignet für Bildungsträger, Governance-Trainings und interdisziplinäre Reviews.
Performance Metriken
Explainability (Grad-CAM, SHAP)
Lineage & Auditability
Menschliche Aufsicht verankert
Die Herausforderung
Im medizinischen Hochrisiko-Kontext verlangt der EU AI Act u. a.: Nachvollziehbarkeit von Daten- und Modellentscheidungen; Erklärbarkeit für betroffene Entscheidungen; Menschliche Aufsicht statt autonomer Entscheidungen; Protokollierung und Auditierbarkeit. Zentrale Herausforderung: Diese Pflichten bleiben oft abstrakt oder dokumentenlastig – ohne überprüfbare Evidenz. Ziel war es daher, typische Governance-Lücken sichtbar zu machen, statt sie zu kaschieren.
Die Lösung
Das Projekt setzt auf ein strukturiertes Governance-Setup entlang des AI-Inference-Flows: Lineage & Data Flow für konzeptionelle Nachvollziehbarkeit; Explainability mit Grad-CAM (Bilddaten) und SHAP (tabellarische Daten); Bias & Robustness mit einfachen, erklärbaren Proxy-Signalen; Auditability & Human Oversight mit Logs, Review-Regeln und klarer Nicht-Autonomie. Alle Elemente sind als Artefakte gedacht – nicht als theoretische Konzepte.
Ergebnisse
- Regulatorische Anforderungen werden sichtbar und prüfbar
- Entscheidungen sind erklärbar auf Case-Ebene
- Bias- und Risiko-Signale sind früh erkennbar
- Menschliche Aufsicht ist prozessual verankert, nicht nur beschrieben
- Das Ergebnis ist kein „fertiges Produkt“, sondern ein auditierbarer Governance-Demonstrator