Mit der Verabschiedung des EU AI Act entsteht erstmals ein umfassender regulatorischer Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union. Besonders im Fokus stehen KI-Systeme mit erhöhtem Risiko, deren Einsatz Auswirkungen auf Sicherheit, Gesundheit oder Grundrechte haben kann. Etablierte Disziplinen wie funktionale Sicherheit und Cybersecurity gewinnen dadurch zusätzlich an Bedeutung.
Der EU AI Act verfolgt einen risikobasierten Ansatz und teilt KI-Systeme in Klassen ein – von minimalem bis hin zu inakzeptablem Risiko. Hochrisiko-KI-Systeme unterliegen strengen Anforderungen an Transparenz, Nachvollziehbarkeit, Datenqualität und Robustheit. Diese überschneiden sich mit bestehenden Regelwerken: strukturierte Entwicklungsprozesse, systematische Risikoanalysen und dokumentierte Prüfverfahren sind zentrale Elemente sowohl im regulatorischen Kontext als auch in etablierten Normen.
Funktionale Sicherheit befasst sich mit der Vermeidung unvertretbarer Risiken durch fehlerhafte Systeme; Normen wie IEC 61508 oder sektorspezifische Ableitungen definieren Anforderungen über den gesamten Lebenszyklus. KI-basierte Komponenten stellen dabei besondere Herausforderungen dar, da ihr Verhalten häufig datengetrieben und nicht vollständig deterministisch ist – Trainingsdaten, Modellvalidierung und kontinuierliches Lernen erfordern eine Erweiterung klassischer Sicherheitsbetrachtungen.
Auch Cybersecurity ist ein wesentlicher Faktor: Angriffe auf Daten, Modelle oder Schnittstellen können Integrität und Verlässlichkeit eines Systems beeinträchtigen. Standards wie ISO/SAE 21434 oder ISO/IEC 27001 adressieren Informationssicherheit und Cybersecurity-Managementsysteme. Parallel entwickeln Normungsorganisationen KI-spezifische Standards wie ISO/IEC 42001 für KI-Managementsysteme, deren Harmonisierung mit dem EU AI Act eine strukturierte Bewertung ermöglicht.
Technische und organisatorische Maßnahmen – etwa Dokumentation von Trainings- und Testdaten, Validierungs- und Verifikationsverfahren, Überwachung des Systemverhaltens im Betrieb, klare Rollen- und Verantwortlichkeitsdefinitionen sowie Prozesse für Änderungsmanagement und Incident Handling – sichern Nachvollziehbarkeit und Transparenz. In diesem Umfeld gewinnen unabhängige Prüf-, Inspektions- und Zertifizierungsleistungen an Bedeutung; intellcert bietet entsprechende Dienstleistungen mit Bezug zu funktionaler Sicherheit, Cybersecurity und KI an.