ISO/IEC 42001 ist der erste internationale Standard für KI-Managementsysteme (AIMS). Er wurde 2023 veröffentlicht und bietet einen Rahmen für Organisationen, um ihre KI-Nutzung verantwortungsvoll einzurichten, umzusetzen, aufrechtzuerhalten und kontinuierlich zu verbessern.
Was er umfasst
ISO 42001 ist ein Managementsystem-Standard — er definiert, wie eine Organisation KI steuern soll, nicht welche spezifische Technologie einzusetzen ist. Wesentliche Anforderungen umfassen:
- Risikobewertung — Identifizierung und Bewertung von Risiken im Zusammenhang mit KI-Systemen, einschliesslich unbeabsichtigter Verhaltensweisen, Verzerrungen und Leistungsverschlechterung
- Leistungsmessung — Festlegung von Zielen und Kennzahlen für die KI-Systemleistung mit Prozessen zur Überwachung und Messung
- Kontinuierliche Verbesserung — Aufrechterhaltung von Prozessen zur Erkennung, Reaktion und zum Lernen aus KI-Systemausfällen oder Leistungsabweichungen
- Dokumentation und Nachweise — Führung prüfbarer Aufzeichnungen, die belegen, dass KI-Systeme die festgelegten Ziele erfüllen
Die Implikation für das Testen
Klausel für Klausel kehrt ISO 42001 zum selben Thema zurück: Organisationen müssen messbare, evidenzbasierte Gewissheit haben, dass ihre KI-Systeme wie vorgesehen funktionieren.
Für nicht-deterministische Systeme kann dieser Nachweis nicht aus traditionellen deterministischen Tests stammen. Er erfordert statistische Methoden, die Leistung quantifizieren, Regression erkennen und die Art von strukturierten, reproduzierbaren Aufzeichnungen liefern können, die ein Prüfer überprüfen kann.
Genau das leistet probabilistisches Testen.
Relevanz für die Schweiz
Obwohl ISO 42001 ein internationaler Standard ist, wird er zunehmend von Schweizer Regulierungsbehörden und Branchenverbänden als Rahmen für verantwortungsvolle KI-Einführung referenziert. Organisationen, die KI-Governance-Reife nachweisen möchten — gegenüber der FINMA, Kunden oder der Öffentlichkeit — werden die ISO 42001-Zertifizierung als wertvolle Qualifikation betrachten.
Weiterführende Informationen
Für Open-Source-Werkzeuge, die ISO 42001-Compliance durch probabilistisches Testen unterstützen, besuchen Sie javai.org.