Die Eidgenössische Finanzmarktaufsicht (FINMA) beaufsichtigt Banken, Versicherungen und andere Finanzinstitute in der Schweiz. Mit der zunehmenden KI-Einführung im Sektor haben die Erwartungen der FINMA an Modellrisikomanagement, operationelle Resilienz und Governance erhebliche Auswirkungen darauf, wie Organisationen KI-Systeme einsetzen und überwachen.
Was die FINMA erwartet
Die FINMA hat noch keine KI-spezifische Regulierung, aber ihr bestehendes Aufsichtsrahmenwerk — insbesondere in Bezug auf Modellrisiko und operationelles Risiko — gilt direkt für KI-Systeme:
- Modellvalidierung — Institute müssen Modelle vor dem Einsatz und laufend validieren und nachweisen, dass sie innerhalb akzeptabler Parameter funktionieren
- Operationelles Risikomanagement — KI-Systeme müssen denselben operationellen Risikokontrollen unterliegen wie jedes kritische System, einschliesslich Überwachung, Incident Management und Business Continuity
- Governance und Verantwortlichkeit — klare Zuständigkeit und Verantwortlichkeit für KI-Systeme mit dokumentierten Entscheidungsprozessen
- Prüfbarkeit — die Fähigkeit, zu erklären und nachzuweisen, wie KI-Systeme zu ihren Ergebnissen gelangen
Warum probabilistisches Testen wichtig ist
Traditionelles Software-Testing fragt: «Liefert diese Funktion die korrekte Ausgabe?» Bei KI-Systemen lautet die Frage: «Funktioniert dieses System innerhalb akzeptabler statistischer Grenzen, konsistent, über die Zeit?»
Die Erwartung der FINMA an laufende Modellvalidierung und Leistungsüberwachung stimmt direkt mit probabilistischen Testansätzen überein. Durch statistische Hypothesentests im Rahmen der kontinuierlichen Integration können Organisationen die Art von prüfbaren, reproduzierbaren Nachweisen liefern, die aufsichtsrechtliche Überprüfungen erfordern.
Weiterführende Informationen
Für technische Werkzeuge zur Implementierung probabilistischer Tests besuchen Sie javai.org.