L’Autorité fédérale de surveillance des marchés financiers (FINMA) supervise les banques, les compagnies d’assurance et les autres institutions financières en Suisse. Avec l’accélération de l’adoption de l’IA dans le secteur, les attentes de la FINMA en matière de gestion des risques de modèles, de résilience opérationnelle et de gouvernance ont des implications significatives sur la manière dont les organisations déploient et surveillent les systèmes d’IA.
Ce que la FINMA attend
La FINMA ne dispose pas encore de réglementation spécifique à l’IA, mais son cadre de surveillance existant — en particulier concernant le risque de modèle et le risque opérationnel — s’applique directement aux systèmes d’IA :
- Validation des modèles — les institutions doivent valider les modèles avant le déploiement et de manière continue, en démontrant qu’ils fonctionnent dans des paramètres acceptables
- Gestion du risque opérationnel — les systèmes d’IA doivent être soumis aux mêmes contrôles de risque opérationnel que tout système critique, y compris la surveillance, la gestion des incidents et la continuité des activités
- Gouvernance et responsabilité — propriété et responsabilité claires pour les systèmes d’IA, avec des processus décisionnels documentés
- Auditabilité — la capacité d’expliquer et de démontrer comment les systèmes d’IA parviennent à leurs résultats
Pourquoi les tests probabilistes sont importants
Les tests logiciels traditionnels demandent : « Cette fonction retourne-t-elle le résultat correct ? » Pour les systèmes d’IA, la question devient : « Ce système fonctionne-t-il dans des limites statistiques acceptables, de manière cohérente, dans le temps ? »
L’attente de la FINMA en matière de validation continue des modèles et de surveillance des performances s’aligne directement avec les approches de tests probabilistes. En exécutant des tests d’hypothèses statistiques dans le cadre de l’intégration continue, les organisations peuvent produire le type de preuves vérifiables et reproductibles que les examens de surveillance exigent.
Pour aller plus loin
Pour les outils techniques implémentant les tests probabilistes, visitez javai.org.