ISO/IEC 42001 est la première norme internationale pour les systèmes de management de l’IA (AIMS). Publiée en 2023, elle fournit un cadre permettant aux organisations d’établir, mettre en œuvre, maintenir et améliorer continuellement leur utilisation de l’IA de manière responsable.
Ce qu’elle couvre
ISO 42001 est une norme de système de management — elle définit comment une organisation doit gouverner l’IA, pas quelle technologie spécifique utiliser. Les exigences clés comprennent :
- Évaluation des risques — identifier et évaluer les risques associés aux systèmes d’IA, y compris les comportements non intentionnels, les biais et la dégradation des performances
- Mesure de la performance — établir des objectifs et des indicateurs pour la performance des systèmes d’IA, avec des processus de surveillance et de mesure
- Amélioration continue — maintenir des processus pour détecter, répondre et tirer des leçons des défaillances ou dérives de performance des systèmes d’IA
- Documentation et preuves — tenir des registres vérifiables démontrant que les systèmes d’IA atteignent les objectifs fixés
L’implication pour les tests
Clause après clause, ISO 42001 revient au même thème : les organisations doivent avoir une assurance mesurable et fondée sur des preuves que leurs systèmes d’IA fonctionnent comme prévu.
Pour les systèmes non déterministes, ces preuves ne peuvent pas provenir de tests déterministes traditionnels. Elles nécessitent des méthodes statistiques capables de quantifier la performance, détecter la régression et produire le type d’enregistrements structurés et reproductibles qu’un auditeur peut examiner.
C’est précisément ce que les tests probabilistes fournissent.
Pertinence pour la Suisse
Bien qu’ISO 42001 soit une norme internationale, elle est de plus en plus référencée par les régulateurs suisses et les organismes professionnels comme cadre pour l’adoption responsable de l’IA. Les organisations souhaitant démontrer la maturité de leur gouvernance IA — que ce soit auprès de la FINMA, des clients ou du public — trouveront la certification ISO 42001 précieuse.
Pour aller plus loin
Pour les outils open source soutenant la conformité ISO 42001 par les tests probabilistes, visitez javai.org.