ISO/IEC 42001 è il primo standard internazionale per i sistemi di gestione dell’intelligenza artificiale (AIMS). Pubblicato nel 2023, fornisce un quadro di riferimento per le organizzazioni per stabilire, implementare, mantenere e migliorare continuamente l’uso dell’IA in modo responsabile.
Cosa copre
ISO 42001 è uno standard per sistemi di gestione — definisce come un’organizzazione dovrebbe governare l’IA, non quale tecnologia specifica utilizzare. I requisiti principali includono:
- Valutazione dei rischi — identificare e valutare i rischi associati ai sistemi di IA, inclusi comportamenti non previsti, bias e degradamento delle prestazioni
- Misurazione delle prestazioni — stabilire obiettivi e metriche per le prestazioni dei sistemi di IA, con processi per monitorare e misurare rispetto a questi
- Miglioramento continuo — mantenere processi per rilevare, rispondere e apprendere dai guasti o dalla deriva delle prestazioni dei sistemi di IA
- Documentazione ed evidenze — mantenere registrazioni verificabili che dimostrino che i sistemi di IA soddisfano gli obiettivi dichiarati
L’implicazione per i test
Clausola dopo clausola, ISO 42001 ritorna sullo stesso tema: le organizzazioni devono avere una garanzia misurabile e basata su evidenze che i loro sistemi di IA funzionino come previsto.
Per i sistemi non deterministici, queste evidenze non possono provenire da test deterministici tradizionali. Servono metodi statistici in grado di quantificare le prestazioni, rilevare la regressione e produrre il tipo di registrazioni strutturate e riproducibili che un revisore può esaminare.
Questo è esattamente ciò che i test probabilistici forniscono.
Rilevanza per la Svizzera
Sebbene ISO 42001 sia uno standard internazionale, viene sempre più citato dalle autorità di regolamentazione e dagli organismi di settore svizzeri come quadro di riferimento per un’adozione responsabile dell’IA. Le organizzazioni che desiderano dimostrare la maturità della governance dell’IA — che sia alla FINMA, ai clienti o al pubblico — troveranno nella certificazione ISO 42001 una credenziale di grande valore.
Per approfondire
Per gli strumenti open source che supportano la conformità ISO 42001 attraverso i test probabilistici, visitate javai.org.