L’Autorità federale di vigilanza sui mercati finanziari (FINMA) supervisiona banche, compagnie di assicurazione e altri istituti finanziari in Svizzera. Con l’accelerazione dell’adozione dell’IA nel settore, le aspettative della FINMA in materia di gestione del rischio dei modelli, resilienza operativa e governance hanno implicazioni significative sul modo in cui le organizzazioni implementano e monitorano i sistemi di IA.
Cosa si aspetta la FINMA
La FINMA non dispone ancora di una regolamentazione specifica per l’IA, ma il suo quadro di vigilanza esistente — in particolare per quanto riguarda il rischio di modello e il rischio operativo — si applica direttamente ai sistemi di IA:
- Validazione dei modelli — gli istituti devono validare i modelli prima dell’implementazione e su base continuativa, dimostrando che funzionano entro parametri accettabili
- Gestione del rischio operativo — i sistemi di IA devono essere soggetti agli stessi controlli del rischio operativo di qualsiasi sistema critico, inclusi monitoraggio, gestione degli incidenti e continuità operativa
- Governance e responsabilità — chiara attribuzione di proprietà e responsabilità per i sistemi di IA, con processi decisionali documentati
- Verificabilità — la capacità di spiegare e documentare come i sistemi di IA arrivano ai loro risultati
Perché i test probabilistici sono importanti
Il testing software tradizionale chiede: «Questa funzione restituisce l’output corretto?» Per i sistemi di IA, la domanda diventa: «Questo sistema funziona entro limiti statistici accettabili, in modo coerente, nel tempo?»
L’aspettativa della FINMA di validazione continua dei modelli e monitoraggio delle prestazioni è direttamente allineata con gli approcci di test probabilistici. Eseguendo test di ipotesi statistica nell’ambito dell’integrazione continua, le organizzazioni possono produrre il tipo di evidenze verificabili e riproducibili richieste dalle revisioni di vigilanza.
Per approfondire
Per gli strumenti tecnici che implementano i test probabilistici, visitate javai.org.