Casi d’uso dell’IA nella valutazione di conformità – Caso N. 1

Il Consorzio AIQI ha pubblicato il primo di una serie di casi d'uso relativi alla valutazione della conformità basata sull'IA. L'iniziativa mira ad aiutare gli organismi di valutazione della conformità (CAB) a esplorare le potenzialità dell'IA a supporto delle attività di valutazione, prendendo al contempo in considerazione i rischi, i limiti e le misure di controllo eventualmente necessari.

Il Caso d'uso n. 1 – "Utilizzo dell'IA a supporto delle decisioni di certificazione dei sistemi di gestione" – esamina come l'IA possa fungere da strumento di supporto decisionale nell'ambito del processo di riesame e di decisione sulla certificazione. Viene analizzato come l'IA possa elaborare informazioni quali rapporti di audit, non conformità e azioni correttive per evidenziare rischi, incongruenze o lacune che richiedono l'attenzione del decisore.

Oltre a individuare potenziali vantaggi – come una maggiore coerenza, una riduzione del rischio di trascurare criticità e una più efficiente gestione dei casi complessi – il documento prende in esame i rischi associati, tra cui la qualità e la riservatezza dei dati, la comprensibilità, il bias di automazione e il possibile disallineamento rispetto ai requisiti di accreditamento o normativi.

Vengono inoltre indicate potenziali misure di controllo, quali la supervisione umana, la validazione delle prestazioni dell'IA, la protezione dei dati dei clienti, la tracciabilità delle operazioni, la competenza del personale e un'efficace gestione dei cambiamenti.

Si tratta del primo di una serie di documenti con cui AIQI intende esaminare i diversi impieghi possibili dell'IA nel campo della valutazione della conformità. L'obiettivo non è prescrivere ai CAB dove o come utilizzare l'IA, bensì aiutarli a porsi le domande giuste: in quali ambiti l'IA potrebbe offrire un supporto utile? Quali rischi potrebbe comportare? E quali controlli sarebbero opportuni in caso di sua introduzione?