È stato presentato nel corso del Convegno “Intelligenza Artificiale tra valutazione del rischio e certificazione accreditata” l’Osservatorio realizzato da Accredia, Ente unico di accreditamento, e CINI, Consorzio Interuniversitario Nazionale per l’Informatica, nel quale sono emersi alcuni fattori critici sull’utilizzo dell’IA e la loro rischiosità per i cittadini.
Il punto di partenza dell’Osservatorio è l’AI Act che pone l’accento sulla necessità di organismi notificati per la gestione delle problematiche legate ai sistemi IA ad alto rischio. Infatti, se da una parte l’IA offre possibilità senza precedenti per l’innovazione e il miglioramento della qualità della vita, dall’altra solleva anche questioni significative relative alla sicurezza, alla privacy, all’equità e all’etica. In questo contesto, l’Osservatorio evidenzia come l’accreditamento potrebbe supportare lo sviluppo di sistemi di IA affidabili e sicuri che tutelino i diritti fondamentali dei cittadini.
Il ruolo di Accredia, l’Ente italiano di accreditamento, sarà quello di supportare le Autorità, che rappresenteranno la governance in questo settore, nel garantire la competenza degli organismi e dei laboratori che saranno chiamati a valutare la conformità dei sistemi di IA alle norme tecniche.