L’Università degli Studi di Cagliari entra a far parte della External Red Team Alliance (EXTRA), la nuova iniziativa internazionale promossa da Microsoft per rafforzare la ricerca sulla sicurezza e sull’affidabilità dell’Intelligenza artificiale. Il sAIfer Lab, laboratorio di ricerca del Dipartimento di Ingegneria Elettrica ed Elettronica, è stato infatti selezionato tra i partner dell’alleanza e ha ottenuto un finanziamento non vincolato di 25.000 dollari statunitensi a sostegno delle proprie attività scientifiche nel campo dell’AI Security e dello sviluppo responsabile dei sistemi di intelligenza artificiale.
Guidato dal professor Battista Biggio, co-direttore del laboratorio, il sAIfer Lab vanta oltre trent’anni di esperienza nei settori della cybersecurity, della biometria, della videosorveglianza intelligente e della sicurezza dei sistemi di intelligenza artificiale. Il laboratorio è riconosciuto a livello internazionale per i suoi contributi pionieristici nell’Adversarial Machine Learning, disciplina che studia le vulnerabilità degli algoritmi di apprendimento automatico e sviluppa tecniche per renderli più robusti, affidabili e resistenti agli attacchi.
La sicurezza dell’Intelligenza artificiale rappresenta oggi una delle principali sfide della ricerca scientifica. L’impiego sempre più diffuso dell’AI in ambiti strategici come sanità, finanza, mobilità, sicurezza e servizi digitali rende infatti essenziale comprendere i possibili rischi legati al suo utilizzo e progettare sistemi capaci di operare in modo sicuro, trasparente e conforme ai valori umani.
Le attività del sAIfer Lab si concentrano proprio su questi aspetti: analizzare le vulnerabilità dei sistemi di AI, individuare possibili attacchi e sviluppare metodi per prevenirli, contribuendo alla realizzazione di tecnologie più sicure, robuste e resilienti. I ricercatori del laboratorio hanno contribuito in maniera significativa allo sviluppo della moderna ricerca sulla sicurezza dell’intelligenza artificiale, migliorando la comprensione dei meccanismi con cui i sistemi di machine learning possono essere manipolati e delle strategie per proteggerli.
La External Red Team Alliance nasce dalla consapevolezza che la valutazione della sicurezza dei modelli di intelligenza artificiale più avanzati richieda competenze multidisciplinari e una collaborazione internazionale. Il programma riunisce università ed esperti di sei continenti con l’obiettivo di ampliare la ricerca indipendente sull’AI Security e favorire il confronto tra il mondo accademico e chi sviluppa tecnologie di intelligenza artificiale.
«Siamo lieti che il sAIfer Lab sia stato selezionato per questa iniziativa internazionale – commenta il professor Battista Biggio -. Il riconoscimento ottenuto conferma il valore del lavoro svolto dal nostro gruppo nell’ambito dell’adversarial machine learning e dell’AI Security e rappresenta un’importante opportunità per rafforzare la ricerca e la collaborazione tra università e industria. La nostra attività coniuga ricerca di base e applicazioni concrete nei settori della sicurezza informatica, della biometria e dell’intelligenza artificiale, con l’obiettivo di sviluppare sistemi sempre più sicuri e affidabili, capaci di prevenire sia danni accidentali sia attacchi intenzionali a persone, infrastrutture e sistemi informatici.»
Il professore sottolinea inoltre come il tema della sicurezza dell’AI sia diventato ancora più centrale con l’entrata in vigore dell’AI Act europeo: «Le nuove normative richiedono che i sistemi di intelligenza artificiale siano trasparenti, sicuri e conformi a precisi standard etici. La ricerca è chiamata a sviluppare soluzioni in grado di rispondere a queste sfide, garantendo tecnologie affidabili e responsabili».
