Focus sulla cybersecurity delle soluzioni di AI

La cybersecurity delle soluzioni di Machine Learning e Artificial Intelligence: questo il focus del progetto CybersecH, iniziativa coordinata da Datrix e sviluppata in collaborazione con Università della Tuscia, co-finanziata da Cyber 4.0 nel quadro dei progetti di ricerca e innovazione in ambito core.

AIA Guard è una soluzione end-to-end di cybersecurity progettata per difendersi contro gli Artificial Intelligence Attack (AIA), analizzando la sicurezza e i rischi per la privacy di tutto il workflow di un’applicazione AI, dalla creazione del dataset fino al rilascio in produzione del modello allenato. Vari moduli analizzano il codice sorgente e le librerie utilizzate alla ricerca di problemi e vulnerabilità note; il dataset per controllare che non contenga informazioni personali e sensibili; l’endpoint dove viene rilasciata l’applicazione per assicurarsi che non sia un facile bersaglio per gli hacker; il modello per verificare se sia esposto ad attacchi di data poisoning.
Grazie a test automatizzati e a un report dettagliato con i rischi e le vulnerabilità identificate, AIA Guard aiuta gli utenti a prendere consapevolezza delle problematiche presenti e a porvi proattivamente rimedio.

Il progetto è attualmente in fase di ricerca e sviluppo e mira a fornire agli utenti uno strumento che rappresenti lo stato dell’arte nella prevenzione di attacchi contro sistemi AI. Una demo di AIA Guard sarà resa disponibile pubblicamente nei prossimi mesi.