Incontri del giovedì del Cnr-Ieiit "Giovani di Ieiit: Sara Narteni e Alberto Carlevaro"
Il 13/04/2023 ore 17.30 - 18.30
Virtuale su piattaforma Microsoft Teams
L'Istituto di elettronica e di ingegneria dell’informazione e delle telecomunicazioni del Consiglio nazionale delle ricerche (Cnr-Ieiit) organizza una serie di seminari con frequenza bisettimanale denominata "Incontri del giovedì" in cui vengono affrontate con il supporto di relatori di rilievo nell'ambito della ricerca scientifica, accademica ed industriale le tematiche caratterizzanti l'Istituto stesso, con una visione trasversale ai domini applicativi ed agli ambiti tecnologici ed uno sguardo rivolto alla loro evoluzione.
l prossimo seminario fa parte della sessione speciale degli “Incontri del giovedì”, denominata “Giovani di Ieiit”, dedicata ai giovani ricercatori in formazione (dottorandi, assegnisti, etc.) del Cnr-Ieiit a cui sarà data la possibilità di presentare le proprie attività di ricerca svolte all’interno dei gruppi di ricerca di riferimento.
Il seminario si svolgerà in forma telematica giovedì 13 Aprile 2023 alle ore 17:30 utilizzando la piattaforma Microsoft Teams ed avrà come relatori Sara Narteni (PhD) e Alberto Carlevaro (PhD) con il seguente contributo:
Titolo:
"Countermeasures against adversarial machine learning based on eXplainable and Reliable Artificial Intelligence"
Abstract:
Machine learning (ML) algorithms are nowadays widely adopted in different contexts to perform autonomous decisions and predictions. Due to the high volume of data shared in the recent years, ML algorithms are more accurate and reliable since training and testing phases are more precise. An important concept to analyze when defining ML algorithms concerns adversarial machine learning attacks. These attacks aim to create manipulated datasets to mislead ML algorithm decisions.
In this talk, we will present our research on new approaches able to detect and mitigate malicious adversarial machine learning attacks against a ML system. In particular, we investigate the Carlini-Wagner (CW), the fast gradient sign method (FGSM) and the Jacobian based saliency map (JSMA) attacks. The aim of the work is to exploit detection algorithms as countermeasures to these attacks. Initially, we performed some tests by using canonical ML algorithms with a hyperparameters optimization to improve metrics. Then, we adopt original reliable AI algorithms, either based on eXplainable AI (Logic Learning Machine) or Support Vector Data Description (SVDD). The obtained results show how the classical algorithms may fail to identify an adversarial attack, while the reliable AI methodologies are more prone to correctly detect a possible adversarial machine learning attack. The evaluation of the proposed methodology was carried out in terms of good balance between FPR and FNR on real world application datasets: Domain Name System (DNS) tunneling, Vehicle Platooning and Remaining Useful Life (RUL). In addition, a statistical analysis was performed to improve the robustness of the trained models, including evaluating their performance in terms of runtime and memory consumption.
Organizzato da:
Cnr - Istituto di elettronica e di Ingegneria dell'informazione e delle telecomunicazioni
Referente organizzativo:
Sandro Ballestrasse
Cnr - Istituto di elettronica e di ingegneria dell'informazione e delle telecomunicazioni
incontri.delgiovedi@ieiit.cnr.it
Modalità di accesso: registrazione / accredito
Vedi anche: