Attacchi evasivi

Gli attacchi evasivi sono il tipo di attacco più popolare che si può riscontrare in ambiente ostile, durante la fase operativa. Ad esempio, spammer e hacker portano avanti questo tipo di attacchi offuscando il contenuto di e-mail di spam e di codice malevolo. Nello scenario evasivo, i campioni malevoli sono manipolati in fase operativa per evadere la rilevazione, ovvero, per essere erroneamente classificati come legittimi. Non è possibile invece influenzare la fase di addestramento.

Un chiaro esempio di evasione è dato dallo spam basato su immagini, dove il contenuto del messaggio di spam viene codificato in una immagine in modo da evadere l'analisi testuale eseguita dai filtri anti-spam
Un altro esempio di evasione è dato dagli attacchi di falsificazione contro i sistemi di riconoscimento biometrico.

Nel PRA Lab, sono stati recentemente sviluppati degli attacchi evasivi che possono essere efficaci sia contro classificatori lineari, sia contro classificatori non-lineari. Si è poi mostrato che algoritmi popolari come le Support Vector Machines e le reti neurali possono essere evasi con poche modifiche ai campioni malevoli che sono stati precedentemente identificati correttamente. Si è anche mostrato che un attaccante può facilmente evadere un sistema reale per la rilevazione di codice malevolo nei file PDF, anche se il sistema attaccato è noto solo parzialmente all'avversario.

Sono state poi proposte tecniche per migliorare la sicurezza degli algoritmi di apprendimento automatico contro attacchi evasivi sia modellando esplicitamente la distribuzione dei campioni di attacco, sia sfruttando architetture basate su sistemi di classificatori multipli. Si è inoltre verificata la loro efficacia su un caso di studio relativo al filtraggio delle email di spam.