Un ‘Fight club’ di algoritmi per migliorare difese computer
(Keystone-ATS) Le battaglie tra algoritmi si combattono già tutti i giorni, ad esempio quando un messaggio di spam riesce ad aggirare i filtri o un virus “sconfigge” i programmi per bloccarlo.
Per capire come migliorare le difese sta per iniziare un vero e proprio ‘Fight club di intelligenze artificiali’, racconta la rivista del Mit, in cui i diversi programmi cercheranno di sconfiggersi a vicenda per capire quali sono i punti deboli.
L’oggetto della sfida, organizzata sulla piattaforma kaggle da Google Brain, la divisione di ‘Big G’ che si occupa di questo tipo di algoritmi, sono in particolare i programmi ad apprendimento automatico, quelli in cui si danno i dati e un obiettivo alla macchina, e questa deve raggiungerlo sviluppando da sola il proprio algoritmo. Questi programmi sono sempre più usati, ma si è scoperto che anche i più avanzati possono essere vittime di inganni. Un algoritmo che apprende in modo simile all’uomo a riconoscere i volti ad esempio è stato messo ko da una serie di immagini apparentemente casuali.
Nei prossimi cinque mesi gli algoritmi messi a punto da diversi gruppi di ricerca avranno tre compiti: una sfida sarà di cercare di confondere un sistema di apprendimento per non farlo lavorare correttamente, un’altra invece di far classificare all’avversario qualcosa in maniera sbagliata mentre il terzo challenge riguarda lo sviluppo della difesa migliore contro gli avversari. “L’apprendimento in una sfida è molto più difficile da studiare di quello convenzionale, perchè è difficile dire se l’attacco è forte o se invece la difesa è debole – spiega Ian Goodfellow, uno degli organizzatori -. Con il “machine learning” che diventa sempre più pervasivo la paura è che questo tipo di attacchi possa essere usato per ottenere profitti illegali o comunque per danneggiare sistemi. La sicurezza informatica sta decisamente virando verso il machine learning. I cattivi lo useranno sempre di più per automatizzare i loro attacchi, e noi per difenderci”.
Questo tipo di battaglie non è nuovo nel mondo informatico, sempre alla ricerca di vulnerabilità nei programmi che possono essere sfruttate da malintenzionati. Lo scorso anno ad esempio la Darpa, il ‘braccio’ tecnologico della Difesa statunitense, aveva organizzato il Cyber Grand Challenge, una sfida in contemporanea tra sette supercomputer che, senza interventi esterni dopo la programmazione iniziale, dovevano cercare di hackerare gli avversari difendendosi dai loro attacchi.
