Le reti neurali di Google Brain hanno imparato da sole a nascondere i segreti, cifrandoli
Con il machine learning i computer possono sviluppare funzioni non previste dai programmatori e non sappiamo ancora come ci riescano
Arturo Di Corinto per Cybersecurity del 2 novembre 2016
I computer di Google hanno imparato a proteggere i propri messaggi da occhi indiscreti, compresi quelli degli esperti umani che li istruiscono. Un esperimento di deep learning condotto dal team di ricerca di Google, noto come Google Brain, ha dimostrato che una rete neurale artificiale può apprendere autonomamente a nascondere il contenuto dei propri messaggi durante le sue interazioni comportamentali. Basato sulla comunicazione di tre diverse reti neurali, soprannominate Alice, Bob ed Eve, appositamente istruite a comunicare fra di loro, il progetto ha dato risultati strabilianti.
Reti neurali: computer che imparano da soli
Nell’esperimento degli scienziati di Google Brain la rete Alice doveva inviare un messaggio segreto alla rete Bob. Bob doveva decodificare il messaggio e una terza rete, Eve, doveva cercare di intercettarlo. I messaggi tra Alice e Bob sono risultati inaccessibili a Eve. Per giungere a questo esito, Alice e Bob si sono scambiati messaggi sulla chiave di cifratura del codice segreto e dopo 15 mila tentativi Bob è riuscito a decodificare il messaggio cifrato per risalire al testo originario. Eve invece è riuscita a indovinare solo la metà dei bit che lo componevano.
È utile ricordare che una rete neurale artificiale basata su software e hardware specifico serve a mimare il comportamento delle reti di neuroni del cervello umano. Grazie all’interconnessione delle informazioni che la rete riesce a stabilire, e a un modello statistico di calcolo dei dati, è in grado di modificare la propria struttura e il proprio comportamento in base agli input che riceve. Questi input possono essere precedenti o successivi all’avvio delle interazioni ed essere interni oppure esterni.
È ancora presto per dire cosa accadrà
Secondo i ricercatori Martín Abadi e David Andersen che hanno pubblicato lo studio su arXiv.org, questa sarebbe la dimostrazione che attraverso il machine learning le reti neurali riescono a utilizzare una tecnica semplice per cifrare le informazioni che si scambiano senza essere stati programmati per farlo, cioè senza aver ricevuto in dotazione algoritmi specifici di cifratura dei dati.
Abadi ed Andersen hanno anche sottolineato che il sistema di cifratura elaborato dalle loro reti potrebbe essere frutto della casualità. Insomma, siamo ancora a livello di comportamenti semplici e non intenzionali. Inoltre nonostante sia stato possibile identificare il risultato ci vorrà ancora molto tempo prima di capire “come” esso sia stato possibile.
Quindi non è vero come hanno titolato sulla Stampa che il sistema di crittografia sia impossibile da forzare. Semplicemente non sappiamo ancora come funziona.
C’è da aggiungere inoltre, che il sistema di pubblicazione usato dagli esperti del Google Brain Project, arXiv, è un sistema di pubblicazione di bozze definitive o “pre-print”, usato da studiosi e scienziati per sottoporre i propri lavori alla comunità scientifica e ottenere feedback e consigli, prima di avviarle a un processo di revisione scientifico vero e proprio (“peer review”). L’archivio a pubblicazione aperta tuttavia è tenuto sotto stretto controllo da moltissimi scienziati e, ospitato dalla Cornell University, nel solo ottobre del 2016 ha ricevuto e memorizzato 10.100 articoli scientifici di matematica, fisica e informatica.
Cosa fa Google Brain
Tuttavia che la strada seguita dal team possa rivelarsi fruttuosa è ipotizzabile per il semplice fatto che Google Brain è il progetto di punta di Google per investigare proprio il campo dell’intelligenza artificiale applicata a sanità, robotica, musica e arte. Google Brain ha dato già notevoli risultati e fornito applicazioni attualmente in uso dai prodotti di Google come Google Search, Google Photos, Google Maps e Street View, fino al traduttore di Google, ma anche per la posta elettronica di Gmail e il riconoscimento di immagini di Youtube.
