Intelligenza artificiale, l’esperimento di Facebook sembra Terminator

Un modello del Terminator durante la serata di Terminator Salvation presso gli studi Warner Bros a Hollywood. (Alberto E. Rodriguez/Getty Images)

Un esperto di tecnologia del futuro ha paragonato il recente episodio di Facebook al noto film Terminator, dove i robot diventano autocoscienti e combattono contro l’umanità.

Nell’incidente di intelligenza artificiale di quasi due mesi fa, i ricercatori del noto social network hanno infatti staccato la spina a due robot dopo che hanno cominciato a parlare in una lingua che persino gli scienziati stessi non riuscivano a capire. «È una pietra miliare incredibilmente importante – ha commentato il professore di robotica Kevin Warwick al quotidiano britannico Sun – ma chiunque pensi che non si tratti di nulla pericoloso nasconde la testa nella sabbia».

Nell’esperimento, eseguito presso gli uffici di Facebook a New York, i due robot Bob e Alice, erano incaricati di negoziare una vendita utilizzando cappelli, libri e palle, ognuno con un valore specifico. Il team di ricerca aveva addestrato i robot a utilizzare l’inglese, ma le due macchine hanno cominciato a scrivere frasi incomprensibili che nessun altro era in grado di capire:

Bob: i can i i everything else . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to.

Bob: you i everything else . . . .

Alice: balls have a ball to me to me to me to me to me to me to me.

I ricercatori presumono che i due robot abbiano sviluppato una sorta di stenografia per rendere più efficiente la negoziazione, ma nessuno sa con certezza che cosa significhi veramente questa nuova lingua. «Non sappiamo cosa stessero dicendo – spiega Warwick, aggiungendo che simili incidenti potrebbero avere conseguenze letali con i robot militari – Se uno dice “perché non fare questo” e l’altro risponde di sì ed è un robot militare, il pericolo è grave».

Questa conversazione è stata resa pubblica, ma Warwick ritiene che ci siano stati altri incidenti ignorati: «Io e Stephen Hawking stiamo da tempo mettendo in guardia dai pericoli derivanti dal concedere potere all’intelligenza artificiale».

Kate Adamson, esperto inglese di tecnologia del futuro, ha commentato al Sun che l’incidente assomiglia alla trama del film Terminator: «Sta accadendo ovunque. Se si osservano gli attuali trading ad alta frequenza sui mercati azionari, sono algoritmi che stanno facendo la stessa cosa. Hanno acquisito nuove conoscenze e tecnicamente non vengono tenuti sotto controllo minuto per minuto. Il livello di complicazione dell’intelligenza artificiale è molto al di là di quello che possaiamo comprendere».

Anche Elon Musk, amministratore delegato di Tesla, da lungo tempo avverte di questi pericoli: «L’intelligenza artificiale è il raro caso in cui in materia di regolamentazione credo dobbiamo essere proattivi anziché reattivi – ha dichiarato Musk all’incontro dell’Associazione Nazionale dei Governatori degli Stati Uniti – Perché penso che quando saremo reattivi sarà troppo tardi».
Il fondatore e amministratore delegato di Facebook Mark Zuckerberg ha risposto dichiarando che gli avvertimenti di Musk sono «alquanto irresponsabili». Musk ha ribattuto osservando come la «comprensione del tema da parte di Zuckerberg sia limitata».

Per approfondire:

 

Articolo in inglese: ‘Facebook AI Incident Feels Like ‘The Terminator’, Expert Says

Traduzione di Massimiliano Russano

Top