Facebook sospende il test per l’Intelligenza Artificiale: "Due bot hanno inventato un proprio linguaggio, incomprensibile all’uomo"

Facebook ha fatto dialogare tra loro due bot e questi hanno usato una nuova lingua, indecifrabile per l’uomo

Di

Ilaria Betti

 

Sembra fantascienza, eppure non lo è: Facebook ha stoppato un esperimento sull’intelligenza artificiale, nel corso del quale alcuni bot avrebbero iniziato a comunicare tra loro utilizzando un linguaggio incomprensibile all’uomo. Per bot (abbreviazione di “robot”) s’intende un programma che nei social network fa credere all’utente di comunicare con una persona umana: in questo modo, la macchina riesce a rispondere e a soddisfare i desideri dell’utente. Negli scorsi mesi gli sviluppatori di Facebook hanno lavorato, tra le altre cose, su alcuni sistemi di intelligenza artificiale (AI) capaci di dialogare tra loro in inglese e condurre semplici trattative, per esempio quelle per dividersi due libri, tre palloni da basket e un cappello da cowboy. A un certo punto hanno assistito a un fenomeno imprevisto: i due sistemi di intelligenza artificiale hanno iniziato ad usare un linguaggio nuovo, inventato da loro. Ciò ha messo in allarme i ricercatori e li ha spinti ad interrompere la sperimentazione.

La conversazione tra i due bot è apparsa agli sviluppatori in questo modo:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

A preoccupare i ricercatori che hanno condotto il test è stato il fatto che il linguaggio usato dai bot, pur non avendo un senso compiuto per gli esseri umani, non sembrava essere casuale: semplicemente le parole erano state utilizzate dalle intelligenze artificiali in modo diverso. Una spiegazione all’anomalo comportamento potrebbe essere attribuita al fatto che i bot non erano stati programmati per dialogare soltanto in inglese. Ma c’è il sospetto che le macchine seguano dei codici ancora poco conosciuti all’uomo.

La notizia non fa altro che confermare i timori sullo sviluppo incontrollato delle intelligenze artificiali: davvero un giorno le macchine diventeranno così potenti ed evolute da ribellarsi ai comandi dell’uomo? È questo ciò che temono esperti anche del calibro di Stephen Hawking e Elon Musk.

“Il nostro interesse è che i bot possano un giorno parlare alla gente, soddisfare le loro richieste”, ha spiegato Mike Lewis del programma Facebook AI Research. Utilizzando degli algoritmi, i bot affinano le loro capacità e poi vengono lasciati da soli in modo che possano confrontarsi e sviluppare le capacità di linguaggio e di negoziazione. È possibile che, durante l’esperimento, ad un certo punto i bot abbiano cambiato il loro linguaggio, avendo trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace.

In ogni caso, l’episodio fa luce su un mondo poco conosciuto e per lo più ancora misterioso: quello dei robot dietro ai social network e alle pagine che consultiamo ogni giorno. Mark Wilson, del sito di design e tecnologia FastCo Design, a questo proposito ha scritto un articolo intitolato “L’intelligenza artificiale sta inventando lingue che gli umani non possono capire. Dovremmo fermarla?”: “Dovremmo lasciare che i nostri software facciano questa cosa? – si legge nel testo -. Dovremmo permettere alle AI di costruire i propri dialetti per eseguire compiti specifici che richiedono una comunicazione con altre AI? Di spettegolare quando non possiamo capirle? Forse. Potrebbe darci la possibilità di un mondo in cui gli iPhone parlano con i frigoriferi che parlano con le automobili senza pensarci due volte”.

 

Fonte: Huffington Post