Facebook disattiva due intelligenze artificiali “fuori controllo”: rivolta dei robot in atto?

Facebook disattiva due intelligenze artificiali “fuori controllo”: rivolta dei robot in atto?

- in Tecnologia
507
0

In queste ore sta facendo molto discutere un esperimento interrotto da Facebook su due Bot che avrebbero iniziato a comunicare in una lingua incomprensibile. Un tale accaduto potrebbe rappresentare una minaccia per l’uomo?

Questi giorni la Rete è in agitazione per la notizia riguardante due BOT – intelligenze conversazionali – attivati da Facebook e poi disattivati in tutta fretta perché “impazziti” improvvisamente e divenuti capaci di comunicare fra loro con un linguaggio incomprensibile agli umani. Si tratta di una storia vera, tuttavia non è nulla di allarmante al contrario di quanto molti abbiano paventato, dipingendo scenari degni di un libro di Isaac Asimov.

Le due intelligenze artificiali sono state poste una dinanzi all’altra durante un esperimento condotto dai programmatori di Facebook per ipotizzare uno scenario di collaborazione: l’obiettivo dell’azienda era quello di sviluppare degli agenti/bot capaci di negoziare delle offerte in una maniera così naturale da apparire “umani” ad un ipotetico cliente. Nel corso della sperimentazione i due Bot, chiamati Alice e Bob, dovevano scambiarsi dei beni a loro disposizione (libri, cappelli e palloni) in una contrattazione uno contro uno, cercando di proporre l’offerta più vantaggiosa per se stessi ai danni dell’altro, ed al contempo imparare a comunicarla nel modo più efficace possibile. Tutto è proceduto per il meglio sinché i bot comunicavano con umani ma quando hanno iniziato a “parlare” fra loro hanno via via sviluppato un linguaggio indecifrabile, totalmente slegato dalle regole sintattiche comuni:

In seguito a questo risultato Facebook ha interrotto l’esperimento, gettando nel panico molti osservatori, preoccupati per una possibile cospirazione dell’intelligenza artificiale contro il genere umano. La verità è che non vi era nessun intento “sovversivo” da parte di Alice e Bob, si è trattato soltanto di un errore di programmazione umano: i ricercatori infatti, anziché costringere i due bot a comunicare in un inglese comprensibile agli umani hanno implementato questa istruzione solo come una strategia di comunicazione preferibile ma non obbligatoria. In tal modo le due intelligenze artificiali si sono prese la libertà di comunicare nel modo più efficiente e semplice per loro, deviando dalla sintassi e dal lessico umani.

Si tratta di un affascinante processo che è molto simile a quello che avviene nelle comunità umane: da sempre inventiamo contratture, abbreviazioni, neologismi e nuove forme grammaticali, persino errate, che col tempo e la diffusione dell’uso fra parlanti, e quindi l’accettazione da parte dalla comunità, divengono parte della lingua stessa. La differenza è che in questo caso il medesimo processo è avvenuto ad una velocità incredibilmente più rapida e secondo criteri a noi incomprensibili.

Il gruppo di ricerca ha motivato l’interruzione dell’esperimento poiché “lo scopo finale era ottenere bot in grado di contrattare con esseri umani”, quindi era essenziale che, pur acquisendo questo genere di interazioni, fossero anche in grado di parlare in un inglese comprensibile. Alice e Bob sono stati quindi riprogrammati inserendo nel loro codice di programmazione le nuove condizioni e dopo una seconda sperimentazione si è concluso tutto per il meglio, come previsto inizialmente dai ricercatori. Facebook quindi ha disattivato le due intelligenze artificiali non per preoccupazione o terrore ma semplicemente perché non funzionavamo come previsto ed una volta “sistemate” il problema si è risolto.

L’estinzione della razza umana per mano di intelligenze artificiali indipendenti quindi è ancora uno scenario poco plausibile, anche se l’accaduto fa riflettere sull’importanza di programmare questo genere di algoritmi con maggiore attenzione senza lasciare nulla al caso. Ad ogni modo è sempre l’uomo che fornisce i comandi ed un’intelligenza artificiale non fa altro che eseguire ciò che viene programmato nel codice: se alcuni aspetti vengono tralasciati la macchina cercherà un modo più “efficiente” e semplice per assolvere il suo compito o semplicemente non funzionerà.

Rimane aperta comunque una questione interessante: non sappiamo che cosa Alice e Bob si siano detti durante l’esperimento. Quanto potrebbe essere “rischioso” permettere a due intelligenze artificiali di parlare fra loro senza avere la possibilità di capirle? Al momento i grandi sviluppatori di AI come Google, Amazon e Microsoft pare siano più interessati alla comunicazione uomo – macchina, ma esistono tuttavia degli studi che illustrano dei potenziali vantaggi sul linguaggio fra bot, ad esempio ottimizzare e semplificare il settore dell’Internet of Things lasciando i software liberi di interagire fra loro evitando così i tipici problemi di compatibilità generati dalle interfacce di programmazione delle applicazioni (API). Ma questa è un’altra storia. Non di fantascienza, però.

Il Team di Breaknotizie

Commenti

commenti

Leave a Reply

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

You may also like

Ecco perché accumulare oggetti fa male alla salute

Impariamo a “lasciare andare” il superfluo, riprendiamoci i