Le minacce concrete dell’intelligenza artificiale
recensione di Simone Natale
dal numero di febbraio 2018
Nick Bostrom
SUPERINTELLIGENZA
Tendenze, pericoli, strategie
ed. orig. 2014, trad. dall’inglese di Simonetta Frediani
pp. 522, € 28
Bollati Boringhieri, Torino 2018
Nell’estate 2017, la stampa nazionale e internazionale riportò una storia inquietante. Un gruppo di ricercatori di Facebook aveva interrotto un esperimento di intelligenza artificiale dopo aver scoperto che il software stava sviluppando un proprio linguaggio, incomprensibile all’uomo, per comunicare con altri programmi. L’episodio richiamava scenari fantascientifici alla Terminator, in cui computer e robot prendono il controllo del pianeta, mettendo a repentaglio l’esistenza della razza umana. Come si scoprì successivamente, la notizia era frutto di un errore di interpretazione. I resoconti sui media suggerivano che Facebook avesse interrotto il programma per i rischi che esso comportava, ma la vera ragione era assai più banale: l’azienda era interessata a sviluppare un chatterbot (ovvero un programma per condurre conversazioni in linguaggio naturale) capace di negoziare con umani, e il fatto che usasse espressioni insolite nella lingua inglese lo rendeva inutile a questo fine. Il fenomeno osservato, del resto, era noto da tempo, e rappresentava per Facebook e i ricercatori coinvolti nel progetto nient’altro che un piccolo, in parte prevedibile, incidente di percorso. La vicenda rappresenta un esempio interessante non solo di come si diffondono le fake news, ma anche del clima di sensazionalismo che circonda il tema dell’intelligenza artificiale in questo periodo, un clima che il saggio Superintelligenza del filosofo svedese Nick Bostrom è destinato giocoforza ad alimentare. Il libro di Bostrom ha suscitato vivaci controversie, che ne hanno evidenziato i pregi ma anche i molti problemi. Bostrom si interroga su uno scenario possibile: cosa succederà se l’intelligenza artificiale si svilupperà al punto da raggiungere un livello di “superintelligenza”, definita come “qualunque intelletto che superi di molto le prestazioni cognitive degli esseri umani in quasi tutti i domini di interesse” . Pur non sbilanciandosi sull’effettiva possibilità che la superintelligenza venga raggiunta nel breve e persino nel lungo periodo, il filosofo sostiene che è necessario cominciare fin da subito a sviluppare tattiche e strategie per evitare che essa ponga gravi minacce al genere umano. Con approccio metodico – tanto da risultare a tratti arido, anche se sempre chiaro e leggibile – Bostrom si impegna dunque a sviscerare i possibili scenari, proponendo una serie di approcci che funzionino da antidoto a questo inquietante spettro.
Un immane esercizio di immaginazione
La caratteristica più peculiare e per certi versi affascinante del libro è, in questo senso, la contraddizione tra il carattere ipotetico del fenomeno in questione e l’approccio pragmatico con cui l’autore escogita e descrive le strategie per affrontarlo. Il libro di Bostrom è un immane esercizio di immaginazione, un periodo ipotetico dell’irrealtà lungo cinquecento pagine. La sua ammissione (in fondo paradossale) che “molte delle affermazioni di questo libro probabilmente sono sbagliate” dimostra come questo non sia sfuggito all’intelligente autore. Il libro offre un’utile panoramica sugli sviluppi dell’intelligenza artificiale (IA), un campo di studi che ha ottenuto straordinari risultati a partire dagli anni cinquanta e in particolare negli ultimi anni, come chiunque salga su un’automobile a guida automatica o provi a dialogare con l’assistente vocale Alexa di Amazon può verificare. Bostrom ci spiega che i possibili futuri inquietanti di queste tecnologie non hanno i tratti di un’intelligenza malefica – come lo Skynet nella serie dei film Terminator, per intenderci –, ma un aspetto più sottile e, suggerisce l’autore, per questo più insidioso. In pagine che sono tra le più interessanti del libro, Bostrom discute le motivazioni che potrebbero muovere un agente superintelligente a compiere azioni pericolose per il genere umano. Un esempio è quello di un’intelligenza artificiale programmata per produrre graffette, la quale provocherebbe catastrofi ambientali per raggiungere l’obiettivo, aggirando le azioni degli esseri umani che provino a impedirglielo. Una delle soluzioni possibili, sostiene Bostrom, sarebbe di assegnare a questi agenti artificiali non solo dei compiti, ma anche dei veri e propri valori. Il ragionamento di fondo che ha spinto Bostrom a scrivere questo saggio è corretto. È cruciale, in questa fase storica, riflettere sui possibili sviluppi delle tecnologie digitali e in particolare dell’IA. Terminata la lettura, d’altronde, ci si chiede fino a che punto questo contributo sarà utile a lavorare in questa direzione. Paradossalmente, un allarmismo eccessivo sul fenomeno della superintelligenza potrebbe far perdere di vista contesti in cui i pericoli sono reali nell’immediato, come le applicazioni militari dell’IA o lo sviluppo di sistemi di sorveglianza pervasivi e automatizzati. Perché nel libro di Bostrum il dibattito è a tal punto diretto verso un incerto futuro, che viene a mancare una vera riflessione etica sugli usi e la governance di queste tecnologie.
s.natale@lboro.ac.uk
S Natale insegna storia dei media a Loughborough University nel Regno Unito