Skip to Main Content
Immagine di copertina

Possiamo fidarci dell’intelligenza artificiale?

Di Gregorio Magini • agosto 26, 2019

Francesca Rossi ha insegnato informatica per venticinque anni alle università di Pisa e Padova e da trenta si occupa di Intelligenza Artificiale. Il confine del futuro (Feltrinelli, 2019, 128 pagg.) testimonia una nuova direzione della sua ricerca, avviata nel 2014 durante un sabbatico a Harvard e proseguita con un cambio di continente e di lavoro: dall’Italia agli Stati Uniti, dall’università alla IBM, dove è oggi AI Ethics Global Leader.

L’oggetto è rimasto lo stesso: la grande impresa (fanta)scientifica che ha come obiettivo finale la creazione di macchine intelligenti, chissà, perfino più degli esseri umani. Tuttavia la sua attenzione si è spostata dalla sfera strettamente tecnica per includere anche preoccupazioni di carattere etico e politico: quale sarà l’impatto della diffusione a breve termine delle IA nei sistemi sociali e nelle culture globali? Quali sono le opportunità e – soprattutto – quali i rischi? Come massimizzare le prime e contenere i secondi?

Il confine del futuro di Francesca Rossi

Che cosa significa trovarsi al fronte del progresso scientifico? Rossi racconta dall’interno del laboratorio le sfide del ricercatore di ia e spiega che oggi non consistono solo nel potenziamento delle capacità di questa nuova tecnologia, ma anche nel massimo beneficio possibile per la società e dunque nello studio delle implicazioni etiche di questa straordinaria rivoluzione.

Visualizza libro

La professoressa Rossi non è stata fulminata solitaria sulla via di Damasco da una rivelazione sui pericoli delle IA (anche se il suo racconto dell’incontro con Elon Musk – lui sì fulminato – un non so che di messianico ce l’ha), ma accompagna e guida una svolta generalizzata nella disciplina, che ha visto, proprio intorno al 2014, un momento in cui gli addetti ai lavori si sono resi conto che le IA stanno arrivando e quindi è bene non farsi trovare impreparati.

Non è tuttavia il caso di allarmarsi, sostiene Rossi: “certe paure nascono dall’immagine che i film, i giornali e i programmi televisivi forniscono dell’IA, per cui finiamo per associare questa tecnologia a immagini e scenari apocalittici, confondendo la realtà con la fantascienza.” Si profilano comunque all’orizzonte problemi non banali, ma l’autrice è ottimista e ci spiega perché: i centri di ricerca, le istituzioni, le aziende tech si stanno attrezzando, e negli ultimi capitoli del libro ci racconta come.

Il confine del futuro ha un approccio elementare, che non presuppone alcuna conoscenza tecnica. Questo lo rende particolarmente adatto ai lettori che di IA hanno solo sentito parlare e desiderano saperne di più senza dover prima imparare a programmare. Dopo una gustosa introduzione narrativa in cui è immaginato un (prossimo?) futuro governato da amorevoli e amichevoli IA, l’esposizione prosegue con una descrizione del campo dell’IA e di alcune sue caratteristiche, seguita da una sua breve storia, e da una rassegna di applicazioni attuali e potenziali, per poi spostarsi, nella seconda parte del libro, a un’analisi di rischi e pericoli.

Il maggior pregio di questo volumetto informativo è la già citata accessibilità, caratterizzata da un’esposizione chiara e punteggiata da esempi e aneddoti divertenti e illuminanti, come quello dell’IA che per evitare di perdere al gioco impara a mettere in pausa le partite (forse è andata scuola da un maestro Zen). Data la brevità, tutte le problematiche sono appena accennate, e per ogni domanda a cui dà risposta, l’autrice ne apre un mazzo intero, che restano sul tavolo. Il futuro dell’IA è di difficilissima lettura, e l’unica cosa certa è che si tratta di una tecnologia in rapidissima espansione dagli effetti potenzialmente esplosivi, effetti che s’intrecceranno con le altri grandi questioni globali: dal cambiamento climatico alle sfide tra superpotenze; dalle richieste politiche di eguaglianza e giustizia alla rinnovata spinta verso l’esplorazione dello spazio.

Cos’è una “Intelligenza Artificiale”? Vuole introdurre i lettori al tema di Il confine del futuro?

L’Intelligenza Artificiale (IA) è una disciplina scientifica e una tecnologia che cerca di capire come creare programmi e dispositivi capaci di risolvere problemi in modi che, se adottati da un essere umano, giudicheremmo intelligenti.

Nei sessant’anni di storia dell’IA, questo è stato fatto principalmente usando due approcci: o capire come risolvere un problema e codificare il metodo di soluzione in un sistema di IA, oppure fornire esempi di soluzioni e lasciare che la macchina apprenda dagli esempi e sappia come generalizzare. Il primo approccio funziona molto bene per risolvere problemi chiari e confinati (come trovare la strada più breve da un indirizzo ad un altro), mentre il secondo ha molto successo in problemi difficili da definire precisamente (come riconoscere un viso in una immagine).

Tra le applicazioni dell’IA che saranno disponibili nel prossimo futuro, molte delle quali passa in rassegna nel libro, quali sono quelle che con più probabilità si diffonderanno per prime su ampia scala?

Molte applicazioni dell’IA sono già presenti e utilizzate nella nostra vita quotidiana. Alcuni esempi sono i navigatori, la ricerca su web, le piattaforme social, il riconoscimento di frodi, i sistemi a comandi vocali, e la guida assistita. Molte altre applicazioni stanno arrivando o sono in preparazione nei laboratori di ricerca. Tra loro, le auto a guida autonoma, la medicina personalizzata, gli assistenti digitali, le stanze cognitive, i sistemi capaci di dialogare con gli esseri umani, e la creazione di opere d’arte e di contenuti innovativi.

Dal suo racconto della “svolta etica” degli ultimi anni, si ha l’impressione che la comunità scientifica si sia resa conto, un po’ all’improvviso, che fosse urgente far fuoriuscire il dibattito dagli ambiti specialistici, con una intensa attività di promozione e divulgazione. È una impressione corretta? E la divulgazione sta funzionando? È possibile aspettarsi risposte efficaci dal pubblico e dalla politica, sulla base di (pur necessarie) semplificazioni?

Recentemente il campo applicativo dell’IA si è allargato enormemente, includendo applicazioni che prima non erano possibili o erano affrontate in modo non soddisfacente, come quelle relative ad aspetti percettivi quali l’interpretazione di immagini, testo, e voce. Questo è stato reso possibile dalla convergenza di tre fattori: migliori algoritmi di IA basati su esempi (come le reti neurali e altri metodi di apprendimento automatico), disponibilità di grandi quantità di dati da usare come esempi per questi algoritmi, e computer abbastanza veloci da saper elaborare tutti questi dati.

Questa esplosione dell’applicabilità dell’IA su larga scala ha generato speranze e entusiasmi, ma anche alcune legittime preoccupazioni su aspetti quali l’uso di dati personali, le possibili discriminazioni nelle decisioni dell’IA, il fenomeno del black box (cioè di sistemi di IA di cui non è chiaro il funzionamento o le motivazioni per le loro decisioni), la responsabilità nel caso di errori e di decisioni con conseguenze negative, e l’impatto sul mondo del lavoro.

Nel cercare di capire come affrontare e risolvere questi problemi, gli esperti di IA si sono uniti ad esperti di altre discipline (filosofia, psicologia, economia, sociologia, ecc.) per individuare le soluzioni migliori, anche insieme ai politici che dovranno capire se e come regolamentare questa tecnologia e i suoi usi. Ma è necessario un maggiore sforzo di divulgazione per rendere tutti consapevoli delle reali capacità e limiti dell’IA, altrimenti si rischia di essere distratti e confusi da paure riguardo a scenari apocalittici che sono ben lontani dall’IA di oggi.

La diffusione dell’IA promette di rendere obsolete molte professioni. Non è chiaro se saranno sostituite da professioni nuove, come è accaduto per le grandi rivoluzioni tecnologiche del passato, o se andiamo verso la disoccupazione di massa. Se quest’ultimo caso dovesse verificarsi, trova che sarebbe ragionevole puntare a una politica mirante alla “fine del lavoro”?

Non sono un economista né un politico, quindi non so individuare le migliori soluzioni politiche a possibili scenari futuri. Però, con la mia conoscenza dell’IA attuale e di come sta evolvendo, posso dire con una ragionevole sicurezza che ogni lavoro sarà trasformato dall’inserimento di questa tecnologia. Quindi dovremo imparare a collaborare con l’IA nella nostra vita professionale, qualunque lavoro abbiamo: alcune attività saranno delegate alle macchine, mentre altre saranno eseguite da team di macchine e persone. Spero che questo ci permetta di dedicarci ad attività in cui le caratteristiche proprie degli essere umani (come l’intuizione, la creatività, la socialità, e l’empatia) possano essere esaltate.

Fra i campi di applicazione dell’IA, quello del gioco appare particolarmente interessante, perché è un terreno fertile per quella “collaborazione” tra uomo e macchina che lei auspica. Il mondo delle IA sarà un mondo di giochi collaborativi?

Nella storia dell’IA, i giochi sono stati spesso usati per fare dei significativi balzi in avanti nella scienza dell’IA, perché forniscono un ambiente di sperimentazione e confronto (tra macchine e esseri umani) semplice e chiaro, dove le regole sono fissate ed esplicite. Esempi sono la dama, gli scacchi, il go, il poker, i giochi con domande e risposte (come Jeopardy!), e alcuni giochi online. Ma si deve essere consapevoli che le attività della vita reale sono molto più complesse di qualunque gioco, e anche la collaborazione tra persone e macchine aggiunge un’altra dimensione a questa complessità. Quindi non è semplice il passaggio da un programma di IA che è molto bravo in un gioco ad uno che sappia risolvere bene problemi reali.

Come scrittore di romanzi e programmatore mi sono interessato alla generazione di testo e due anni fa scrissi un resoconto delle mie (dis)avventure con le reti neurali. La conclusione che ne trassi è che la generazione automatica di fiction sarà un’impresa collaborativa tra gli autori umani e i loro computer. Immagino una sorta di “Photoshop per scrittori”, che permetterà all’utente un efficiente bricolage di frammenti testuali generati da batterie di “attori” virtuali addestrati con diverse personalità e stili letterari. È fantascienza?

Non è fantascienza. Il futuro dell’IA non è nell’autonomia (a parte alcune situazioni confinate), ma nella collaborazione tra persone e macchine, che permetterà di sfruttare l’estrema complementarietà tra noi e l’IA. Creatività, intuizione, generazione di problemi interessanti e di domande difficili sono cose in cui noi siamo molto bravi. D’altra parte le macchine sono più brave di noi nel ragionamento statistico e probabilistico, nella gestione di grandi quantità di dati, e nel trovare pattern nascosti in questi dati. La giusta combinazione di queste caratteristiche complementari può portare a grandi risultati, come la cura di malattie ancora irrisolte e la soluzione di emergenze ambientali.

Il libro inizia con una finzione: scene di vita quotidiana da un futuro disseminato di IA, dall’assistente virtuale Spock, alle simulazioni realistiche di realtà alternative, alle macchine autonome volanti. Lo scrive lei stessa, “il racconto può sembrare di fantascienza”. Lei è appassionata di fantascienza oppure il suo lavoro è già troppo fantascientifico di suo? Qualche opera in particolare che ha ispirato lei o i suoi colleghi?

In effetti sono da sempre molto appassionata di fantascienza. Spock è un nome che ho scelto anche per collegarmi alla serie di fantascienza Star Trek, che seguo da quando ero bambina e di cui ho sempre ammirato l’entusiasmo nell’esplorazione di nuovi pianeti, l’ambiente multirazziale, e l’attitudine scientifica. In particolare, Spock è il personaggio che mi è sempre piaciuto per la sua dualità terrestre e vulcaniana, che combina in lui la razionalità con le emozioni. È un po’ il simbolo dell’IA, che combina ragionamento e apprendimento, e anche del nostro futuro con l’IA, in cui spero che le persone e le macchine collaboreranno per risolvere problemi che né le persone né le macchine da sole sanno risolvere.

Di cosa si occupa esattamente una AI Ethics Global Leader alla IBM?

Oltre a gestire progetti di ricerca sull’IA e sull’inserimento di principi etici in sistemi di IA, il mio ruolo è quello di coordinare le molte attività dell’IBM nell’ambito dell’etica dell’IA (in ricerca, educazione, e business), sia internamente all’azienda che attraverso le molte collaborazioni con università, associazioni scientifiche e professionali, istituzioni quali le Nazioni Unite e il Fondo Mondiale Economico, e alleanze multi-aziendali come la Partnership on AI. Un lavoro a stretto contatto con esperti di tante discipline, che richiede una grande apertura e flessibilità, e che mi regala grandi entusiasmi, speranze, e soddisfazioni.

Che consigli darebbe a una giovane appena uscita da un Liceo italiano e appassionata di IA?

Le consiglierei certamente di seguire la sua passione. Non perché sicuramente troverà un lavoro (anche se chiaramente è una cosa positiva), ma perché è solo seguendo le proprie passioni che possiamo dare il nostro meglio e trovare gioia in quello che facciamo tutti i giorni. Le donne sono ancora poche in questo campo (in ambito accademico solo il 22%) ma stanno crescendo e sono ormai universalmente ritenute necessarie per dare a questa tecnologia la giusta sensibilità verso valori di collaborazione, apertura ed inclusione, che sono così importanti per creare un futuro sostenibile e positivo.


Francesca Rossi è il global leader dell’IBM per l’etica dell’intelligenza artificiale e un distinguished research scientist presso l’IBM T.J. Watson Research Center di New York. È stata professore di informatica per vent’anni presso l’Università di Padova. Ha presieduto la International Joint Conference on Artificial Intelligence e sarà il general chair del convegno AAAI 2020 (Association for the Advancement of Artificial Intelligence), il più grande convegno mondiale sull’intelligenza artificiale. Per Feltrinelli ha pubblicato Il confine del futuro. Possiamo fidarci dell’intelligenza artificiale? (2019).

Segui la pagina @kobobooks su Instagram

Hai bisogno di contattarci?

Richieste e assistenza clienti Richieste media

If you would like to be the first to know about bookish blogs, please subscribe. We promise to provided only relevant articles.