Odifreddi e l’intelligenza artificiale che vive fra noi

Federico BrignaccaScoprendo il mondoLeave a Comment

Scoprendo il mondo | di Federico Brignacca |


Professor Odifreddi, nel suo intervento al Festival della Mente di quest’anno (2013) ha parlato di robotica e cervello elettronico: come mai ha scelto questo argomento?

L’abbiamo scelto perché essendo il decimo anniversario del Festival abbiamo pensato di fare una trilogia con alcuni di coloro che erano venuti negli anni precedenti, quando erano stati fatti tre incontri con letture di classici; quest’anno invece ci siamo messi in tre – Boncinelli, Martino ed io – e abbiamo parlato tutti del cervello, ciascuno dal suo punto di vista. Quindi io che sono un matematico ho parlato delle ricadute della logica matematica nell’intelligenza artificiale, invece Boncinelli che è un biologo e Martino che è un neurofisiologo parleranno del cervello dal loro punto di vista.

Che ruolo ha secondo lei la robotica oggi?

È fondamentale, ha un ruolo importante e a volte un po’ pericoloso perché lo sappiamo che tutto ciò che fanno le macchine poi non lo fanno più gli uomini, infatti l’avvento delle macchine fin dall’800 ha portato a temere che coloro che lavoravano nelle industrie finissero per essere sostituiti con delle macchine. Oggi lo vediamo nell’allevamento: ci sono ad esempio enormi allevamenti di maiali per fare prosciutti e salami e questi allevamenti hanno migliaia di animali e un’unica persona a controllare, perché tutto è regolato dalla macchina – ad esempio portare il cibo, togliere i liquami o pulire gli animali sono operazioni che avvengono in maniera automatizzata. Anche le automobili si costruiscono così per cui c’è effettivamente il rischio che le macchine debbano sostituire l’uomo… Il che non sarebbe male se tutti ci spartissimo i guadagni e i vantaggi, invece i guadagni vengono spartiti solo da coloro che organizzano la produzione, creando disoccupazione. Questo rischio, tuttavia, è anche un’enorme vantaggio: le macchine non soffrono se si rompono, si possono buttare via, costano meno rispetto al mantenere un uomo e la sua famiglia e si tratta di vantaggi economici e pratici. Poi, certo, ci sono anche aspetti di etica negativa di cui bisogna tener conto.

Parlando di intelligenza, come lega la robotica e la creatività?

In realtà, sai, la creatività è un termine che nasconde un vasto campo: tutto ciò che richiede intelligenza, qualsiasi idea nuova fa parte della creatività. Nel caso della robotica la creatività interviene perché è forse uno dei pochi casi in cui la teoria ha preceduto la pratica, mentre in genere la tecnologia viene sviluppata da inventori a volte pazzerelli che inventano qualche cosa e poi arrivano gli scienziati che mettono a posto la teoria, capiscono quello che gli inventori avevano inventato – diciamo così. Nel caso del computer è successo il contrario: un giovane di nome Alan Turing nella sua tesi di laurea a 24 anni ha progettato quello che poi sarebbe diventato il computer elettronico. Certo, un conto è progettarlo sulla carta un conto è farlo praticamente, sono passati decenni, ma questa è la parte creativa: riuscire con il solo potere della mente a inventare qualcosa che arriva a cambiare completamente la nostra vita – oggi infatti il computer è diventato un prodotto universale che alcuni addirittura si portano in tasca e ci sembra difficile immaginare un mondo senza. Io che sono nato prima che esistessero queste cose noto come si dimentica facilmente che tutto ciò che oggi il computer permette di fare è stata la creatività umana a renderlo possibile.

Dopo la creazione del computer è venuto lo sviluppo dei software e lei ha parlato di questo straordinario “Deep Blue”: ci spiega brevemente cos’è?

Si tratta di uno dei sogni di Alan Turing… Quando capì che si stava realizzando una macchina capace di fare tutti i calcoli possibili che si possono fare in maniera meccanica, si rese conto che oltre non si poteva andare ma si poteva invece cercare di capire quali fossero le potenzialità di questa macchina. Era un super-calcolatore, certo, ma nella nostra vita esistono altre cose a parte i numeri: per esempio giocare a scacchi. Quanta parte di calcolo c’è dietro al giocare a scacchi? Ecco: Turing si attivò perché fin da subito ci fossero programmi capaci di giocare a scacchi, che simulassero un vero giocatore. All’inizio le cose andarono male perché si scoprì che, guarda caso, giocare a scacchi richiede molta creatività ovvero un bagaglio notevole di intuizione, di memoria di aperture e di chiusure di partite. Con il passare degli anni si riuscirono a costruire programmi come Deep Blue così perfezionati da battere il campione del mondo di scacchi Kasparov. E non solo di farlo in maniera bruta ma persino in modo tale che lui stesso quando perse (un torneo in 6 partite) disse – e continua a dire – che c’era stato un trucco, che dietro la macchina doveva esserci qualcuno che giocava, perché le mosse erano “umane”. Questo fa capire che quando i programmi si evolvono e l’intelligenza cresce si comincia ad arrivare al punto di superare l’uomo o quello che fa un uomo.

Dal momento che il programma è stato creato da un uomo, secondo lei il processo di ragionamento del programma può essere considerato umano?

No perché quello che tu costruisci poi dopo spesso ha delle potenzialità che non sono dentro ciò che tu hai messo. Ad esempio tu costruisci una macchina che poi lanci contro un muro, questa sfonda il muro e poi ti dici “l’ha fatto l’uomo”: è vero, però la macchina ha una potenzialità che l’uomo non aveva, cioè questa forza. Nel caso dei programmi la cosa è un po’ più nascosta: l’uomo costruisce un programma e dice alla macchina che dovrà fare questo o quello ma mentre impartisce questi ordini non si rende conto che la macchina può fare anche altre cose che rientrano nell’ambito di quegli stessi ordini, e si potrebbe evitare per esempio cercando di dimostrare che i programmi fanno soltanto quello che noi abbiamo deciso di fargli fare. Esiste tutto un campo dell’intelligenza artificiale che si occupa di questo, perché finché il programma gioca a scacchi meglio dell’uomo non è un gran problema ma per esempio ci sono programmi che controllano il lancio dei missili nucleari e c’è stato negli anni Ottanta un momento in cui sugli schermi dei computer del Pentagono negli USA ci si accorse che era in atto un attacco nucleare da parte della Russia (questo evento è raccontato dal film “WarGames”, 1983, ndr). I programmatori immediatamente chiamarono i generali e il Presidente degli Stati Uniti perché l’attacco nucleare dura pochi minuti e bisogna rispondere subito. Tuttavia sembrava una cosa strana: non c’erano le condizioni politiche perché scoppiasse una guerra, così decisero di contattare i russi per chiedere “ci state attaccando?”. Che poi è abbastanza ridicolo perché la risposta sarebbe stata no in ogni caso! Ad ogni modo, si fidarono e capirono che non c’era un errore nel programma ma esso stava facendo delle cose che erano rese possibili da ciò che il programmatore gli aveva messo dentro, benché all’epoca non fossero previste da programmi di quel genere. Una deriva pericolosissima che ha portato alla nascita di una scienza: la scienza della verifica dei programmi. La quale si occupa di verificare che i programmi facciano effettivamente quello che tu hai programmato ma questo vuol dire doppio lavoro: creare il programma e poi verificarlo costa soldi, lavoro, fatica e ingegno e c’è tutta un’industria che ruota attorno alla verifica dei programmi. E il bello è che vengono scoperte molte potenzialità durante il processo di verifica!

Una macchina non si ferma perché deve eseguire un ordine mentre l’uomo potrebbe fermarsi bloccato da emozioni: quindi l’uomo non è perfettibile quanto una macchina?

L’emozionalità è una caratteristica che non abbiamo in comune con le macchine, a volte può essere la cosa migliore: ad esempio nel caso degli scacchi, di cui parlavano prima, l’emozione spesso aiuta ad avere l’adrenalina o anche la forza di combattere. Non di rado però può accadere anche il contrario: se uno si emoziona, magari si spaventa  davanti ad un attacco e reagisce male quando in un’altra situazione si sarebbe comportato diversamente. La macchina questo “svantaggio” non lo ha perché è fredda, mentre nel caso di un attacco un uomo potrebbe esitare. Una parte della crisi economica degli ultimi decenni del secolo scorso fu creata anche dal fatto che in borsa si cominciò a giocare non più attraverso operatori economici ma attraverso programmi che comprano e vendono le azioni non guardando qual è l’andamento dei mercati mondiali e quando vedono dei cambiamenti immediatamente agiscono vendendo o comprando. C’è stata una situazione quindi in cui i programmi facevano tali operazioni automaticamente provocando una corsa al ribasso che a sua volta ha causato un crollo a Wall Street. È quindi necessario un lavoro uomo-macchina, cioè una supervisione umana, tenendo conto che talvolta le macchine possono sfuggire al controllo e che solo l’uomo può fermarle. Il tipico esempio è nel 1969: l’allunaggio dell’Apollo 11. Tutto il percorso era computerizzato, tuttavia quando si arrivò nel punto dell’allunaggio il comandante Armstrong si rese conto che stavano andando contro un masso e si sarebbero schiantati per cui prese il comando e modificando il percorso allunò un po’ più in là.
Questo è il modo in cui bisognerebbe usare il computer tenendolo d’occhio e intervenendo quando è necessario come succede in scuola guida, che quando uno guida e magari l’istruttore si rende conto che sta sbagliando interviene prendendo i comandi. Tutto ciò è interessante anche dal punto di vista filosofico perché somiglia al ruolo della coscienza: una parte piccolissima di quello che facciamo, un rapporto di 1/100 miliardi e tutto ciò che avviene dentro di noi è automatico. In questo senso siamo molto “meccanici” ma abbiamo la coscienza, che nel rapporto uomo macchina è l’emblema dell’uomo mentre il corpo rappresenta la macchina.

Lei parla anche di “uomo artificiale”: sarebbe?

Beh dipende da come lo si vede, un vero uomo artificiale dovrebbe essere una macchina che sostituisce l’uomo completamente in tutte le sue funzioni, per esempio muoversi, camminare, digerire, mangiare e poi le funzioni cerebrali. Questa è una visione dualistica ormai passata di moda perché nessuno pensa più che da una parte ci sia il corpo e dall’altra una mente che si scorpora; oggi si pensa che la mente sia una funzione del corpo, un epifenomeno come si dice. Però un uomo artificiale dovrebbe essere in grado simulare sia gli aspetti corporei che gli aspetti mentali. Gli aspetti corporei sono quelli appunto che intervengono della robotica, i robot sono delle macchine che fanno effettivamente quello che noi facciamo, braccia meccaniche per esempio. Il cervello artificiale invece dovrebbe essere qualcosa che simula il pensiero e in parte abbiamo visto che ci sono dei programmi che lo simulano per gli scacchi, per le analisi mediche o il gioco in borsa, e tutto questo dovrebbe creare un organismo che diventa così simulante l’attività umana che è così indistinguibile. Se avete visto Blade Runner lì ci sono delle macchine fatte talmente bene che sembrano umani non solo esteriormente nella percezione corporea ma anche nel ragionamento mentale che diventa difficile distinguerle dall’uomo. Infatti c’è un test in cui si cerca di capire se qualcosa che si ha davanti è un uomo o una macchina. Philiph Dick aveva scritto un racconto in cui diceva che in una futura fabbrica di androidi un giorno sarebbe arrivato un uomo e un androide sarebbe uscito… In seguito i due si sarebbero sparati e l’uomo avrebbe visto l’androide sanguinare, mentre egli stesso avrebbe perso molle in giro! Dick sostiene che questo sarebbe stato un grande momento per l’umanità: non distinguere più qual è l’uomo e quale è la macchina…

Che origine ha l’uomo artificiale? Recente?

È un sogno antichissimo: già gli antichi in qualche modo lo avevano in mente e pur non potendo ovviamente pensare ad uomo computerizzato si immaginavano macchine che facessero qualcosa al posto dell’uomo o addirittura che andavano oltre l’uomo. Per esempio il mito di Dedalo, che riesce ad attaccarsi delle ali e a volare: già c’è il problema dell’uomo artificiale che può sfuggire al controllo, tanto che infatti Dedalo si avvicina troppo al sole, le ali di cera si sciolgono e lui precipita a terra. C’è tutta una storia millenaria che parla degli automi del Medioevo, si dice che San Tommaso D’Aquino e Alberto Magno avessero costruito delle facce che sembravano parlare; inoltre nell’antico Egitto si venerava il cane Anubis che parlava nonostante fosse una statua! Chiaro che nell’antichità si trattasse di trucchi, tuttavia oggi abbiamo l’orologio di piazza San Marco con un Moro che regolarmente suona le campane. Pian piano ci siamo avvicinati a Blade Runner con macchine perfette che assomigliano a noi. In effetti non volevo svelarvelo ma io sono una macchina costruita in una fabbrica a Torino e mandata al Festival della Mente perché il professor Odifreddi aveva altro da fare in questo weekend e io sono una copia che lui spedisce in giro quando non può o non vuole fare qualcosa.

F.B.


Condividi

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.