L’UOMO E LA MACCHINA
![](/sites/default/files/Faggin%20Federico.jpg)
Quali sono le innovazioni di maggiore impatto in questo
momento e che cosa cambiano? Federico Faggin La digitalizzazione dell’informazione
è il movimento che si è avviato con l’invenzione del computer alla fine della
guerra e, con l’invenzione del microprocessore, ha portato un’accelerazione
fantastica della velocità con cui la tecnologia è entrata in tutti gli aspetti
della nostra vita.
Oggi è arrivata l’intelligenza artificiale, è proposta come
una vera rivoluzione, anche se a questo proposito non ho la stessa esuberanza
di molti: l’intelligenza artificiale ha certamente superato le difficoltà che
esistevano da sempre nel risolvere problemi come il riconoscimento di patterns
molto complessi o la traduzione simultanea delle lingue oppure la scrittura a
mano e così via. Cose che erano molto limitate con le reti neurali, che
peraltro io studiavo già trent’anni fa, e che oggi sono rese possibili
dall’intelligenza artificiale, che certamente accelererà ancora il progresso.
Tuttavia, la tecnologia di base, quella del silicio, sta arrivando verso la
fine della corsa, quindi l’idea che questa accelerazione della tecnologia
continui all’infinito comincia a essere limitata.
Oggi i calcolatori usano un mare di potenza e non conosciamo
ancora alcun modo per ridurla. Per esempio i grandi sistemi del cloud
computing dissipano ben 50 MB di potenza. Siamo arrivati a 5 Giga di
velocità nei microprocessori, mentre vent’anni fa eravamo a 2,5. E non
s’intravede il modo di arrivare a 6 o a 7. Quindi quest’idea di aumentare
all’infinito la capacità di elaborazione (legge di Moore) comincia a vacillare.
Le applicazioni della tecnologia continueranno ad aumentare, quindi l’impatto
di questa tecnologia è enorme, ma non continuerà a crescere in maniera
esponenziale.
Arriva poi la tecnologia nuova costituita dalle
biotecnologie, con la scoperta della CRISPR (Clustered Regularly Interspaced
Short Palindromic Repeats, brevi ripetizioni palindrome raggruppate e separate a
intervalli regolari), un’innovativa tecnica di editing genetico che permette di
cambiare elementi del DNA, cosa impossibile prima: una grande opportunità, ma anche
un pericolo, perché la manipolazione genetica è molto più pericolosa
dell’intelligenza artificiale. La vita è qualcosa di molto più ricco e
importante dal punto di vista della capacità di adattarsi e creare strutture
autonome. Noi non riusciamo a costruire robot autonomi, mentre la vita è
autonoma per definizione e non è controllabile. Se scappa di mano, abbiamo
problemi enormi.
Di questo pericolo non si parla molto, ma è molto più grave
di quello che può comportare l’intelligenza artificiale.
David Orban La prima delle tre leggi stabilite da Arthur
Clarke dice che quando un illustre anziano scienziato sostiene che qualcosa è
possibile ha quasi certamente ragione, ma quando sostiene che qualcosa è
impossibile ha quasi certamente torto. Nello spirito di un dibattito sano,
andrò a contraddire con forza Federico Faggin, perché, così come noi non usiamo
più i computer a tubi catodici, in futuro certamente non useremo il silicio o i
microprocessori progettati e costruiti attraverso le tecnologie di oggi, perché
avranno esaurito la loro traiettoria.
La corsa all’innovazione non è finita, è ancora all’inizio.
In un mondo aperto, decine o centinaia di gruppi differenti cercano di
risolvere i problemi, portano all’innovazione, che, attraverso le licenze, i brevetti
e i metodi di produzione, si diffonde dappertutto e supera problemi che
precedentemente sembravano insuperabili.
Ed è per questo che, giustamente, per esempio, abbiamo le
notizie sui computer quantistici: quei fenomeni che, quarant’anni fa, potevano
essere ignorati nella costruzione dei microprocessori, oggi non si possono più ignorare:
per andare avanti, bisogna accoglierli per produrre quella capacità di calcolo
di cui abbiamo bisogno.
Faggin Credo d’intendermi abbastanza di tecnologia per poter
dire che il computer quantistico programmabile, anche secondo gli esperti più
avanzati, potrà sostituire quello attuale soltanto fra venti o trent’anni.
Se parliamo delle applicazioni, invece, la possibilità di
manipolare le persone attraverso l’intelligenza artificiale è enorme.
Tuttavia, ci sono cose bellissime che si possono fare con
l’intelligenza artificiale, che certamente produrrà un’accelerazione in tutti i
campi. Eppure, non vedo in questo momento una tecnologia che possa tenere il passo
della legge di Moore.
Orban Devo citare ancora Arthur Clarke: la terza legge di
Clarke dice che qualunque tecnologia sufficientemente avanzata è
indistinguibile dalla magia. Questo non significa che sia magia, ma
semplicemente che dobbiamo prepararci per saperla gestire al meglio. In
effetti, l’Unione Europea ha stanziato un miliardo di euro per programmi di
ricerca in direzione della Explainable Artificial Intelligence (spiegazione
dell’intelligenza artificiale), cioè di “scatole nere” che spiegano come sono
arrivati a una certa decisione.
Faggin I sistemi esperti erano quelli che richiedevano
all’uomo di spiegare come arrivare a una decisione.
Questi sistemi esperti non hanno mai funzionato, per la
stessa ragione per cui non è possibile con le reti neurali capire come esse
arrivino a prendere una decisione. Tuttavia, con le reti neurali, l’uomo può
capire, non completamente ma in buona parte, come vengono prese certe
decisioni. Però deve esserci un uomo in grado di capire queste cose, perché la
rete neurale non capisce, non è cosciente, si limita a elaborare.
Orban L’intelligenza artificiale è una macchina, un
programma che impara, ma è anche un programma che impara come imparare,
richiedendo pensiero strategico e coordinazione. Evolvere metodi, per analizzare,
per gestire una società complessa, come quella che ci circonda, non può essere
banalmente lasciato alla nostra lenta e inefficiente capacità di comprensione.
Noi abbiamo già un’intelligenza artificiale che chiamiamo “democrazia
rappresentativa” e ne siamo profondamente scontenti. Abbiamo anche robot che chiamiamo
“fabbriche”. Queste fabbriche erano cieche e sorde, perché non avevano sensori
e attuatori. La trasformazione digitale non serve soltanto per sostituire il
fax con l’e-mail, sta nello svegliare queste “fabbriche”, perché possano
cominciare a conversare con noi.
Faggin Una macchina può fare meglio di noi cose meccaniche,
ma non cose che richiedono comprensione profonda e integrazione dei sentimenti o
del libero arbitrio. Come possiamo fidarci ciecamente di una macchina autonoma?
L’autonomia richiede ben più che vincere un gioco dove le regole sono
esplicite. Il gioco della vita non ha regole esplicite. Il computer può
imparare soltanto in presenza di regole esplicite. Ma come potrà barare,
cambiare le carte in tavola o attaccare, come fa l’uomo? Come può una macchina
agire autonomamente in un mondo di uomini che sono anche aggressivi e barano?
Bisognerebbe conferire alla macchina la capacità di fare cose che non si
dovrebbero mai lasciare all’arbitrio di una macchina, come attaccare o barare? Orban
Io definisco il nostro come tempo della “scossa” (in inglese jolting time).
In matematica la “scossa” è la prima derivata dell’accelerazione. Ci stiamo
circondando di tecnologie la cui accelerazione è crescente. Infatti, abbiamo
intelligenze artificiali che barano e bleffano meglio degli esseri umani:
battono i campioni mondiali di poker. Abbiamo intelligenze artificiali che
imparano senza le regole, perché le regole, in quei giochi che ho citato prima,
non sono state date loro. Sono stati dati obiettivi e hanno derivato le regole
attraverso il gioco.
Faggin Ma potranno le macchine, i computer essere coscienti
come noi? Questo è il vero problema irrisolto. Ci penso da trent’anni e penso
che il computer non potrà mai essere cosciente.
Se questo fosse possibile, sarebbe una cosa molto
importante, perché la differenza tra uomo e macchina sta proprio nella
coscienza. Orban crede che le macchine potranno essere coscienti, io non lo
credo.
Orban L’osservazione che noi sviluppiamo e che ci consente
di riconoscerci gli uni negli altri ci predispone a saltare al di là
dell’esperienza tangibile e a credere che effettivamente anche le altre persone
siano coscienti, così come noi sentiamo di esserlo. Noi non possiamo fare
l’esperimento e quindi ci crediamo. La convivenza con sistemi sempre più
sofisticati, le cui decisioni hanno conseguenze anche morali importanti, permetterà
la crescita ricca di vite future e di società che fioriranno grazie a questi
sistemi e renderanno la domanda ancora interessante per alcuni che
continueranno a studiarla dal punto di vista scientifico e ingegneristico, ma
la stragrande maggioranza delle persone smetterà di preoccuparsene.
Magari i bambini chiederanno ai loro mentori artificiali con
cui cresceranno: “Ma tu pensi come me?”, e quei mentori risponderanno come risponderanno.
Io ritengo che saremo circondati da varianti di migliaia o miliardi di diverse
coscienze. Starà poi a noi decidere se vogliamo far parte di quel gioco che
loro costruiranno.
Faggin Il fatto che io non possa dimostrare a un altro né un
altro possa dimostrare a me di essere cosciente non implica l’assenza di
coscienza. È un fatto reale che io so, dentro di me, so di esistere, di avere
sensazioni che non sono segnali elettrici. La simulazione di una struttura
fisica non è la realtà, la simulazione della vita non è vita. Prima di tutto la
vita non è un sistema classico. Un organismo vivente non è una macchina
classica, come un computer. È presentato come un computer, ma non è un
computer. Il computer può dentro di sé creare una simulazione della vita, ma
una cellula vivente crea dentro di sé una copia identica di sé, una cellula
uguale che si divide in due. Se il computer fosse così, si potrebbero eliminare
tutte le fabbriche. Basterebbe un computer che si riproduca e avremmo risolto
il problema del manufactory. Da questo esempio vediamo che la vita non è
un computer e noi siamo coscienti, perché esistiamo come organismo fisico, fondamentalmente
quantistico, con una capacità di elaborazione e di informazione che fa
impallidire la capacità dell’elaborazione dell’informazione di tutti i computer
del mondo. Tutti i computer del mondo messi insieme non potrebbero simulare una
cellula vivente. Questa è la realtà. Quindi ci raccontiamo delle storie sul
fatto di non sapere distinguere tra virtuale e reale. È quello che sta
succedendo con i nostri ragazzi, che non sanno più distinguere la fotografia
dalla persona reale.
Orban Aeroplani e uccelli volano entrambi. Il fatto che
tuttora non abbiamo capito alla perfezione come gli uccelli volano non è una
dimostrazione che gli aeroplani non possano esistere.
Faggin Ma l’uccello è cosciente, mentre l’aeroplano no. Il
mio messaggio è quello di abbracciare l’intelligenza artificiale e la robotica,
ma in modo di usare e di creare macchine complementari all’uomo, non per
sostituire l’uomo. È una gran perdita di tempo pensare che un domani arriverà
una macchina per fare le cose che faccio io. Nella Silicon Valley oggi è
diffusa l’idea che le macchine ci supereranno in tutto, ma che una macchina sia
più veloce di me nel fare operazioni meccaniche non comporta che sia più intelligente
di me. Occorre usare l’intelligenza artificiale con l’intelligenza umana.
Credere che una macchina sia più potente di noi è un grande disservizio per
l’umanità. Noi non siamo macchine. Siamo ridotti a essere macchine imperfette
da questa visione della Silicon Valley che ci fa vedere un futuro che non è
assolutamente raggiungibile.