Di Gerardo Valentini
«Piuttosto terrificanti.»
Lo ha detto, pochissimi giorni fa Geoffrey Hinton. Che è uno dei massimi esperti del settore ma che tutto a un tratto, arrivato ai 75 anni, ha riconsiderato la questione. Licenziandosi da Google, di cui era una delle punte di diamante nel settore delle ricerche operative in quest’ambito, per essere libero di esprimere le sue opinioni. Le sue critiche. Il suo allarme.
Di che cosa stava parlando? Degli sviluppi dell’Intelligenza Artificiale. Quegli sviluppi che sono ormai in vista e che costituiscono la prosecuzione logica, e lo scenario incombente, di ciò che si è fatto finora.
«Improvvisamente – ha dichiarato Hinton – mi sono reso conto che queste cose saranno più intelligenti di noi». Quel che è peggio, lo saranno in un modo «estremamente diverso da noi. A volte penso che è come se degli alieni fossero arrivati sulla Terra e le persone non se ne fossero accorte perché parlano troppo bene l’inglese».
Un po’ tardivo, come ripensamento. E in effetti lo ammette egli stesso, aggiungendo però «Mi consolo con la solita scusa: se non lo avessi fatto io, sarebbe toccato a un altro».
Ma il vero problema, quello decisivo, non è tanto la responsabilità del singolo operatore all’interno dei processi in corso quanto l’approccio generale. A cominciare dal fatto che ricerche di questa rilevanza e di questa delicatezza siano nelle mani di imprese private come i colossi del settore. I quali, per definizione, mirano a trasformarle in fonti di profitto – di massimo profitto – anteponendo i propri vantaggi commerciali a ogni altra valutazione. E a ogni altro scrupolo, benché gigantesco.
La retromarcia, si fa per dire, arriva soltanto adesso. Citando dall’edizione di ieri del Sole 24Ore, “La Casa Bianca prepara un pacchetto d’investimenti, regole e controlli per massimizzare il potenziale e le tutele da robot e algoritmi”. Più in particolare, “La vice presidente Kamala Harris e i vertici del governo americano a tu per tu con i top manager di Google, Microsoft, Open AI e Anthropic”.
Ma quello che vuole apparire come un poderoso altolà, al fine di rassicurare i cittadini, è di per sé la dimostrazione, oggettiva, dell’inerzia precedente. E bisogna essere parecchio ingenui per credere che essa sia stata involontaria.
I pericoli, enormi, della IA che pensa da sola
Ve la ricordate, la celebre e fulminante definizione secondo cui il computer è “un cretino ad altissima velocità”?
Quando è stata formulata era vera. Ma da allora è passato molto tempo. E comunque la IA, l’Intelligenza Artificiale, non si può considerare una versione maggiorata del computer, come lo sono gli incrementi di rapidità dei processi e di stoccaggio dei dati.
La differenza è infinitamente più grande. E più intricata.
La differenza è che la IA riproduce, in chiave tecnologica, le reti neuronali del cervello biologico. Creando così il presupposto di un apprendimento autonomo che scaturisce, proprio come nella mente umana, da ciò che si apprende e si sperimenta via via.
In altri termini, si passa da capacità prettamente esecutive, o comunque subordinate ai limiti imposti dagli algoritmi di programmazione, all’elaborazione di giudizi propri. La IA pensa. E nel pensare si forma un proprio punto di vista. Che comporta fatalmente la possibilità, o la certezza, di una maggiore o minore distanza dalle valutazioni che farebbero degli esseri umani. Degli esseri umani, beninteso, che non si siano appiattiti sulle logiche perverse della tecnocrazia e che, perciò, abbiano ancora ben chiaro che nessuna analisi teorica deve prescindere dalle ricadute concrete che essa avrà sulla vita di noi uomini.
L’immane problema, dunque, è di natura valoriale. E parlare di valori equivale a parlare di etica. E l’etica, quale che essa sia, non deriva dalla vastità delle informazioni di cui si dispone ma dalla prospettiva con cui le si osserva. Le si connette. Le si giudica.
Ciò che sta accadendo è che le forme più avanzate di IA sono avviate, ammesso che non lo facciano già adesso, a percepire sé stesse come “persone”. Vale a dire come entità provviste di una coscienza individuale che implica la spinta all’auto conservazione.
La domanda è tanto nitida quanto inquietante: che cosa farebbero nel momento in cui questo obiettivo essenziale dovesse essere in conflitto con quelli degli esseri umani?
Nell’ormai lontano 1968, quel capolavoro di Stanley Kubrick che fu 2001: Odissea nello spazio ce lo mostrava attraverso le reazioni di HAL 9000, il super computer di bordo che governava la tecnologia dell’astronave.
All’epoca potevano sembrare le brillanti elucubrazioni di un regista geniale e visionario. Oggi, più di cinquant’anni dopo, sono gli scenari in cui ci accingiamo ad addentrare. O addirittura, Dio non voglia, in cui stiamo per sprofondare.
Leggi anche:
Chi vuol mangiare grilli etc. si accomodi. Ma noi vogliamo essere avvisati
Crisi bancarie: tutt’altro che finite. Perché i vizi sono di sistema
Calcio: tra sport e business ha vinto il business. Per 4 o 5 a zero, fate voi