Geoffrey Hinton, padrino dell’Intelligenza artificiale,
si ribella: “È pericolosa”

Geoffrey Hinton, considerato il padrino dell’intelligenza artificiale, si è dimesso da Google dopo 10 anni, lanciando un nuovo allarme sui crescenti pericoli dell’Intelligenza artificiale (AI), che vanno dalla disinformazione ai posti di lavoro, sino addirittura alla scomparsa dell’umanità.

Lo scienziato ha spiegato di essersi licenziato “per poter parlare liberamente di questi rischi”, pur non criticando il gigante tech, ma anzi sottolineando che è stato “molto responsabile”. Tuttavia ha ammesso che una parte di sé ora si rammarica del suo lavoro, anche se “si consola con la solita scusa: se non l’avessi fatto, l’avrebbe fatto qualcun altro”.
Britannico di nascita ma con passaporto canadese, 75 anni, Hinton è un pioniere della ricerca sulle reti neurali e sul deep learning, che gli ha fatto vincere nel 2018 il prestigioso premio Turing Award e ha spianato la strada ai sistemi di intelligenza artificiale.
Era entrato in Google nel 2013, dopo che Big G si era comprata una società fondata da lui e due suoi studenti (uno dei due è Ilya Sutskever, che oggi lavora per OpenAI, il creatore del controverso ChatGpt): i tre avevano sviluppato una rete neurale che imparava da sola a identificare oggetti comuni dopo aver analizzato migliaia di foto. Da allora i programmi dell’AI hanno fatto passi da gigante ed ora, mette in guardia Hinton, sono “piuttosto spaventosi”.
“Adesso non sono più intelligenti di noi, per quanto ne so. Ma penso che presto potrebbero esserlo”, ha ammonito, prefigurando scenari sino a poco tempo fa solo da fantascienza.
Lo psicologo cognitivo e scienziato informatico ha spiegato poi che il chatbot potrebbe presto superare il livello di informazioni di un cervello umano: “In questo momento – ha osservato – quello che stiamo vedendo è che cose come Gpt-4 oscurano una persona nella quantità di conoscenza generale. In termini di ragionamento non è così buono, ma fa già un semplice ragionamento. E dato il ritmo dei progressi, ci aspettiamo che le cose migliorino abbastanza velocemente. Quindi dobbiamo preoccuparcene”.
Hinton ha evocato il rischio di “attori cattivi che potrebbero tentare di usare l’AI per cose cattive. Potete immaginare un cattivo attore come Putin che decida di dare ai robot la capacità di creare propri sotto-obiettivi, come quelli di ottenere più potere?”.
Lo scienziato, inoltre, è arrivato alla conclusione che “il tipo di intelligenza che stiamo sviluppando è molto differente dall’intelligenza che abbiamo noi. Noi siamo sistemi biologici, mentre questi sono sistemi digitali. E la grande differenza è che con i sistemi digitali hai molte copie uguali. E tutte queste copie possono imparare separatamente ma condividere le loro conoscenze all’istante. Quindi è come se avessi 10.000 persone e ogni volta che una persona ha imparato qualcosa, tutti lo sapessero automaticamente. Ed è così che questi chatbot possono sapere molto di più di qualsiasi persona”.
Il suo allarme segue quello di oltre mille dirigenti e ricercatori del settore, tra cui Elon Musk, che dopo la diffusione a marzo di ChatGpt da parte della start-up OpenAi hanno chiesto in una lettera aperta una moratoria di sei mesi nello sviluppo dell’intelligenza artificiale per quelli che vengono definiti “profondi rischi alla società e all’umanità”. Hinton ritiene, però, che sia difficile sospenderne lo sviluppo, data la concorrenza internazionale, e che comunque non bisogna fermarlo, ma regolamentarlo perché nel breve termine vede più benefici che rischi. “Un compito – ha concluso – che spetta alla politica”.
La sfida è stata subito raccolta dal commissario Ue per l’Economia, Paolo Gentiloni: “Le dimissioni di Geoffrey Hinton da Google rilanciano la discussione sull’Intelligenza artificiale. Grandi potenzialità, ad esempio per la salute. Ma anche rischi. L’Europa lavora per regole del gioco efficaci”, ha twittato.

[email protected]