Il padrino dell'intelligenza artificiale lascia Google (per poterci avvertire dei rischi)

Dopo Elon Musk e Sam Altman, fondatore di OpenAI (la startup creatrice di ChatGPT), alla lista dei "pentiti" - o quantomeno perplessi - circa l'intelligenza artificiale, si aggiunge un altro nome illustre: Geoffrey Hinton. Il 75enne, considerato il "padrino dell'Intelligenza artificiale" ha lasciato il suo ruolo in Google per poter parlare liberamente dei rischi dell'AI.

George Hinton: il padrino dell'AI si è "pentito"

Dopo che il NYT ha dato la notizia, Hinton ha confermato:

"Me ne sono andato per poter parlare dei suoi pericoli. Google ha agito in modo molto responsabile. In questo momento, non sono più intelligenti di noi, per quanto ne so. Ma penso che presto potrebbero esserlo".

E' dunque il potenziale scenario futuro che inquieta Hinton, scienziato informatico, il cui lavoro pionieristico sulle reti neurali ha modellato i sistemi di Intelligenza artificiale che alimentano molti dei prodotti odierni. L'esperto ha lavorato part-time presso Google per un decennio:

"Mi consolo con la solita scusa: se non l'avessi fatto io, l'avrebbe fatto qualcun altro".

Ma non nasconde i timori:

"In questo momento, quello che stiamo vedendo è che GPT-4 è in grado di oscurare una persona in termini di conoscenza generale. In termini di ragionamento, non è così buono, ma fa già un semplice ragionamento. E dato il ritmo dei progressi, ci aspettiamo che le cose migliorino abbastanza velocemente. Quindi dobbiamo preoccuparcene", ha spiegato alla Bbc.

Le maggiori fonti di preoccupazione

Fra le principali preoccupazioni di Hinton c'è il rischio che gli esseri umani perdano la capacità di distinguere cosa è vero e cosa è falso, soprattutto data la velocità con cui migliorano e apprendono nuove funzioni e nuove azioni. Basti pensare al finto arresto di Trump o ai funerali fake di Berlusconi. Nel futuro, per lo scienziato, c’è la possibilità concreta che verremo bombardati da sempre nuovi video, foto e testi falsi, generati dalle intelligenze artificiali.

Altro scenario che preoccupa Hinton è la capacità di creare propri sotto-obiettivi, ovvero fasi intermedie necessarie per portare a termine un compito. Il problema sorge quando qualora questa capacità possa essere applicata a qualcosa di intrinsecamente immorale:

"Pensate che Putin non creerebbe dei robot iper intelligenti con l'obiettivo di uccidere gli ucraini? Non esiterebbe. E se si vuole che siano bravi a farlo, non si vuole microgestirli: si vuole che capiscano come farlo" ha tuonato.

La lettera dei leader tecnologici

Dopo l’arrivo della nuova versione di ChatGPT, a marzo 2023, oltre mille leader tecnologici e ricercatori scrissero una lettera aperta chiedendo di mettere una moratoria di sei mesi sullo sviluppo di nuovi sistemi perché le tecnologie AI possono provocare "profondi rischi per la società e umanità". Fra i firmatari anche Elon Musk.

Google ha cercato di rassicurare dopo le parole di Hinton:

"Rimaniamo impegnati in un approccio responsabile all’IA. Impariamo continuamente a comprendere i rischi emergenti, innovando allo stesso tempo con coraggio", ha detto il capo scienziato di Google, Jeff Dean.

Le dimissioni di Geoffrey Hinton da Google rilanciano la discussione sull’Intelligenza Artificiale. Grandi potenzialità, ad esempio per la salute. Ma anche rischi", ha commentato anche Paolo Gentiloni, commissario Ue per l’Economia. "L’Europa lavora per regole del gioco efficaci", ha chiosato.