Hinton, l’addio a Google e la “sindrome di Oppenheimer” per quello che sta diventando l’AI

L’intervista al New York Times, che aveva fatto tanto rumore, aveva provocato non pochi malumori a causa di una sovrainterpretazione di Cade Metz, giornalista che l’aveva firmata. Geoffrey Hinton, che è recentemente diventato premio Nobel per la Fisica grazie ai suoi studi sul machine learning, non aveva affermato di aver lasciato Google per poter essere libero di criticare l’azienda, ma semplicemente per avere campo libero nel parlare con maggiore chiarezza e senza filtri dei rischi collegati all’intelligenza artificiale che lui stesso, proprio grazie al suo percorso accademico, aveva reso possibile. Nell’ecosistema industriale delle grandi aziende di Big Tech, infatti, scindere il progresso dal profitto non è una cosa semplice. E questo, ovviamente, comporta il fatto di spingersi sempre più al limite, portando alle estreme conseguenze i risultati di anni e anni di ricerca scientifica. Geoffrey Hinton, a proposito di intelligenza artificiale, ha subito un po’ quella che potremmo definire la sindrome di Oppenheimer: l’essere stato all’inizio di una rivoluzione scientifica che ha portato, poi, a un’applicazione pratica pericolosa.

LEGGI ANCHE > Una intelligenza artificiale da Nobel

Geoffrey Hinton e la ribellione alle applicazioni dell’AI

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

L’abbandono di Google ha sicuramente dato modo a Hinton di parlare con più libertà dei rischi connessi all’applicazione dell’intelligenza artificiale che, a più riprese, è stata definita da lui come spaventosa o come una sorta di rivoluzione copernicana. Le sue uscite pubbliche, dopo le dimissioni da Google, gli hanno sempre consentito di fare ampi ragionamenti sull’etica dell’intelligenza artificiale. Come, ad esempio, la riflessione affidata alla MIT Technology Review: «Il nostro cervello ha cento trilioni di connessioni. I modelli linguistici di grandi dimensioni (su cui vengono addestrate le IA come ChatGpt, ndr) ne hanno invece al massimo un trilione. Tuttavia Gpt-4 (il modello linguistico più avanzato di ChatGpt) ha una conoscenza di gran lunga superiore a quella di una persona in carne e ossa. Quindi, forse, in realtà ha un algoritmo di apprendimento migliore del nostro».

Hinton è tra gli scienziati convinti che, nel breve periodo, sia possibile che una macchina sviluppi una intelligenza superiore a quella di un essere umano e – per questo motivo – sta cercando di fare evangelizzazione sui rischi connessi all’AI.

L'articolo Hinton, l’addio a Google e la “sindrome di Oppenheimer” per quello che sta diventando l’AI proviene da Giornalettismo.