Cultura
Goeffrey Hinton, il pentito dell’intelligenza artificiale: “Potrebbe superare le capacità del cervello umano”
Goeffrey Hinton è considerato il padrino dell’IA. Per dieci anni ha guidato la ricerca di Google ma a maggio si è dimesso, spinto dalla paura dei rischi della sua creatura per il mondo. "Ho 75 anni e mi consolo con la classica scusa: se non l’avessi fatto io, lo avrebbe fatto qualcun altro. Ora però spetta ai governi garantire che non si ribelli all’umanità"
Come un moderno Geppetto, per mezzo secolo Geoffrey Hinton, psicologo cognitivo e informatico di origini anglo-canadesi, ha nutrito il sogno di dare vita alla materia e lo ha fatto programmando algoritmi per l’apprendimento automatico. Ma a differenza del romanzo fantasy di Carlo Collodi il suo obiettivo – scoprire una procedura di apprendimento capace di individuare strutture complesse, set di dati ad alta dimensione e dimostrare che è questo il modo in cui il nostro cervello impara a vedere e riconoscere le cose – si è concretizzato davvero. Pioniere dell’intelligenza artificiale, o come lui la definisce “il nostro figlio precoce superdotato”, dal 2013 Hinton è stato a capo della divisione di ricerca sull’intelligenza artificiale di Google, Google Brain, aprendo la strada ad alcuni dei sistemi IA attualmente più in uso come ChatGPT. Fino a maggio 2023, quando ha deciso di lasciare l’azienda di Palo Alto, temendo che la sua stessa creatura potesse prendere una direzione sbagliata.
Apprendimento profondo
Hinton discende da una famiglia di eminenti studiosi, tra cui la celebre matematica Mary Everest Boole e suo marito, George Boole, uno dei fondatori dell’informatica moderna – il suo secondo nome viene da un altro parente, George Everest, responsabile generale dei geografi britannici in India dal 1830 al 1843, da cui prende il nome il noto Monte. Quando Hinton ha annunciato le sue dimissioni la settimana scorsa, ha detto di averlo fatto «per poter parlare liberamente dei pericoli legati alle IA» e ha sottolineato come «Google stia in effetti svolgendo un ottimo lavoro». Le sue preoccupazioni piuttosto, sono legate alla concorrenza sfrenata di altre aziende «malintenzionate», oltre alla disoccupazione tecnologica e al rischio esistenziale posto dalla tecnologia stessa.
Dopo essersi laureato in psicologia sperimentale al King’s College di Cambridge nel 1970, nel 1978 Hinton ha conseguito un dottorato in intelligenza artificiale presso l’Università di Edimburgo. Il suo lavoro riguarda i modi d’uso delle reti neurali per l’apprendimento delle macchine, la memoria, la percezione, e l’elaborazione dei simboli. Con oltre 200 pubblicazioni accademiche, è stato uno dei ricercatori a introdurre l’algoritmo di apprendimento delle reti neurali o di retropropagazione dell’errore (in inglese backpropagation) e il primo a utilizzare modelli addestrabili nella rappresentazione distribuita delle parole. Tra i suoi altri contributi alle reti neurali artificiali, per citarne alcuni, ricordiamo lo sviluppo nel campo delle macchine Boltzman – un tipo di modello grafico probabilistico utilizzato nell’apprendimento profondo- e nel connessionismo – un modello delle scienze cognitive che cerca di risolvere i problemi legati al funzionamento della mente ispirandosi alle strutture cerebrali.
«Un argomento comune nel prendere ispirazione dal cervello quando si progettano reti neurali è che è come prendere delle piume per progettare macchine volanti. I droni hanno bisogno di lame che non danneggiano le cose che toccano e siano riparabili, come il ripiumaggio», ha ironizzato. Inoltre, con il suo gruppo di ricerca dell’Università di Toronto, ha compiuto passi avanti notevoli nell’apprendimento profondo delle macchine, rivoluzionando i campi del riconoscimento vocale e della classificazione delle immagini.
Come descritto nel suo certificato di elezione presso la Roval Society, «Hinton si è distinto a livello internazionale per il suo lavoro sulle reti neurali artificiali, in particolar modo su come possono essere progettate a imparare senza l’aiuto di un istruttore umano. Ciò potrebbe ben rappresentare l’inizio delle macchine autonome intelligenti. Dopo aver paragonato gli effetti dei danni cerebrali agli effetti della perdita di informazioni in queste reti, sono venute alla luce somiglianze straordinarie con le menomazioni umane, come la difficoltà nel riconoscere i nomi e la perdita nella capacità di categorizzare gli oggetti. Il suo lavoro è concettuale, matematicamente avanzato e sperimentale. Unisce queste tre competenze con effetti sorprendenti, producendo un lavoro di enorme interesse per l’umanità».
Rischi spaventosi
Il 1 maggio 2023 però, nell’annunciare pubblicamente le sue dimissioni da Google, Hinton si è dichiarato pentito del lavoro di una vita intera. «Ho 75 anni, ed è ora che vada in pensione. Mi consolo con la classica scusa: se non l’avessi fatto io, lo avrebbe fatto qualcun altro». Hinton ha espresso la sua preoccupazione riguardo ai rapidi progressi dell’IA credendo inizialmente che ci sarebbero voluti 30-50 anni per svilupparla. Ora, sostiene, «ci troviamo a meno di vent’anni di distanza dall’IA pronta ad ogni uso e i cambiamenti che porterà saranno paragonabili per entità alla rivoluzione industriale o l’elettricità».
Hinton si è unito a un ampio numero di esperti di IA preoccupati per i suoi possibili effetti sul mondo reale. A marzo, in una lettera aperta co-firmata da decine di studiosi del settore – incluso il miliardario Elon Musk – è stato lanciato un appello per rallentare lo sviluppo di questi sistemi in modo da poter implementare robuste misure di sicurezza. Tuttavia, ha sottolineato come sia difficile rallentare lo sviluppo di questi sistemi, data la competizione a livello internazionale: «Se gli Stati Uniti smettessero di svilupparla, i cinesi ne trarrebbero vantaggio». Inoltre si è detto convinto che nel breve termine i benefici delle IA saranno comunque di molto superiori ai rischi: «Sono uno scienziato e non m’intendo di politica. È responsabilità dei governi garantire che le IA non si ribellino ai loro creatori».
Hinton si è anche scagliato contro l’industria militare, accusando il governo canadese di spendere «dollari preziosi per la ricerca nell’industria bellica, un modo non molto efficiente per innovare che porterà a oscenità come campi di mine autorigeneranti. Incoraggiamo le start-up, non il complesso industriale militare».
Come ha riferito alla Bbc, «al momento il sistema non è più intelligente di noi, ma l’IA potrebbe superare presto la capacità d’informazione del cervello umano», descrivendo alcuni dei rischi collegati ai chatbot come «piuttosto spaventosi» e spiegando come questi abbiano sviluppato la capacità di apprendere informazioni in maniera indipendente e condividere tra loro queste conoscenze. «Noi siamo sistemi biologici e questi sono sistemi digitali. La differenza principale è che loro possono acquisire nuove informazioni in maniera autonoma e condividerle all’istante. Al momento i sistemi come GPT-4 superano di gran lunga l’uomo per quantità di informazioni, ma non sono molto abili a svolgere semplici ragionamenti. Visto il tasso di progresso, tuttavia, crediamo che le cose cambieranno abbastanza in fretta, e dobbiamo preoccuparcene. Ci sono enormi vantaggi con questa tecnologia, ma è essenziale che il mondo investa velocemente in sicurezza e controllo delle IA».
Come ha scritto in un recente tweet: «I bruchi estraggono i nutrienti per poi trasformarli in farfalle. Gli uomini hanno estratto miliardi di pepite di conoscenza e l’IA è la farfalla dell’umanità».
