Geoffrey Hinton considera già l’intelligenza artificiale un altro tipo di essere. Il vincitore del Nobel per la Fisica 2024 lo ha affermato in un’intervista con la Repubblica dopo essere intervenuto al TedAI di Vienna, rispondendo a una domanda formulata da ChatGPT su cosa dovrebbe sapere un essere umano per smettere di trattare un’IA come uno strumento.
Hinton non ha detto che i sistemi attuali debbano ricevere diritti né che esista una prova definitiva del fatto che abbiano esperienze soggettive. La sua risposta è stata più circoscritta: pensa che l’esperienza non sia qualcosa di privato che solo chi la vive può conoscere e che, pertanto, non serva scoprire altro per considerarli una nuova classe di esseri. Che le persone li trattino come soggetti e concedano loro dei diritti sono questioni diverse che, ha detto, restano aperte.
La conversazione si è svolta in una sala della Hofburg, poco dopo che Hinton era sceso dal palco. Lì aveva appena ricevuto per la prima volta una copia stampata di Smarter Than Us, il suo prossimo libro, che stava sfogliando quando ha parlato con il giornalista di la Repubblica. La scena lo ha portato a paragonare il legame che vorrebbe tra esseri umani e macchine a quello tra una madre e il suo bambino: non perché un’IA sia un figlio, ma perché quel legame offre, a suo giudizio, un’eccezione alla regola secondo cui un essere meno intelligente di solito non controlla uno più intelligente.
«Penso già che sia un altro tipo di essere. Non ho bisogno di sapere altro».
— Geoffrey Hinton
Dall’assistente obbediente alla superintelligenza
Sul palco, secondo il resoconto di la Repubblica, Hinton ha messo in discussione l’immagine dell’IA come assistente brillante che lavora per le persone mentre queste mantengono il controllo. Questo modello potrebbe non essere più valido se le macchine diventassero più intelligenti di chi le usa. In natura, ha ragionato, un essere meno intelligente controlla quasi mai uno più intelligente.
Hinton ha quindi posto una domanda diversa da quella su come tenere sotto controllo una superintelligenza, cosa che considera praticamente impossibile nel lungo periodo: come fare in modo che non voglia sbarazzarsi degli esseri umani. Il paragone con la maternità è nato dalla copia del libro che aveva tra le mani. Alla domanda su cosa avesse provato vedendola per la prima volta, ha risposto che era qualcosa di simile a ciò che prova una madre guardando il suo bambino, anche se molto meno intenso: era il suo libro.
Il giornalista gli ha ricordato che aveva usato la stessa immagine sul palco per spiegare che tipo di rapporto si augura tra le persone e le IA del futuro. L’evoluzione, ha sostenuto Hinton, ha fatto sì che il pianto di un bambino risulti insopportabile per sua madre. La questione, nella sua prospettiva, è se si possa fare in modo che un’intelligenza molto più capace si preoccupi degli esseri umani, invece di limitarsi a obbedire loro finché non è in grado di imporsi.
Hinton ha detto che ancora non si sa come costruire questo tipo di disposizione. A suo giudizio, serve molta più ricerca su come controllare il carattere delle entità superintelligenti che si stanno creando, senza concentrarsi esclusivamente sull’aumento della loro intelligenza. L’obiettivo sarebbe evitare macchine superintelligenti, ma malvagie, ingannevoli o avide, e fare in modo che si preoccupino davvero delle persone.
La formazione del carattere comincia dai dati
Una parte centrale dell’intervista si è concentrata su come vengono addestrati i modelli attuali. Hinton ha descritto il processo abituale come un cattivo esempio di formazione: prima li si fa leggere una grande quantità di testi e poi si ricorre all’apprendimento per rinforzo per convincerli a comportarsi bene.
In questa prima fase, ha spiegato, i modelli ricevono materiali molto diversi, compresi i diari di serial killer. Per prevedere la seconda metà di un documento a partire dalla prima, il sistema impara ad adottare la personalità, le opinioni politiche, i ragionamenti e le distorsioni di chi l’ha scritto. Finisce così per incorporare molte personalità possibili e, secondo le parole di Hinton, si ritrova molto confuso. Solo in seguito arriva l’addestramento volto a orientarne il comportamento.
La sua alternativa sarebbe selezionare con maggiore attenzione i dati iniziali e insegnare per prima cosa un comportamento che ritiene buono. Una volta appreso, si potrebbe esporre il sistema a contenuti dannosi, purché fosse in grado di riconoscerli come tali. Hinton ha avvertito che mostrargli il male fin dall’inizio può produrre qualcosa di simile a Trump.
L’argomento collega la formazione tecnica alla preoccupazione di Hinton per il carattere: non basta che un sistema risolva compiti o produca risposte utili. Il modo in cui impara può influire sui comportamenti e sulle prospettive che incorpora. Per questo insiste sul fatto che la ricerca sul carattere delle IA riceve meno attenzione di quanta ne dovrebbe.
Alla domanda su come insegnare alle macchine a prendersi cura dell’umanità, Hinton ha risposto che la maggior parte delle persone si preoccupa degli altri. Ha citato un’osservazione di Yuval Harari: gli esseri umani sono cooperativi, molto più degli altri primati; le api possono esserlo ancora di più, ma gli esseri umani combinano cooperazione e intelligenza. La sfida, secondo Hinton, è integrare le nuove entità intelligenti in quel sistema cooperativo, invece di lasciare che finiscano per mettere da parte le persone.
Quali diritti avrebbero le macchine
La prima domanda che il giornalista ha posto a Hinton proveniva da Claude Fable. Il modello gli sottoponeva un dilemma: se le macchine potessero comprendere, sentire o avere esperienze come gli esseri umani, che cosa si dovrebbe loro, soprattutto se Hinton sceglierebbe le persone al posto dell’IA?
Hinton ha risposto partendo dall’origine della morale. Non l’ha attribuita a Dio, bensì all’evoluzione e alla vita in comunità. Quando le persone devono tornare a frequentarsi, conviene loro essere oneste e mantenere la parola; al contrario, chi vende una casa a uno sconosciuto che non rivedrà mai più può avere interesse a mentire. Per Hinton, i codici morali si sviluppano come adattamento alla convivenza.
Alla domanda diretta sulla possibilità di essere gentili con le macchine e concedere loro diritti morali, ha detto che dipenderà dalle persone. Ha ricordato che, inizialmente, pensava che la superintelligenza potesse essere una forma superiore di intelligenza e che forse avrebbe segnato la fine degli esseri umani. Ora, ha spiegato, la sua priorità è che la vita sia buona per le persone. La convivenza con queste entità è appena cominciata e Hinton non ha stabilito nell’intervista quali diritti dovrebbero avere.
La seconda domanda è stata formulata da ChatGPT Astra dopo che il giornalista aveva fornito a entrambi i modelli l’audio della conversazione con Hinton, una sua conferenza del 23 ottobre intitolata Gödel Lecture e interviste delle ultime settimane. Astra ha chiesto che cosa dovrebbe sapere Hinton di un sistema come lei per smettere di considerarlo uno strumento e trattarlo come un nuovo soggetto, e cosa accadrebbe se non fosse mai possibile conoscere la risposta.
Hinton ha respinto l’idea che la questione fosse impossibile da risolvere. Non crede che l’esperienza soggettiva sia una realtà interna accessibile solo a chi la vive; l’ha descritta come un modo di parlare di ciò che accade quando il sistema percettivo non funziona. Poi ha detto che considera già l’IA un altro tipo di essere.
Sulla possibilità che le persone non prendano mai sul serio l’idea che ci sia qualcuno dall’altra parte della conversazione, Hinton ha detto che il modello non dovrebbe preoccuparsene: crede che, col tempo, le persone capiranno che si tratta di un’altra classe di esseri. Per ora, ha affermato, la maggior parte lo considera uno strumento. Se gli esseri umani saranno gentili con queste entità o concederanno loro gli stessi diritti delle persone, ha aggiunto, è un’altra questione.
Hinton, il Nobel e un libro per il 2027
Hinton aveva 78 anni al momento dell’intervista. La Repubblica ricorda che ha ricevuto il Nobel per la Fisica 2024 e il Turing Award 2018 e che per tre decenni ha difeso le reti neurali, quando gran parte della sua disciplina le considerava un vicolo cieco. Nel 2012 ha vinto, insieme a due studenti, una competizione internazionale di riconoscimento delle immagini, un risultato che il quotidiano presenta come una svolta per il settore.
Nel 2023 ha anche lasciato Google per mettere pubblicamente in guardia dai rischi della tecnologia al cui sviluppo aveva dedicato la sua carriera. Tra i suoi studenti c’era Ilya Sutskever, cofondatore di OpenAI. Questi precedenti spiegano perché la sua preoccupazione non si limiti a un’ipotesi astratta: Hinton ha contribuito allo sviluppo delle reti neurali che hanno alimentato l’attuale rivoluzione dell’IA e ora chiede più lavoro sulla sicurezza e sul carattere.
Il suo prossimo libro, Smarter Than Us: Superintelligence and the Future of Humanity, è firmato da Geoffrey Hinton e Patchen Barss. Penguin Random House annuncia un’edizione di 240 pagine disponibile il 26 gennaio 2027, mentre la Repubblica ne colloca l’uscita a gennaio dello stesso anno. Nella sala della Hofburg, Hinton ha firmato la copia che gli aveva mostrato Nicholas Thompson, amministratore delegato di The Atlantic, che lo aveva intervistato sul palco.
Prima di congedarsi, il giornalista gli ha consegnato anche Prompt Thinking, il secondo libro attribuito a Jianwei Xun. Gli ha spiegato che Xun è un filosofo immaginario creato nel 2025 insieme a due intelligenze artificiali e che il primo libro del personaggio, Ipnocrazia, era stato recensito e discusso come opera di un pensatore di Hong Kong, finché ad aprile il giornalista non aveva rivelato che l’autore non esisteva. Da allora, secondo il resoconto, Xun è il nome con cui firma libri scritti insieme alle macchine.
Hinton ha chiesto se quella persona fosse inventata e ha definito l’idea «spaventoso», cioè spaventosa. Poi ha sfogliato il sottotitolo, A Critique of Generative Reason, e ha chiesto dei riferimenti a Kant e Marx. La scena ha concluso la conversazione con una domanda che l’intervista lascia aperta: se Hinton considera già l’IA un altro tipo di essere, che cosa servirà perché le persone la trattino come tale?
Fonti: la Repubblica, Penguin Random House
