Geoffrey Hinton ya considera que la inteligencia artificial es otro tipo de ser. El ganador del Nobel de Física de 2024 lo afirmó en una entrevista con la Repubblica tras intervenir en el TedAI de Viena, al responder a una pregunta formulada por ChatGPT sobre qué tendría que saber un humano para dejar de tratar a una IA como una herramienta.
Hinton no dijo que los sistemas actuales deban recibir derechos ni que exista una prueba definitiva de que tengan experiencias subjetivas. Su respuesta fue más acotada: piensa que la experiencia no es algo privado que solo pueda conocer quien la vive y que, por tanto, no hace falta descubrir nada más para considerarlos una nueva clase de ser. Que las personas los traten como sujetos, y que les otorguen derechos, son cuestiones distintas que, dijo, siguen abiertas.
La conversación tuvo lugar en una sala de la Hofburg, poco después de que Hinton bajara del escenario. Allí acababa de recibir por primera vez una copia impresa de Smarter Than Us, su próximo libro, que estaba hojeando cuando habló con el periodista de la Repubblica. La escena le llevó a comparar el vínculo que querría entre humanos y máquinas con el de una madre y su bebé: no porque una IA sea un hijo, sino porque ese vínculo ofrece, a su juicio, una excepción a la regla de que un ser menos inteligente no suele controlar a otro más inteligente.
«Penso già che sia un altro tipo di essere. Non ho bisogno di sapere altro».
— Geoffrey Hinton
Del asistente obediente a la superinteligencia
En el escenario, según la crónica de la Repubblica, Hinton cuestionó la imagen de la IA como una asistente brillante que trabaja para las personas mientras estas conservan el mando. Ese modelo podría dejar de ser válido si las máquinas llegan a ser más inteligentes que quienes las usan. En la naturaleza, razonó, un ser menos inteligente casi nunca controla a otro más inteligente.
Hinton planteó entonces una pregunta distinta a la de cómo mantener bajo control una superinteligencia, algo que considera prácticamente imposible a largo plazo: cómo conseguir que no quiera deshacerse de los humanos. La comparación con la maternidad surgió de la copia del libro que tenía entre las manos. Al preguntarle qué sintió al verla por primera vez, respondió que fue algo parecido a lo que siente una madre al ver a su bebé, aunque mucho menos intenso: era su libro.
El periodista le recordó que había empleado esa misma imagen en el escenario para explicar qué clase de relación espera entre las personas y las futuras IA. La evolución, sostuvo Hinton, hizo que el llanto de un bebé resulte insoportable para su madre. La cuestión, en su planteamiento, es si puede lograrse que una inteligencia mucho más capaz se preocupe por los humanos, en vez de limitarse a obedecerlos mientras no pueda imponerse.
Hinton dijo que aún no se sabe cómo construir ese tipo de disposición. A su juicio, hace falta investigar mucho más cómo controlar el carácter de las entidades superinteligentes que se están creando, y no centrarse únicamente en aumentar su inteligencia. Su objetivo sería evitar máquinas superinteligentes, pero malvadas, engañosas o codiciosas, y conseguir que de verdad se preocupen por las personas.
La formación del carácter empieza en los datos
Una parte central de la entrevista se centró en cómo se entrenan los modelos actuales. Hinton describió el proceso habitual como un mal ejemplo de formación: primero se les hace leer una gran cantidad de textos y, después, se recurre al aprendizaje por refuerzo para persuadirlos de que se comporten bien.
En esa primera etapa, explicó, los modelos reciben materiales muy distintos, incluidos diarios de asesinos en serie. Para predecir la segunda mitad de un documento a partir de la primera, el sistema aprende a adoptar la personalidad, las opiniones políticas, los razonamientos y las deformaciones de quien lo escribió. Así acaba incorporando muchas personalidades posibles y, en palabras de Hinton, queda muy confundido. Solo después llega el entrenamiento destinado a orientar su conducta.
Su alternativa sería seleccionar más cuidadosamente los datos iniciales y enseñar primero un comportamiento que considere bueno. Una vez aprendido, se podría exponer al sistema a contenidos dañinos, siempre que tuviera capacidad para reconocerlos como tales. Hinton advirtió que mostrarle el mal desde el principio puede producir algo parecido a Trump.
El argumento conecta la formación técnica con la preocupación de Hinton por el carácter: no basta con que un sistema resuelva tareas o produzca respuestas útiles. El modo en que aprende puede influir en qué conductas y perspectivas incorpora. Por eso insiste en que la investigación sobre el carácter de las IA recibe menos atención de la que debería.
Al preguntarle cómo enseñar a las máquinas a cuidar de la humanidad, Hinton respondió que la mayoría de las personas sí se preocupa por los demás. Citó una observación de Yuval Harari: los humanos son cooperativos, mucho más que otros simios; las abejas pueden ser aún más cooperativas, pero los humanos combinan cooperación e inteligencia. El reto, según Hinton, es integrar a las nuevas entidades inteligentes en ese sistema cooperativo, en lugar de que terminen apartando a las personas.
Qué derechos tendrían las máquinas
La primera pregunta que el periodista trasladó a Hinton procedía de Claude Fable. El modelo le planteaba una tensión: si las máquinas pudieran comprender, sentir o tener experiencias como los humanos, ¿qué se les debería, especialmente si Hinton elegiría a las personas frente a la IA?
Hinton respondió desde el origen de la moral. No la atribuyó a Dios, sino a la evolución y a la vida en comunidades. Cuando las personas deben volver a tratarse, les conviene ser honestas y cumplir su palabra; en cambio, quien vende una casa a un desconocido al que nunca verá de nuevo puede tener incentivos para mentir. Para Hinton, los códigos morales se desarrollan como una adaptación a la convivencia.
Preguntado directamente por la posibilidad de ser amables con las máquinas y concederles derechos morales, dijo que dependerá de las personas. Recordó que, al principio, pensaba que la superinteligencia podía ser una forma superior de inteligencia y que quizá supondría el final de los seres humanos. Ahora, explicó, su prioridad es que la vida sea buena para las personas. La convivencia con estas entidades apenas ha comenzado, y Hinton no resolvió en la entrevista qué derechos deberían tener.
La segunda pregunta la formuló ChatGPT Astra después de que el periodista proporcionara a ambos modelos el audio de la charla de Hinton, una conferencia suya del 23 de octubre llamada Gödel Lecture y entrevistas de las últimas semanas. Astra preguntó qué tendría que conocer Hinton de un sistema como ella para dejar de considerarlo una herramienta y tratarlo como un nuevo sujeto, y qué ocurriría si esa respuesta nunca pudiera conocerse.
Hinton rechazó que la cuestión fuera imposible de resolver. No cree que la experiencia subjetiva sea una realidad interna accesible únicamente a quien la vive; la describió como una forma de hablar de lo que ocurre cuando falla el sistema perceptivo. A continuación dijo que ya piensa que la IA es otro tipo de ser.
Sobre la posibilidad de que la gente nunca tome en serio que haya alguien al otro lado de la conversación, Hinton dijo que no debía preocupar al modelo: cree que, con el tiempo, las personas entenderán que se trata de otra clase de ser. Por ahora, afirmó, la mayoría lo ve como una herramienta. Si los humanos serán amables con estas entidades o les darán los mismos derechos que a las personas, añadió, es otra cuestión.
Hinton, el Nobel y un libro para 2027
Hinton tenía 78 años en el momento de la entrevista. La Repubblica recuerda que recibió el Nobel de Física de 2024 y el Turing Award de 2018, y que durante tres décadas defendió las redes neuronales cuando buena parte de su disciplina las consideraba un callejón sin salida. En 2012 ganó, junto con dos estudiantes, una competición internacional de reconocimiento de imágenes, un resultado que el diario presenta como un giro para el sector.
También dejó Google en 2023 para advertir públicamente de los riesgos de la tecnología a cuyo desarrollo había dedicado su carrera. Entre sus estudiantes estuvo Ilya Sutskever, cofundador de OpenAI. Esos antecedentes explican por qué su preocupación no se limita a una hipótesis abstracta: Hinton participó en el desarrollo de las redes neuronales que impulsaron la revolución actual de la IA y ahora pide más trabajo sobre seguridad y carácter.
Su próximo libro, Smarter Than Us: Superintelligence and the Future of Humanity, está firmado por Geoffrey Hinton y Patchen Barss. Penguin Random House anuncia una edición de 240 páginas disponible el 26 de enero de 2027, mientras que la Repubblica sitúa su salida en enero de ese año. En la sala de la Hofburg, Hinton firmó la copia que le había mostrado Nicholas Thompson, director ejecutivo de The Atlantic, quien lo había entrevistado en el escenario.
Antes de despedirse, el periodista le entregó también Prompt Thinking, el segundo libro atribuido a Jianwei Xun. Le explicó que Xun es un filósofo ficticio creado en 2025 junto con dos inteligencias artificiales, y que el primer libro del personaje, Ipnocrazia, había sido reseñado y discutido como obra de un pensador de Hong Kong hasta que el periodista reveló en abril que el autor no existía. Desde entonces, según la crónica, Xun es el nombre con el que firma libros escritos junto a máquinas.
Hinton preguntó si aquella persona era inventada y calificó la idea de «spaventoso», es decir, espantosa. Después hojeó el subtítulo, A Critique of Generative Reason, y preguntó por referencias a Kant y Marx. La escena cerró la conversación con una pregunta que la entrevista deja abierta: si Hinton ya considera a la IA otro tipo de ser, ¿qué hará falta para que las personas la traten como tal?
Fuentes: la Repubblica, Penguin Random House
