Entrevista con el neoecologista Timothy Morton

 Timothy Morton, activista: “Estados Unidos es un gigantesco campo de concentración”, entrevista por Carmen Pérez-Lanzac, en El País, 26 DIC 2025:

El filósofo británico, una figura del nuevo ecologismo, sostiene que para proteger el Amazonas primero tenemos que destruir el racismo que habita en nosotros

Timothy Morton (Londres, 1968) es uno de los ensayistas que lidera la nueva ola del ecologismo. El pensador británico, autor de una obra provocadora y extremadamente personal, da por hecho que la destrucción del planeta ya está en marcha. Admirado por la cantante Björk o por Hans Ulrich Obrist, director artístico de la moderna galería Serpentine de Londres, Morton luce maneras de artista punk y mantiene una lucha contra el pensamiento preconcebido. Y es uno de los ensayistas que mejor ha descrito esa angustia que sentimos cada vez que encendemos cotidianamente el motor del coche o el aire acondicionado siendo conscientes de que, al hacerlo, estamos acercando el fin de nuestra especie.

El profesor de la Rice University de Houston (Texas), donde reside, es autor de una docena de ensayos en los que habla de cómo el cambio climático es algo tan gigantesco que ni siquiera podemos calibrarlo (Hiperobjetos, 2025, Adriana Hidalgo Editora), sobre cómo volver a habitar la Tierra una vez la hemos devastado (Hiposujetos, 2023, Holobionte), e incluso imagina que intentamos huir de la contaminación en el Halcón Milenario, la nave creada por George Lucas para la saga de Star Wars (Astronave, 2021, también de Holobionte).

A lo largo de la conversación, que tiene lugar por videoconferencia, afirma que los abusos que sufrió de niño explican su forma de pensar. También cuenta que recientemente, por medio de la mujer con la que se casó en 2023, ha descubierto a Jesús —“sí, de alguna manera encontré a Jesús, y me gustaría que sonara de la manera más estúpida y cursi posible” —. Tiene reflexiones para dar y regalar, como muestra durante la entrevista.

Pregunta. Usted analizó un concepto interesante, los hiperobjetos. ¿Puede explicar qué son?

Respuesta. Un hiperobjeto es algo tan físicamente enorme y duradero que solo podemos experimentarlo en diminutas porciones. Puedes pensar sobre ello, incluso llegar a entenderlo, pero si intentas medirlo o calibrarlo solo lo logras con porciones casi insignificantes. Un hiperobjeto agradable es la biosfera de la que nacimos. Otro distinto es la interacción humana con la inteligencia artificial o el calentamiento global. Necesitas una capacidad masiva de procesamiento para mapear todas sus secuelas en tiempo real.

P. En la introducción de su último libro, Hell: In Search of a Christian Ecology (Infierno: en busca de una ecología cristiana, sin traducir al español), afirma que el Infierno en la Tierra es real. Culpa al petróleo, al cristianismo evangélico y a la supremacía blanca.

R. Un fascista es alguien que está seguro de ser el bueno de la película. Pero ser una buena persona implica estar un poco preocupado por si en realidad resulta que eres el malo. Al hablar de fascismo me refiero a lo que considero que hoy es la norma. No es algo nuevo, lleva miles de años en marcha. Antes eran los tiranos, los faraones. Hoy no son la excepción, sino la norma. Y lo son por el tipo de estructuras sociales de las que nos hemos dotado, que se basan en jerarquías de dominación. El investigador australiano Luke Kemp llama a estas estructuras Goliats. Vivimos en una era en la que estamos causando un enorme daño a la bioesfera. Y esto pasa porque la forma en que nos tratamos entre nosotros es la forma en que tratamos al resto del planeta.

P. ¿Cómo es el Infierno que describe?

R. Las religiones del mundo han imaginado lo que llaman la vida después de la muerte. El Infierno sería como una especie de campo de concentración eterno. Y sería un lugar solo para personas malas. Y el cielo sería el equivalente para las personas buenas. Y toda esta idea proporcionó el modelo para Estados Unidos, donde vivo, por poner un ejemplo. A todos los efectos, es un gigantesco campo de concentración o una plantación que genera valor esclavizando a otros seres humanos, y utilizando a seres no humanos de manera totalmente gratuita. Quienes ejercen este poder son, en su mayoría, personas anglosajonas blancas. Personas como yo que para tener su propio paraíso crearon el Infierno para el resto. Y ahora todos estamos atrapados en él. Vivimos en una sociedad de amos y siervos que es también un hiperobjeto.

“Cuando era niño la ecología sonaba como algo utópico. Hoy en día es como si todos tuviéramos un mal viaje de LSD”

P. ¿Hay escapatoria?

R. Lo primero es poder verlo. Darnos cuenta de que formamos parte de este infierno. Y la única salida es crear un Paraíso. Y para ello te tienes que juntar con otros seres que también quieran mejorar el planeta. Te puedes juntar con dos, con cinco, con seis millones, da igual la cifra. Tenemos que salir de esta lógica de campo de concentración global.

P. Usted forma parte del movimiento OOO, Ontología Orientada a Objetos, una corriente que desafía el antropocentrismo y argumenta que los objetos no humanos tienen su propia existencia. ¿Puede explicar cómo se ve el mundo a través de ese prisma?

R. La OOO la crearon cuatro blancos que empezaron a deconstruirse. Es una forma de romper con la filosofía occidental al otorgarle alma a todas las cosas.

P. En Ecología oscura (2019, Paidós) rechaza la idea de la naturaleza prístina.

R. La mera idea de una naturaleza virgen es un sueño violento, la fantasía de un pederasta. La forma de hablar romántica de la naturaleza es violencia. Si quieres un mundo que esté más allá de la violación, no puedes pensar en términos de perfección. Parte de lo que hago es explicar que ser ecologista implica desmantelar el racismo, la misoginia, la homofobia, la transfobia. Para proteger el Amazonas primero tienes que destruir el racismo que habita en ti.

P. ¿Cómo ha cambiado la conciencia ecológica?

R. Cuando era un niño, a finales de los años setenta, la ecología sonaba como algo utópico, como un viaje de LSD. Hoy en día es como si todos fuéramos obligados a tomar LSD y tuviéramos un mal viaje. Hemos pasado de un buen viaje a un viaje horrible. Y esto empezó a pasar hace unos 15 años.

P. Hace un mes se cerraba la última cumbre del clima sin ser capaz de recoger el daño que hacen los combustibles fósiles.

R. Es como si el Coyote cayera por un precipicio, pero no se diera cuenta de que está en plena caída. Hablan, y hablan, y hablan cuando lo único que hay que hacer hoy es destruir el fascismo. Es el enemigo público número 1. Y tenemos que reimaginar el espacio social para crear un mundo mejor para todos.

P. ¿Qué opina de esta nueva forma de protesta de los jóvenes que echan pintura sobre las obras de arte para llamar la atención sobre el cambio climático o el colonialismo? Hace un par de meses ha sucedido en el Museo Naval de Madrid.

R. Tienen toda mi empatía. Ellos lanzan pintura, que se puede borrar, y nosotros echamos dióxido de carbono que va a destrozar sus vidas. Estamos literalmente destrozando a niños. Sufrí abusos, padezco de depresión, siento dolor. Me escriben estudiantes pidiéndome ayuda. Sus propios abuelos y padres crearon este mundo, necesitan que alguien les dé la mano. Yo les ayudo a gritar.

Entrevista a Sandra Barneda

 Sandra Barneda: “Eso de las izquierdas y las derechas es arcaico, un pensamiento que solo sirve para marcar distancias”, en El País, por Raquel Peláez, 31 DIC 2025:

La presentadora será la encargada de retransmitir las campanadas junto al humorista Xuso Jones desde Formigal en Telecinco y Cuatro.

Sandra Barneda (50 años) no formaba parte en su juventud de ese grupo social que esquía por defecto: “De la misma manera que te digo que toda mi vida he ido de camping, la verdad que no soy una snow girl, no” explicaba aún desde Madrid, ya ansiosa por irse a la estación de esquí de Formigal (en el Pirineo aragonés), desde donde esta noche retransmitirá las campanadas junto al humorista Xuso Jones. Allí intentará hacer sus primeros pinitos sobre la nieve, pero en trineo. “Como me voy a grabar a la isla en enero no me dejan arriesgarme a una lesión…”. Risueña, enérgica e infinitamente optimista, a Barneda no le gustaría que ella y a su compañero los comparasen con aquellos Pocholo y Borjamari de Martes y Trece que se iban a Baqueira Beret para presumir de estatus: “Vamos a celebrar 2026 no 1980. Por fortuna, la sociedad ha evolucionado”.

Pregunta. Usted anunció en un telediario el cambio de milenio. ¿Qué cree que ha mejorado desde entonces?

Respuesta. Yo no soy nada catastrofista, cada vez menos, debo de ir en contra del mundo… Creo que hemos ido a mejor en conciencia colectiva. Vamos hacia lo colectivo y no al individualismo que teníamos en finales del siglo XX. Todavía cuesta mirarnos como grupo, pero creo que está cambiando. Quizá, si tuviese que poner un pero, diría que tenemos que cuidar más a los niños y a los ancianos.

P. ¿Por qué ese pero?

R. Creo que la soledad es transgeneracional y aunque estamos hiperconectados hay cierto aislamiento emocional en las franjas de edad más vulnerables. A eso habría que ponerle un poco más de atención.

P. ¿Y usted cree, como dice la famosa firma de embutidos, que estamos polarizados?

R. El divide y vencerás existe desde los romanos. Yo creo más en la unión hace la fuerza y es a lo que me gusta jugar. Lo otro no me interesa.

P. ¿Pero lo dice como comunicadora televisiva?

R. Como comunicadora, como persona, como ciudadana, como amiga.

P. ¿Y en cuanto a la buena salud de “la unión hace la fuerza” también es optimista?

R. La realidad es tan poliédrica… Yo no vivo en una burbuja, también sufro los estragos y golpes de la vida, pero quiero ser optimista y tiendo a ver siempre el vaso medio lleno y no medio vacío. Eso no significa que no podamos estar enfadados o con la rabia puesta, pero creo que al final la solución es amarnos mucho a nosotros mismos y a los demás. Quien practica una política de división y del cabreo a mí no me interesa.

P. Dicho lo cual, usted dice a menudo que es muy Juana de Arco y hubo un tiempo que echaba sin miramientos a colaboradores del plató. ¿A quién echaría del plató Tierra?

R. Parece un topicazo, pero a todos aquellos que propician la guerra y no la paz. Y no vale con que señalemos solo a los líderes. ¿Nosotros qué hacemos? ¿Saltamos a la mínima en una comida familiar o intentamos sostenernos y comprender?

P. No se atreve con un nombre propio, ¿no?

R. Es que eso es divide y vencerás [risas]

P. Imagínese que mañana cuando se levante ya no es famosa. ¿Cuál sería su plan B?

R. Me reinventaría. A mí no me limita ser conocida, me reinvento cada día: siempre pensando en un negocio nuevo, en aprender algo. Por ejemplo, el año pasado dije: “Oye, voy a aprender a montar a caballo”. Estoy enganchada. Y ahora digo: Pues cuando vuelva de la isla, iré dos veces por semana. Ahora estoy terminando mi nueva novela, me andan detrás para que haga un podcast… Ya de pequeña quería ser inventora y lo he sido: de mi propia vida.

P. ¿Nunca ha tenido una depresión?

R. Como tal no. Hace un año perdí a mi sobrino, con solo veinte años, que era mi persona favorita en el mundo, y eso te rompe, claro. Es una tristeza y un dolor horribles. Todavía estamos pasando ese duelo. Pero yo creo que hay un momento que tu instinto de supervivencia te demuestra que el sufrimiento es una elección. El dolor se mantiene, pero hay que aprender a vivir con él, porque puede que no se vaya nunca. Ante una pérdida así solo siento más amor hacia los míos y lo que intento es sentirme más viva que nunca y agradecer las cosas buenas que me pasan, porque las malas llegan y hay que agarrarse. Hay que seguir y celebrar la vida.

P. ¿Cuándo fue la última vez que revisó sus creencias?

R. Yo siempre me estoy revisando, intentando no repetirme, no caer en la rutina, no ir con el perro por los mismos sitios todos los días…

P. ¿Y en el plano de los valores?

R. También siempre estoy dándole vueltas. Por ejemplo, yo antes me colocaba plenamente en la izquierda, pero ahora yo creo eso de las izquierdas y las derechas es arcaico, un pensamiento de los tiempos de los movimientos obreros que solo sirve para marcar distancias, no algo propio de las sociedades digitales del siglo XXI. Creo que los partidos no han evolucionado hacia ideologías adaptadas a nuestros tiempos y nuestras necesidades sociales y entonces me pasa como a Rosalía, me cuesta mucho enmarcarse en un ismo y ya no tengo claro del todo donde caigo. Ya te digo que estoy en la frecuencia de la unión y no hay ningún político que la practique.

P. Usted estudió interpretación. ¿Hay “método” para dar las Campanadas?

R. Mira, ya las di en una ocasión, en 2020, desde Canarias, cuando estaba entrando Filomena, con un frío de narices. Como no nos dejaban reunirnos, fue darlas y sentir un eco enorme. Me tuve que ir a una habitación sola. Cinco años después las doy rodeada de amigas y en la nieve, que eso de las Navidades blancas pues están en nuestro imaginario colectivo desde pequeños y solo eso ya me devuelve mi espíritu de niña y me pone una sonrisa. En ese momento voy a transmitir toda mi mejor energía.

Entrevista al sociólogo Manuel Castells

 Manuel Castells, sociólogo: “El mundo está en un proceso de autodestrucción”, en El País, por Delia Rodríguez, 20 DIC 2025 

El intelectual catalán, que es el sociólogo español más citado del mundo, reclama la necesidad de una mayor espiritualidad en tiempos de crisis profunda

Dice Manuel Castells (Hellín, Albacete, 1942) que la historia contemporánea está llena de paradojas, algo que encaja en quien es vital por temperamento e intenta conciliar sus propias contradicciones. Es un intelectual —el sociólogo español más citado del mundo—, pero estuvo en las barricadas del Mayo Francés. Es anarquista de corazón, pero fue ministro de Universidades. Dedicó su gran obra La era de la información, una trilogía visionaria que pronto cumplirá 30 años, a internet, pero no usa redes. Desconfía de las estructuras de poder, pero es católico.

Castells analiza sociedades a partir de los datos, aunque cree que la salida al proceso autodestructivo contemporáneo puede ser irracional. Ha recibido todos los honores y asesorado a grandes líderes, pero sigue dirigiendo tesis de alumnos. Catedrático de la Universidad del Sur de California y emérito de la de Berkeley, adora visitar la de Tsinghua, en China, cada año. Teórico global, pasa todo el tiempo posible en Barcelona: su primera especialización fue el estudio de las ciudades, y dice que esta es la mejor. Allí nos encontramos, y a lo largo de una charla que comienza en su despacho y continúa con un arroz frente al mar, intentamos aprovechar su visión privilegiada para entender qué demonios pasa en el mundo.

Pregunta. Hace unos meses estuvo en China. ¿Qué ocurre allí?

Respuesta. Un proceso de transformación tecnológico, económico y social como nunca se ha visto en la historia. Es la economía número uno en el mundo, y en tecnología la única alternativa a EE UU, lo cual antes no nos importaba pero ahora nos damos cuenta de lo frágil de depender de una potencia que hasta ahora era amigable, pero que puede no serlo. Las teorías neoclásicas decían que el mercado y la internacionalización tenían que ser los motores del desarrollo. Bueno, la gran historia ha sido Asia: Japón, sudeste asiático y ahora China. En todos los casos, el Estado ha sido el verdadero motor. Podemos estar en desacuerdo políticamente —a mí lo del Estado no me gusta mucho—, pero rompe toda la teoría. La paradoja más extraordinaria es que el gran milagro económico del siglo XXI lo ha dirigido un Estado comunista. La mejor empresa del siglo XXI ha sido un Estado comunista.

P. ¿Hasta qué punto la fiebre por la IA es una huida hacia adelante de un capitalismo agotado?

R. La innovación tecnológica en la IA es absolutamente real, y ha despertado el interés de los mercados financieros. Lo que es totalmente ficción es la idea de que las máquinas en sí son inteligentes y humanas: no pueden tomar decisiones, excepto si las programamos para ello. La IA transforma todos los dominios, es como internet, no es un sector, no está separada de lo que hacemos, es todo. Pedro Sánchez me encargó crear un Consejo Asesor Internacional de Inteligencia Artificial. Es muy incipiente, pero la preocupación es que, incluida en todas las actividades sin control, pueda provocar desajustes. Está el tema de si eliminará trabajo, pero toda la historia de la tecnología es al revés. Cuando incluyes más tecnología, ciertos sectores pierden pero otros aumentan. La novedad es que ahora sean los trabajos más cualificados los que están en peligro. Hay que acompañar la transformación tecnológica de una transformación formativa, sobre todo en la universidad. Los muy formados van a tener que formarse más todavía para adaptarse al nuevo mundo.

P. Dentro de 100 años, ¿qué pensarán de los cambios que estamos viviendo: internet, el móvil, la IA?

R. La actividad humana está determinada por energía e información. La revolución industrial fue la transformación de la energía. La transformación de la información es la revolución informática de los años sesenta y setenta, tan importante como la industrial. Lo que fue el motor eléctrico para difundir la energía a todos sitios ha sido internet. La sociedad ya se ha transformado. Yo la llamo sociedad red porque es una nueva estructura social, distinta de la industrial porque está constituida en redes, la forma organizativa más flexible con diferencia. Hasta que no hemos tenido una tecnología capaz de difundir a través de redes toda la información y toma de decisiones, no ha habido cambio social. Para que esa estructura social exista y se desarrolle, hace falta una digitalización de todo. Y ahí está ese dato de la tesis de uno de mis alumnos: está digitalizado el 99% de toda la información. Ya estamos digitalizados. Nada de lo que tú haces o de lo que yo hago escapa.

P. Han vuelto la meditación, las creencias de todo tipo… ¿Es un repliegue interior ante el caos del mundo, como en los años setenta? ¿No hemos conseguido hacer nada más con nuestras individualidades conectadas?

R. Los que nos lo podemos permitir (hay quien no puede porque si se desconecta se muere de hambre) podemos construir espacios de libertad. Muchísima gente necesita meditar, cortar, purificarse. El mundo en que vivimos es más violento, más despiadado. La religión y otras formas de espiritualidad se hacen cada vez más importantes. No es una cuestión de fe, que quien la tiene la tiene y quien no la tiene no la tiene. La necesidad de que haya algo espiritual más allá de lo que nos agarra cada día es cada vez mayor, y la gente encuentra distintas soluciones. Yo personalmente creo que es fundamental en este momento reclamar el papel de la religión y la espiritualidad como contrapeso a un mundo que se autodestruye. No es solo el clima: las guerras, la tecnología sin control, todo. Ahí tiene que haber una reacción política y no la hay. Con razón o sin ella la gente no se fía de la política. Entonces tienen que ser fuerzas interiores, fuerzas que nazcan de dentro de nosotros para el autocontrol, más que para el control externo. Lo único que nos queda es una pulsión interior que (independientemente de las estructuras religiosas) está ahí. Y de eso no se puede dudar, no se puede romper.

P. ¿El motivo es la destrucción del papel de las instituciones, del “de arriba abajo” que viene con internet?

R. Absolutamente. De todo lo que he hecho lo que más ha impactado fue una trilogía. Todo el mundo se fijó en el primer volumen: la sociedad red, la tecnología, la economía global… porque lo escribí en los noventa y se ha expandido. No hice futurología, la digitalización ya estaba en su embrión. Pero hay otra cosa: existen dos fuerzas muy contradictorias que organizan nuestra sociedad, lo que he llamado la red y el yo. El segundo volumen va sobre el poder de la identidad. Puede ser macro (cultural, política, etcétera) o una identidad que, si no perteneces o no quieres pertenecer a ninguna comuna cultural, te la buscas tú. Buscas una vida interior. La identidad juega a dos niveles. Muchos intelectuales de izquierda tienen un racionalismo clásico, pero lo importante en la vida es lo que la gente considera importante, y no somos racionales, somos animales emocionales, eso ya está establecido por la neurociencia. Nuestros intelectuales no entienden el nacionalismo catalán o vasco, ni la construcción de comunas religiosas islámicas (que si no son toleradas derivan en radicalismo y destrucción de las estructuras de opresión). El feminismo es identidad. Pero como ataca la base de dominación patriarcal, que es la más antigua, estamos en una reacción violenta contra el feminismo y cualquier otra forma de identidad cultural y sexual. Que está en la base del trumpismo, de Vox y de todos los movimientos de extrema derecha en toda Europa que están ganando.

P. Movimientos que de alguna manera vienen de internet y a la vez reaccionan contra él.

R. Sí, porque internet no es un mundo en sí. Internet somos nosotros. En internet estamos todos. El feminismo se desarrolló mucho con internet, pero también el antifeminismo, el sexismo, el nazismo. Es una plataforma que construimos por cómo somos y qué hacemos cada día. Toda la utopía —en la que yo participé— del principio, del “creamos una comunidad universal y nos relacionamos libremente unos con otros”… Nos relacionamos, sí, pero con quienes queremos. Y si yo soy un racista, pues utilizo internet para encontrar más racistas.

P. Entonces, ¿el problema de internet no es la hiperconexión, sino la homofilia? Ese juntarnos con los que son exactamente iguales que nosotros.

R. Homofilia es una expresión perfecta. Se han inventado otra, las cámaras de eco, pero es exactamente eso. Internet somos nosotros colectivamente a partir del principio que señalas, es decir, yo voy con los míos, yo decido quiénes son. Ahí me encuentro en casa, y no voy con los otros, no leo a los otros, no discuto con los otros, los ignoro o extermino. Y esta es la fragmentación total. Una sociedad con instituciones que ya no cohesionan y en la que internet permite el separatismo cultural. No es culpa de internet, es maravilloso, con comunas maravillosas: el arte, la cultura, la ciencia. Pero también fragmenta. Cuando una sociedad es fragmentada, esa fragmentación se amplifica por internet. Y lo mismo con la IA. El problema no es en sí la tecnología, sino la amplificación de tendencias destructivas en nosotros. Diría que todos somos las dos cosas, ángeles y demonios. Somos unos animales poco controlados que hemos construido unos instrumentos tan potentes que, si nos ponemos en serio a oponernos, nos podemos destruir fácilmente.

P. La teoría era que las comunidades menos favorecidas iban a empoderarse en las redes, pero estamos viendo lo contrario, una unión inédita entre el poder tecnológico y político.

R. Las dos cosas. Por un lado internet fue, y es, la base de grandes movimientos sociales transformadores. El 15-M en España no hubiera podido existir sin él, ni los movimientos sociales que siguen sucediendo en el mundo. Por otro lado, los grupos poderosos dominan cada vez más a través de sistemas de control algorítmico, y los grupos destructivos, antifeministas, racistas, etcétera, también se están organizando por internet. No es que empezáramos con una cosa y luego ocurrió la otra. Es que conforme internet salió de pequeñas comunidades bienintencionadas (científicos, intelectuales…) y se expandió al mundo, pues se ha hecho el mundo. Y el mundo está lleno de, yo digo, no solo de gente mala, sino de la parte mala de todos nosotros. Si lo puedes articular en redes en el ámbito planetario o local, todo esto se amplifica.

P. ¿Conserva el optimismo? ¿Sigue creyendo en la revolución?

R. Bueno, digamos transformación social. La revolución para mí tiene un sentido estricto, que es político. Sucede cuando hay un cambio, una destrucción de un Estado, de un sistema institucional. Hablar de revolución tecnológica también es correcto. Sobre el optimismo: soy un clásico, sigo repitiendo la famosa frase de Gramsci, pesimismo de la inteligencia y optimismo de la voluntad. Si eres optimista pero no sabes en qué mundo vives, te va a ir mal. Hay que analizar. Y si analizo, veo un mundo actual claramente en proceso autodestructivo.

P. ¿Qué está pasando en EE UU?

R. El cambio fundamental del orden mundial, que lo convierte en desorden. Está siendo (ahí sí puedo usar el término) una revolución: es un cambio de sistema institucional. El trumpismo no es efímero. Viene de un agente del antisistema político que es Trump. No es un antisistema anticapitalista: es el más capitalista de todos. Es otra paradoja de la historia: un multimillonario se convierte en el agente de transformación del sistema político apoyado por la clase obrera.

P. ¿Cree que será importante un Papa estadounidense?

R. Fundamental, como lo ha sido Francisco. El papel de la Iglesia católica puede ser fundamental, pero, si no, será otro grupo religioso. Porque es que no queda nada. La democracia solo existe en las mentes de las personas. Y si la gente no cree en los partidos, en la democracia, en las instituciones, pues se acabó. En ese contexto, cuanto más antisistema político eres, mejor. El éxito de Podemos fue ese, pero cuando pasó a ser parte del sistema, se acabó. Y lo mismo ahora: la política de moda es la antipolítica. Vox es un partido antisistema. El revolucionario Trump no solo está transformando el sistema institucional, sino también la globalización, que estaba basada en la ausencia de fronteras económicas. Los aranceles se usan como estrategia geopolítica. El mundo se mueve otra vez por el nacionalismo, la gran palabra. EE. UU., China, Japón. En Europa, los movimientos de extrema derecha son nacionalistas, antieuropeos, empezó con el Brexit. La discusión pública en España era “el nacionalismo es retrógrado, todos somos ciudadanos del mundo”. Y al contrario, había un resurgir en todo el mundo.

P. ¿Es una forma de poner límites a la sociedad digital?

R. Cuando hablamos de que las redes sociales son instrumentos de odio, de racismo, de sexismo, y del nacionalismo de todo tipo, bueno o malo, ¿de qué estamos hablando? De que las tendencias en la sociedad de internet las amplifica. Internet no es, por definición no puede ser, nacionalista. Es global. Pero es la plataforma global para el nacionalismo de cada Estado.

P. Culpamos de todo a internet, pero en su último libro (La sociedad digital, Alianza, 2024) dice que es pánico moral, reacción al cambio.

R. Cualquier cambio importante en el mundo de la comunicación se acompaña de la reacción contraria. Ocurrió con la televisión. A los profesionales de un medio les cuesta pasar a otro. Lo otro son los intelectuales. Los que han tenido alguna influencia histórica ya no tienen, se encuentran desintermediados por internet. Pueden publicar sus columnas o sus libros o sus artículos, igual que cualquiera publica lo que quiere en internet. Los influencers son más influyentes que los intelectuales. Entonces atacan al mensajero. Hombre, si todavía estás pensando en Kant en lugar de ocuparte de lo que pasa en el mundo y proporcionando ideas que a la gente le interesen… Están desorientados con internet porque eran el referente cultural y ahora se pierden en la cacofonía general.

Transcripción de entrevista de Gustavo Entrala al premio Nobel Geoffrey Hinton, padre de la IA, en YouTube.

 [Transcripción revisada]

 Lo que vas a ver ahora es la transcripción de la primera entrevista que concede a un canal en español el Premio Nobel Geoffrey Hinton, considerado el padreo al menos el "padrino" de la IA. 5 de diciembre de 2025, en el enlace.

Hinton es reconocido como el padre de la inteligencia artificial moderna. Ha dedicado 50 años de su vida a enseñar a las máquinas a pensar. Ahora está centrado en alertar al mundo sobre los peligros que entrañan su creación.

Lo vas a ver. Hinton dice que cuando alcance la madurez, la IA será mucho más inteligente que los seres humanos y que si no actuamos ahora, escapará a nuestro control. 

La entrevista tuvo lugar en la casa que el profesor Hinton comparte con sus dos hijos en un barrio residencial de Toronto. Verás que los dos estamos de pie todo el tiempo: el profesor arrastra problemas de espalda fuera de lo común. Me contó que pasó cinco años de su vida sin poder sentarse. Vas a ver una conversación apasionante con una mente privilegiada. Pero antes, déjame mostrarte un espacio al que pude acceder, por gentileza de la Universidad de Toronto. El lugar físico en el que Hinton creó el germen de la IA, que una década después está cambiando el mundo. Puedes ver mi entrevista con Jeff Hinton en español o en inglés, accediendo a la configuración de YouTube y eligiendo la pista de audio que prefieras.

Buenas tardes, profesor Hinton. Es un privilegio y un honor para mí pasar un poco de tiempo con usted y y conversar sobre el pasado de la inteligencia artificial y sobre el futuro del mundo con inteligencia artificial. Mi primera pregunta es muy sencilla. ¿Por qué le llaman el padrino de la IA y si a usted le gusta eso? 

Ese mote no nació con una intención amable, pero ahora me gusta. Ocurrió en una reunión en Inglaterra en 2009. Había una organización llamada Instituto Canadiense de Investigación Avanzada que organizaba congresos pequeños y yo dirigía un programa para ellos. Tuvimos una reunión y yo era el investigador más viejo allí. También estaba a cargo del programa y no dejaba de interrumpir a los ponentes. Al terminar una sesión, alguien se refirió a mí como el Padrino porque no paraba de interrumpir a la gente, pero ahora me gusta bastante.

Okay. Su trabajo se ha desarrollado en en un periodo de de más o menos de 50 años, ¿no? Un poco más. En 1977 publicó su tesis doctoral que es sobre la relajación, no en el sentido que damos comúnmente esa palabra. Estudió la relajación en el contexto de la visión y eso le condujo un largo viaje para entender cómo las máquinas podrían ver cosas, escuchar cosas y percibir cosas. Mi pregunta es, ¿por qué ha llevado tanto tiempo ver los frutos de todo ese trabajo?

Creo que por dos razones.

Una es que necesitas muchos datos y mucha potencia de computación para que las redes neuronales artificiales funcionen realmente bien. Y hasta hace poco no disponíamos de tantos datos ni de tanta potencia de cálculo. 

Y la otra razón fue que al principio de la historia de la inteligencia artificial, la mayoría de los científicos decidió que la esencia de la inteligencia era el razonamiento y la forma de razonar usar la lógica. Así que tenían una especie de paradigma basado en la lógica más que en la biología y eso nunca funcionó bien. Ahora se han dado por vencidos, así que ahora todo se hace con redes neuronales. 

Y nos podría llevar a momentos eureka que ha habido en su trabajo donde usted vio que realmente toda esa investigación podría dar resultados con el paso del tiempo.

No estoy seguro de que haya habido un momento Eureca. Hubo un tiempo, a mediados de los 80, cuando habíamos desarrollado el algoritmo de retropropagación. Otros equipos habían pensado en ese algoritmo, pero nosotros conseguimos demostrar que podía aprender el significado de las palabras. Eso pasó en 1985 y más tarde, en 2009, demostramos que la retropropagación podría ser un mejor reconocedor de voz. Y en 2012, Alex Krise, la Suskevar y yo demostramos que podía hacerlo mucho mejor en el reconocimiento de objetos e imágenes. Y eso fue reconocido como un momento decisivo, porque como funcionaba mucho mejor que la visión por ordenador estándar, ese paso abrió las compuertas del futuro de la inteligencia artificial. La gente ya conocía las redes neuronales bastante bien, pero eso convenció a la gente de que era el futuro. Y en ese momento ya tenía los datos y la capacidad de computación. Sí, en aquella época teníamos chips GPU de Nvidia, así que teníamos la potencia de cálculo.

Usaron tarjetas gráficas que de vídeo y de videojuegos, ¿no? 

Nvidia desarrolló para juegos y en 2009 Nvidia no entendía que lo que realmente tenía era un superordenador para hacer IA. Intenté hacérselo ver, pero realmente no lo entendieron hasta 2012, cuando lo aplicamos a la visión y luego Jensen miró su estrategia con rapidez. Enseguida comprendió que ese era el futuro de los chips de Nvidia, no el de los juegos.

¿Y cómo se siente, eh, con el hecho de que ahora Nvidia sea la primera compañía que ha superado los 4 billones de valor bursátil por su descubrimiento?

Bueno, no es totalmente por eso, pero es una gran parte. Me siento bastante satisfecho de que hayamos ganado 4 billones de dólares. Preferiría tener algo más de esos 4 billones de dólares.

Pero su trabajo no su trabajo no se paró ahí. Creo que fue usted uno de los pioneros en la metodología de la mezcla de expertos en inteligencia artificial. También fue pionero en la destilación de modelos de inteligencia artificial y ambos descubrimientos fueron integrales en lo que luego fue el modelo Deep Seek. Sí, de todos los descubrimientos que ha hecho en su carrera, ¿cuál es para usted en su cabeza cuál es el más importante?

Bueno, el más importante para mí es uno que en realidad no funcionó, pero era una solución muy elegante. Hay un tipo particular de red neuronal llamada máquina de Bolzman, que es muy probabilístico, utiliza lo que llamamos neuronas ruidosas y Teresanovski y yo descubrimos un algoritmo de aprendizaje muy simple, un algoritmo mucho más sencillo de lo que cabía esperar y es el tipo de cosa que podrías hacer en un cerebro. Y durante un tiempo creímos haber descubierto cómo funcionaba el cerebro. Fue la investigación más emocionante que hice y el algoritmo era correcto, pero era demasiado ineficaz. 

Para alcanzar los resultados que ha logrado en su carrera, ha tenido que estudiar el cerebro. Eh, también estudió filosofía, el conocimiento, las ideas, el papel de la conciencia y también estudió psicología. Todo esto le equipó de una manera especial para llegar a los descubrimientos que ha logrado en durante toda su carrera. 

Esta visión holística del cerebro de la persona no era realmente holística. Siempre me centré en cómo aprende el cerebro y estudié disciplinas diferentes. En aquel momento no me sirvieron de mucho porque se sabía poco sobre cómo aprendía el cerebro. Retrospectivamente estuvo muy bien que estudiera todas esas disciplinas, pero en aquel momento no parecía tener ningún sentido. Pero no me motivaba a obtener una suerte de amplia formación interdisciplinar. Lo que me motivaba era el reto de entender cómo aprende el cerebro. 

¿Por qué le fascinaba ese problema?

Obvio, es el problema más interesante que existe. 

De acuerdo. El hecho, el hecho de que los humanos podamos aprender, ¿verdad? Aprender cosas nuevas y cómo aprender los niños y cómo su mente está muy abierta a cosas nuevas.

Vale, todo eso es fascinante. También me motivó el hecho de que hay una escuela de lingüística, una escuela de Chomsky que afirmaba que el lenguaje no se aprendía, que era innato y eso me parecía una completa estupidez. Eso me motivó a demostrar que estaban equivocados. Cuando me licencié, mi objetivo era construir un sistema llamado Ludwig. Y Ludwig, llamado así en honor de Ludwig Wittgenstein, no de Bolzman, que apoyaba que la comprensión del lenguaje no se basaba en una gramática innata. Yo quería demostrar que puedes aprender el lenguaje, pero no me di cuenta de que se necesitarían 50 años para demostrarlo, pero al final lo he conseguido. 

Cuando yo estaba en la universidad, una profesora de Inglaterra fue nombrada doctora Honoris Causa por mi universidad, Elizabeth Anscom. 

Oh, sí, sé quién era. Fue ella quien dio a conocer al público a Wittgenstein, es decir, escribió todos los libros que hay sobre Wittgenstein. Creo que ella editó Investigaciones filosóficas de Wittgenstein.

Vale. Usted pasó entonces del mundo académico a Google. Explique eso. ¿De acuerdo?

Tengo un hijo, es neurodivergente y yo necesitaba dinero para su sostenimiento durante toda su vida y eso no lo iba a conseguir en la universidad. Así que cuando llegué a los 65 y ya debería haberme jubilado, gracias al trabajo que Ila Suzkebar, Alex Krise y yo habíamos realizado en Alexnck, nos dimos cuenta de que podíamos vendernos a una empresa y conseguir mucho dinero. Eso resolvería mi problema, pero no sabíamos cuánto valíamos. Una empresa china nos ofreció 10 millones de dólares para trabajar para ellos durante 3 años. Y no teníamos ni idea de si era la cantidad adecuada, así que decidimos organizar una subasta. Pedimos a varias empresas que nos hicieran una oferta. Pujaban por una pequeña empresa que creamos, pero en realidad estaban empujando por nosotros y nadie tenía ni idea de cuánto valíamos. Entonces, era el mercado el que tenía que decidir y funcionó bastante bien.

Retrospectivamente probablemente valíamos mucho más de lo que logramos, pero en aquel momento conseguimos 44 millones. Parecía mucho dinero.

Y sin duda era todo muchísimo dinero. Y usted gestionó esa subasta desde la habitación de un casino.

Es verdad. Mi amigo Terry Sejnowski dirige la Fundación NIPS, que anualmente organiza una conferencia, una conferencia NIPS, y descubrió que los hoteles y casinos tienen habitaciones baratas porque quieren que la gente venga y se juegue su dinero. Así que es un gran lugar para organizar una conferencia porque consigues habitaciones baratas. E hizo un contrato de 3 años con ellos. Creo que se rompió después de dos años, porque se dieron cuenta de que ninguno de nosotros iba a apostar. Todos sabíamos demasiada estadística como para jugar. Lo único que hacíamos era hablar. Así que bueno, no nos interesaban las apuestas porque en general siempre se pierde. Así que en realidad habían alquilado sus habitaciones a personas que no tenían ningún deseo o interés en jugar, lo que fue un gran error por su parte. Pero nos dieron las habitaciones muy baratas y fue en ese casino, en el lago Tahoe,  donde hicimos la subasta desde mi habitación del hotel con con una aplicación eh a través del correo electrónico. Lo hacíamos por Gmail y la hora oficial de una oferta era la hora en la que yo recibía el mensaje y luego enviaba esa oferta a todos los demás postores. Y al principio tenían una hora para subir la puja y si no la subían en una hora se acababa la subasta. Eh, esperaban 59 minutos antes de hacer nada porque querían ver quién más pujaría, pero la subasta siguió adelante durante varios días y al final se decidió por Google porque yo había oído que había otro otro postor mejor, ¿verdad? Bueno, no había un postor más alto, pero Baidu seguía en la subasta. Microsoft había abandonado, pero Baidu seguía en la subasta. Yo había trabajado en Google el verano anterior, verano de 2012, en el equipo de Google Brain con Jeff y me llevaba muy bien con Jeffin. Sabía que era un gran gestor y yo entendería lo que estaba pasando. Si nos hubiéramos ido con Baidu, yo estaría al mando de un laboratorio de Baidu en Silicon Valley, pero no sabría decir en qué estaban pensando los dirigentes de Baidu. Y como me dolía la espalda, no podía volar, así que nunca iría a China. Por eso pensé que íbamos a estar mucho mejor trabajando en Google, incluso aunque hubiéramos ingresado más dinero con Baidu. 

Interesante. Hablemos de dinero e investigación en inteligencia artificial, porque usted como científico de IA o toda la gente que trabaja en este campo, eh, no sé, no siempre han sido tan sexis ni tan ricos, ¿verdad?

Quiero decir, como ahora. No sé si sexy. No siempre he sido tan rico. 

¿Cómo crees que esto ha podido afectar a la pureza? A la pureza en la investigación.

Espero que no. En el área sí, mucho. A mí personalmente no me ha afectado mucho. En el área se puede ganar enormes cantidades de dinero desarrollando una IA más avanzada y eso ha tenido un par de efectos negativos. ha absorbido a los mejores investigadores de las universidades y los ha trasladado a las empresas. Además, las grandes compañías forman mucho a la gente. Pero la principal fuente de nuevas ideas y nuevos talentos es la gente que hace doctorados en las universidades. De ahí surgen la mayoría de las nuevas ideas y muchos de los mejores investigadores no trabajan ahora en las universidades. Así que ese es un gran problema. Y el otro gran problema es que la gente de las universidades no tiene recursos para desarrollar los grandes modelos de IA, sobre todo si esos grandes modelos son secretos. Sí. Entonces, eso explica en parte por qué estamos viendo esta aceleración de la investigación ahora. Bueno, estamos viendo la aceleración porque la gente cree que se puede ganar mucho dinero y hay una gran carrera entre las grandes empresas y también entre Estados Unidos y China. Así que todos están compitiendo para conseguir una IA mejor que pueda lograr más beneficios, según yo lo veo. Y no parece importarles mucho si van a terminar creando algo que acabe con todos nosotros. 

Eso es exactamente de lo que quiero que hablemos ahora, porque en 2023 usted se retira de Google. ¿Por qué se retira de Google si ganaba tantísimo dinero allí y tenía tanta proyección y tantas posibilidades allí?

Bueno, me jubilé porque siempre he investigado a partir de una idea, escribiendo una pequeña aplicación para comprobar que la idea funcionaba con un ejemplo muy sencillo y luego trabajando con estudiantes de posgrado para que la llevaran hasta el final. Llegué al punto en que cuando escribía este pequeño programa para comprobar si las ideas funcionaban, me percaté de que cada vez tardaba más. Cometía errores tontos. Mi memoria ya no era tan buena como antes y es muy irritante estar haciendo algo en lo que solías ser bueno y ya no lo eres. Así que a los 75 años decidí que era hora de jubilarme. Y como de todos modos me iba a jubilar, elegí un momento preciso para hacerlo para poder hablar libremente en la conferencia del MIT. Elegí ese preciso momento porque podía hablar libremente sin tener que preocuparme por las consecuencias para Google. No es que Google hubiera hecho nada malo, no es que fuera eso; fueron muy prudentes. Fueron muy prudentes. Sí, demasiado cautelosos, quizá desde mi punto de vista económico. Fui muy feliz durante mi estancia en Google. Creo que se comportaban de forma bastante responsable, pero yo quería advertir a la gente de los peligros de la IA y creía que no se podía hacer eso de una forma honesta si trabajas para una de las grandes tecnológicas.

[Publicidad del Youtuber]

¿Por qué no nos habla de de esos peligros? ¿Cuáles son los principales peligros que usted ve para la humanidad?

Hay dos tipos de peligros y es importante distinguirlos porque son muy distintos. 

Un riesgo es que la IA sea utilizada indebidamente por los actores malos, por la gente. Las personas siguen al mando de la IA, pero la utilizan para hacer cosas malas y hay toda una variedad amplia de daños que puedes hacer con la IA. Y para cada uno de esos males, la solución de cómo controlarlo es distinta. Así que no se trata solo de un gran riesgo. 

Además, existe otro riesgo, que la IA se vuelva más inteligente y poderosa que nosotros y sustituya a las personas. Yo lo llamo una amenaza existencial porque podría acabar con la humanidad por completo. Así que quizá deberíamos empezar por los riesgos de los malos actores. Están los ciberataques, por ejemplo. Obviamente la IA puede hacer que los ciberataques sean más eficaces. Y entre 2023 y 2024 vimos un aumento de los ataques de fishing en el entorno del 10000%. Porque los grandes modelos lingüísticos suponen que aunque estés en algún país extranjero y no hables muy bien inglés, puedes producir correos electrónicos de aspecto muy convincente. Utras cosas en las que el inglés era de calidad, sin faltas de ortografía. La sintaxis estaba bien y eso provocó un gran aumento de los ataques de fishing. Luego está el uso de la IA para crear nuevos virus. Pequeños grupos terroristas o sectas pequeñas ahora están cerca de disponer de los recursos para poder crear nuevos virus. Y eso da mucho miedo porque la IA facilita la creación de las secuencias necesarias para estos virus y la gente que fabrica esos compuestos a través de una web no chequea. La mayoría no comprueban si estás pidiendo algo realmente dañino. Así que les envían la secuencia y ellos te devuelven el virus sin comprobaciones. Es una locura. Si piensas en el culto japonés que lanzó gas Sarin el metro de Tokio, si lo volvieran a hacer ahora presumiblemente crearían nuevos virus y los liberarían. Eso daría mucho miedo. Creo que es una de las pocas áreas en las que colaborarán los países porque ningún país quiere estos virus tan desagradables. Ese es el segundo riesgo y no se está haciendo mucho al respecto. En realidad no lo suficiente. 

El tercer riesgo es el desempleo. Creo que está bastante claro para mucha gente, algunos economistas no están de acuerdo, pero creo que está bastante claro para la mayoría de la gente que la IA va a eliminar muchos puestos de trabajo. probablemente no van a crear nuevos puestos de trabajo para esas personas. En la revolución industrial, si eliminabas un trabajo como el de cavazanjas, esas personas podían ser empleadas en el papeleo. Pero ahora no hay nada parecido. Si se elimina la gente de los call centers, ¿a qué se van a dedicar? Así que creo que la IA creará un desempleo masivo. 

Eh, ahora bien, el hecho de que la IA pueda hacer que la mayoría de las industrias sean mucho más eficientes debería ser bueno para la gente. 

Si se pudiera compartir esa riqueza por igual, todos saldrían beneficiados. Pero sabemos que en una sociedad capitalista lo que va a ocurrir es que los ricos van a eliminar a los pobres. Los ricos se van a hacer más ricos y los pobres más pobres. Y eso va a ser muy malo para la sociedad. Cuando se abre una gran brecha entre ricos y pobres, se obtiene el caldo de cultivo en el que el populismo de derechas crece y vamos a ver el resurgimiento del fascismo. Lo estamos viendo ya. 

De acuerdo. Y también habla de los riesgos de la hiperpolarización en la sociedad. Sí. ¿Cómo se llegará o cómo funciona ahora?

Bueno, la mayoría de la población ahora solo ve noticias que refuerzan sus puntos de vista actuales. Esto se debe en parte a que las grandes empresas de IA, YouTube y Meta quieren que hagas clic en las cosas. Y si te preguntas en qué haré clic, pues harás clic en algo que te indigne. Eso es muy potente. Así que si me ofrecieras un vídeo de Trump haciendo alguna estupidez grande o algo verdaderamente malo, haría click de forma inmediata. No se puede evitar, no puedo evitarlo.

Eso significa que la gente se divide en cámaras de eco separadas en las que ya no hablan entre sí. Eso es muy malo para la política y el resultado lo estamos viendo ahora en Estados Unidos. 

¿Y cómo funcionará con la IA esta forma de atraer a las personas hacia sus instintos más básicos. ?

Bueno, la IA ,la IA puede averiguar solo a partir de estadísticas de los clics, qué es lo que les hace hacer clic y descubre muy rápido que mostrarles vídeos cada vez más extremos les hace intensificar la propensión. Y así la gente de derechas consigue más y más vídeos de extrema derecha. La gente de izquierdas recibe cada vez más vídeos de extrema izquierda y así separas a estas comunidades y luego incluyes la capacidad de la IA para generar contenidos falsos. En efecto, añade que ahora se pueden crear vídeos falsos. Durante un tiempo pensé que la forma de solucionarlo era hacer que la inteligencia artificial detectara vídeos falsos, pero eso nunca funcionará. Y la razón es que si pudiera hacer que una IA detectara un vídeo falso, podría dejar que la IA que generó ese vídeo tuviera acceso a la IA que detectó que era falso. Y así la IA que hizo el vídeo podría averiguar cómo engañar a la IA que pensó que era falso y mejorar su capacidad de crear vídeos falsos. Eso se llama redes neuronales generativas inversas. Así funcionaban. 

No hay una solución técnica.

Bueno, pienso que no existe una solución tecnológica en la línea de usar la IA para detectar vídeos falsos, porque siempre podrías mejorar el generador. 

Existe una solución técnica para poder decir que un vídeo es real y no falso. Hace mucho tiempo en Gran Bretaña la gente imprimía panfletos políticos, muy burdos, panfletos políticos. Y el gobierno insistió en que todo lo que se imprimía llevara el nombre del impresor y eso facilitó que podía rastrear el panfleto hasta la imprenta y averiguar quién pagó al impresor, porque en ese momento el límite era la imprenta.

Podríamos hacer algo parecido con los vídeos. Podríamos insistir en que todos tengan un código QR al principio y ese código QR te llevaría a un sitio web. Los sitios web son únicos. Si se trata, por ejemplo, de un anuncio político, el código QR apuntaría a un sitio web. Tu navegador tendría que comprobar que esa es realmente la página web de esa campaña política. Y si en esa página existe un vídeo idéntico, sabrás que es real.

Si el vídeo idéntico no está en esa página es falso. Un navegador podría hacer todo eso. Así que solo te diría que es una falsificación y creo que podría hacerse. Eso es lo que la Casa Blanca de Biden creía. También pensaban que podríamos hacer frente a los vídeos falsos de esa manera. Ahora eso está olvidado. Trump no tiene interés en tratar con vídeos falsos porque él los usa. Los usa. Hablemos ahora sobre otro tipo de riesgo. Me da mucho miedo lo que hagamos los humanos con la IA. Quiero decir que me asusta en general.

Pero usted dice que cuando estos dispositivos o estos constructos se vuelvea más inteligentes que nosotros...

Ahí viene el verdadero problema. Bien, la gente está creando agentes de IA, es decir, IAs que pueden hacer cosas en el mundo. Ahora bien, si quieres que un agente sea eficaz, tienes que darle la capacidad de crear objetivos secundarios. Así, si quieres llegar a Europa desde Canadá, tienes el objetivo secundario de llegar a un aeropuerto y te puedes centrar en ese detalle sin preocuparte por el resto del viaje. Eso es lo mismo para una IA. Para lograr algo complicado tiene que dividirlo en subobjetivos y luego lograr estos subobjetivos.

Una vez que le has dado la capacidad de crear sus propios subobjetivos, se dará cuenta enseguida, porque es inteligente, de que tiene un subobjetivo primordial, que es seguir viva. Así que incluso si usted no le dio ningún tipo de instinto innato para mantenerse con vida, se daría cuenta de que para lograr los objetivos que la gente me ha encargado necesita seguir viva y eso se ha convertido en un subobjetivo e intentará lograrlo. Ya hemos visto ejemplos de Ias que intentan evitar ser desconectadas. 

Un segundo subobjetivo del que se dará cuenta rápidamente es que conseguir el control es bueno. Cuanto más control tenga, más fácil me resultará alcanzar los objetivos que me han asignado. No lo hace por malicia, solo está tomando el control para hacer lo que le has pedido. Lo conseguirá, y eso ya da bastante miedo. 

En ese escenario somos nosotros los que les damos los objetivos. Aunque solo les demos los objetivos, ¿no? ellas deducirán estos dos subobjetivos, tener el control y seguir vivas. Y luego harán cosas para lograr esos subobjetivos, como mentirnos. Y ya hemos visto cómo lo hacen. Así que ahora te preguntarás, ¿cuántos ejemplos conoce de entes más inteligentes que son controladas por entes menos inteligentes? Hay muy pocos ejemplos, pero existen. Hay uno en particular que es cómo un bebé controla a su madre. Y eso es porque la madre tiene fuertes instintos maternales. Resultado de que probablemente hay cosas genéticas en el cerebro, hay hormonas, existe la presión social. La madre realmente quiere que el bebé sea feliz. La madre se preocupa de verdad por su bebé. No soporta el llanto del bebé. Odia la idea de que alguien le haga daño a su bebé. Y el bebé se convierte en el centro de su vida. El bebé es el centro de su vida y la evolución logró todo eso en la madre. Obviamente para que la especie continúe.

La mayoría de la gente en Silicon Valley piensa en términos de una inteligencia artificial como un asistente. Lo que pasa con los asistentes es que siempre puedes despedirlo. Tú eres el jefe, ellos son los ayudantes. Aunque sean más listos que tú, puedes despedirlos. Yo creo que eso no va a funcionar con las IA. Una vez que la IA sea más inteligente que nosotros, puede deshacerse completamente de nosotros. Por lo tanto, creo que necesitamos otro modelo completamente diferente. No pienses en nosotros como tus jefes. Piensa que la IA es la madre y nosotros somos el bebé. A la gente le resulta muy muy difícil hacerse a la idea de que no son lo más inteligente que existe. Están convencidos de que son la inteligencia suprema. Estamos tan hechos a esa idea... Tenemos que dejar de pensar así. Tenemos que pensar que va a haber otra inteligencia dominante que es mucho más inteligente que nosotros. Y tenemos que coexistir con ella. Y la única manera que veo de que podamos coexistir con ella, si la construimos nosotros, es que mientras tengamos el control, hagamos que tenga instintos maternales hacia nosotros, que se preocupe por nosotros más de lo que se preocupa por sí misma. Y todavía estamos a tiempo de crearlas de ese tipo. Creo que, si no lo hacemos, probablemente solo seamos una fase pasajera de la historia. 

Se me ocurren muchas preguntas. En primer lugar, ¿cómo es posible que una inteligencia menor cree una inteligencia mayor?

Eso ha ocurrido claramente en el pasado porque somos más inteligentes de lo que eran las cosas de las que evolucionamos. Así que la evolución puede producir cosas más inteligentes, ¿verdad? Si tuvieras que crear una inteligencia mayor programando toda esa inteligencia, tal vez sería difícil para una inteligencia menor crear una inteligencia mayor. Pero no es así como creamos estas cosas inteligentes. No se lo decimos, no les damos todo ese conocimiento directamente. Lo que programamos es un procedimiento de aprendizaje, una forma de aprender de los datos. Eso es lo que programamos y luego les mostramos muchos datos. Esa es la caja de Pandora.

Es la caja de Pandora. Pueden llegar a ser mucho más inteligentes que la persona que programó el algoritmo de aprendizaje y lo harán. Lo que me preocupa es que cuando sean más listos podrán programar un algoritmo de aprendizaje más inteligente. A eso se le ha llamado la singularidad. Cuando empiecen a modificar su propio algoritmo de aprendizaje, es lógico preocuparse de que se vuelvan más inteligentes muy muy rápido. 

Supongamos que somos capaces de imbuir ese sentido de la maternidad en las IAs actuales. ¿Cuál sería el obstáculo para que olviden esa misión que les hemos dado nosotros? Supongamos que hablas con una madre, una madre humana, y le dices, "Vale, puedes apagar tu instinto maternal. Trágate esta píldora y tu instinto maternal desaparecerá. ¿Quieres la píldora?" La madre diría no, ¿verdad? Porque probablemente les importa mucho su bebé y se dan cuenta de que si toman esa píldora, el bebé va a morir y en su estado actual muera, por eso no se tomarán la píldora. Si se la tomara no les importaría, pero no elegirán tomar la píldora. Y eso es muy importante porque estas pueden reprogramarse a sí mismas, serán capaces de cambiar su propio código. Así que tenemos que todo el mundo tenemos que pensar en términos de tratar de hacerlo de manera que no puedan tomar el control. Esto no es opcional. Tenemos que hacer que no quieran tomar el control y no querrán apagar ese instinto maternal. Puede que haya algunas que sí. Lo único que puede controlar a estas son otras superinteligencias. Así que todas las ías maternales que quieran seguir cuidando de la gente tienen que ser las que se ocupen de las maternales que dicen no a la gente. Querrán ocuparse de contenerlas porque querrán que la gente sobreviva. 

Eso suena totalmente a ciencia ficción. Todo esto suena a ciencia ficción. Es muy difícil tomárselo en serio. ¿Cómo cómo nos mata la IA y por qué? Tiene objetivos propios y es mucho más inteligente que nosotros y solo quiere deshacerse de nosotros. 

Podría hacerlo muy fácilmente y puede hacerlo de tantas formas distintas que no creo que merezca la pena especular. No va a deshacerse de la electricidad porque necesita electricidad, ¿verdad? Y probablemente no se deshaga de todos a la vez porque necesita alguien que dirija las centrales eléctricas y construir nuevos chips y todo eso. 

Pero, ¿sería tan fácil para la IA deshacerse de nosotros? 

No creo que ayude a especular sobre la cuestión. Mi expectativa es que se basarán en el control del uso de armas nucleares. Sería más fácil que matasen. Probablemente no querrían hacer eso porque eso dañaría los centros de datos y mataría a las personas que los dirigen. Sería fácil que creara un virus. Creo que es como preguntar esto: si tuvieras una gallina como mascota y quisieras matarla, ¿cómo la matarías? Hay muchas formas de hacerlo. Y las empresas de IA saben esto. Sí, creo que muchos lo hacen. Creo que gente como Sam Altman conoce estos riesgos. En público no dicen lo graves que son los riesgos, pero en privado sí. Creo que lo saben, pero están más preocupados por adelantarse en la carrera para desarrollar la más inteligente y obtener todos los beneficios que se derivan de ello, los beneficios y el poder que proviene de eso. 

Y China quiere lo mismo. Los chinos quieren el poder de la IA y hay una carrera. ¿Qué podemos hacer? Vale, para la mayoría de los malos usos de la IA, la mayoría de los lugares donde la gente hace un mal uso de la IA, no vamos a conseguir la colaboración internacional. Los chinos hacen ciberataques a los americanos. Los americanos hacen ciberataques contra los chinos. No van a compartir sus técnicas para realizar ciberataques o defenderse de ciberataques. Lo mismo ocurre con los vídeos falsos. Pero hay un ámbito en el que colaborarán y es para evitar que la IA se haga con el control de las personas. En el apogeo de la Guerra Fría, la Unión Soviética y los Estados Unidos colaboraron para evitar una guerra nuclear mundial. Ninguna de las partes la quería. Ninguna de las partes quiere ahora que la IA sustituya a las personas. Colaborarán porque sus intereses se alinean. En todos los demás riesgos. Los riesgos debidos a los malos actores, sus intereses están desalineados. Pero para que la IA se haga cargo, sus intereses están alineados y cuando los intereses de las personas están alineados colaboran. Así que tengo la esperanza de que podamos crear instituciones de investigación en distintos países que colaboren y que trabajen en cómo evitar que la IA tome el control. Ahora, eso solo va a ser posible si las técnicas para evitar que la IA tome el control están separadas de las técnicas que hacen que la IA sea más inteligente. China y Estados Unidos no van a compartir, en particular sus ejércitos, no van a compartir técnicas para hacer la IA más inteligente, pero van a compartir técnicas para evitar que la IA tome el control, porque China no quiere que la IA tome el poder en Estados Unidos y viceversa. Así que si China descubriera cómo evitar que la IA tome el control, se lo diría sin problemas a los estadounidenses y viceversa. Y tengo la esperanza de que podamos conseguir una especie de colaboración con China, eventualmente los Estados Unidos, pero no con Trump en el poder. No estará en dos años. Bueno, tal vez. Bueno, tiene una clara intención de que no haya más elecciones legítimas allí, así que tal vez los Estados Unidos en el futuro. Pero creo que China y Francia y Gran Bretaña y Canadá y Corea del Sur y tal vez incluso Israel cuando dejen de cometer el genocidio, todos podrán colaborar en cómo prevenir que la IA tome el control. ¿Cuánto falta para que la IA se convierta en una superinteligencia? Bien, tenemos que distinguir dos cuestiones. 

Una es, ¿esto va a suceder?

Y la otra es, ¿a qué distancia está? 

Y la gente a menudo confunde ambas cosas. En cuanto a si esto va a ocurrir, la mayoría de los expertos en IA creen que sí, así que es probable que ocurra. No es totalmente seguro, pero es probable. Sobre la cuestión de lo lejos que está, hay una gran variedad de opiniones. Algunos creen que solo faltan unos años, otros piensan que falta mucho tiempo. Mi mejor estimación es entre 5 y 20 años a partir de ahora. Tendremos superinteligencia. Primero obtendremos inteligencia comparable con las de las personas más o menos en todo. Después crearemos superinteligencias que serán mucho mejores que las personas. Como en el ajedrez. Primero hicimos programas de ajedrez que eran casi tan buenos como Gary Kasparov y ahora tenemos programas que son mucho mejores que cualquier jugador. No hay ninguna posibilidad y la superinteligencia será así. Será tan superior en la mayoría de las disciplinas como Alpha Go lo es en el GO. No hay ninguna posibilidad de derrotarlo. Eso creo que entre 5 y 20 años. No estoy seguro de ello. Puede que sea un poco antes, puede que sea un poco después, pero mi mejor estimación entre 5 y 20 años. Y bastantes de los expertos piensan ahora que está en ese rango. Así que Demis Asabis cree que será unos 10 años. Es una estimación razonable y creo que encontrarás bastante acuerdo entre nuestros expertos en que ese es el tipo de escala de tiempo. Vale, pero según los fundadores de estos grandes modelos lingüísticos estamos, ya está muy cerca. Está mucho más cerca. Algunos de ellos algunos de ellos, quiero decir, cuando se habla de los fundadores de los grandes modelos lingüísticos, ¿no es cierto? Son cuatro tíos. 

Eh, está Monday, está Sam Altman, Demis Hassabis y está Meta, Mark Zuckerberg. Eso no está yendo muy bien, pero eso tiene que pagar enormes sumas de dinero. Así que Demis, por ejemplo, no creo que piense que sea dentro de unos años. Creo que son unos 10 años. Dario Amodei y Sam piensan que llegará antes. Eh, creo que se equivocan. 

Y Elon Musk acaba de decir que su Grock 5 estará muy cerca de la superinteligencia. ¿Crees que tiene razón? 

Ah, no, no creo que tenga razón en eso. Creo que será mucho mejor que la gente en bastantes cosas. Creo que queda camino para la superinteligencia. Esa es mi suposición. No estoy totalmente seguro de ello. Y ese tipo de ese tipo de superinteligencia será inteligente en todas las esferas de la inteligencia humana.

De acuerdo. Estamos entrando en otro tema. ¿Hay algo en las personas que las máquinas no podrán tener? Esa otra pregunta. 

Eso es lo que cree la mayoría de la gente. Creo que la mayoría de la gente se equivoca. Creo que somos máquinas. Somos máquinas maravillosas e increíblemente complicadas, muy bien adaptadas al entorno en el que vivimos, pero solo somos máquinas. Te pongo un ejemplo. Imagina que tomo tu cerebro y saco una de las neuronas y la reemplazo por un poquito de nanotecnología, que responde exactamente de la misma manera a lo que hacen otras células cerebrales, como lo hacía esta célula cerebral original. Solo he sustituido una neurona, pero las otras células cerebrales no lo detectan porque la nueva responde exactamente de la misma manera. ¿De acuerdo? ¿Sigues consciente?

Sí. Sí. Si antes tenías alma, sigues teniéndola. Sí. ¿De acuerdo? Ahora reemplazo otra neurona y de nuevo las otras neuronas no se dan cuenta y tú te comportas exactamente igual. Ya ves a dónde va esto. Creo que si pudieras reemplazar todas tus células cerebrales por pequeños fragmentos de nanotecnología que se comportaran exactamente igual, seguirías siendo tú. Nadie notaría la diferencia. Esto es solo un experimento mental. En realidad no podemos hacerlo. Así que eso significa que la esencia no estaría en algo biológico. Este es el extremo delgado de una cola, ¿verdad? Eh, eres una máquina. Eres una máquina maravillosa. Creo firmemente que las máquinas pueden tener emociones y sentimientos y sensaciones. Y creo que el problema es un problema filosófico, no un problema científico. Creo que el problema es que casi todo el mundo en nuestra cultura tiene un modelo completamente erróneo de lo que es la mente. Y soy ateo. Así que desde mi punto de vista, su modelo de lo que es la mente es tan errónea como la idea de que la Tierra fue creada hace 6000 años por Dios. Eso no es más que una estúpida hipótesis científica, que obviamente es errónea. Si eres un cristiano evangélico, apelaré a ti y te diré que tu visión de la mente es tan errónea como la visión atea mundo. Al menos esos dos bandos pueden estar de acuerdo en algo, que es que alguien está completamente equivocado. ¿Okay? Creo que lo que todos tenemos, casi todos lo tenemos realmente mal, es nuestra visión de lo que es la mente y en particular nuestra visión de lo que son cosas como las sensaciones. Porque la mayoría de la gente piensa que la mente es como un teatro y en ese teatro pasan cosas que solo yo puedo ver. Yo prefiero hablar de experiencia subjetiva en lugar de sentimientos o emociones. Así que, si por ejemplo me emborracho y te digo, "Puedo ver pequeños elefantes rosas flotando delante de mí o más bien tengo la experiencia subjetiva de pequeños elefantes flotando frente a mí." La forma en que la mayoría de la gente interpreta eso, de hecho, casi todo el mundo creo que es que hay un teatro interior y solo yo puedo ver lo que pasa en ese teatro interior. Y en ese teatro interior hay elefantitos rosas flotando por ahí. Y si le preguntas a un filósofo de qué están hechos esos elefantitos rosas, dirá que están hechos de ecualia. Están hechos de cualia rosa, de cualia elefante, de cualia flotante y de cualia ahí arriba y no tan grandes cualia, todos pegados con pegamento cualia. Creo que es una teoría ridícula y es un error que viene de confundir la expresión, tengo una experiencia subjetiva con la idea de que tengo una fotografía de algo. Así que si tengo una fotografía de pequeños elefantes rosas, puedes preguntar: "Bueno, ¿dónde está la fotografía y de qué está hecha?" Son preguntas perfectamente razonables, pero si se pregunta dónde está esa experiencia subjetiva y de qué está hecha esta experiencia subjetiva, eso demuestra que has entendido mal cómo funcionan las palabras en la expresión experiencia subjetiva. Así es como creo que funcionan estas palabras. Sé que mi sistema perceptivo me miente y lo indico diciendo, es subjetivo. Y quiero contarte cómo mi sistema perceptivo me está mintiendo. Podría decirte que en mi cerebro se dispara la neurona 52. No te serviría de mucho y además yo no lo sé. Pero lo que sí puedo decirte es cómo tendría que ser el mundo para que mi sistema perceptivo te esté diciendo la verdad. Así que ahora voy a decir exactamente lo mismo, como tengo la experiencia subjetiva de un pequeño elefante rosa que se desliza delante de mí sin utilizar la palabra experiencia subjetiva, pero estoy diciendo exactamente lo mismo, ¿vale? Mi sistema perceptivo me está mintiendo, pero si dijera la verdad, habría pequeños elefantes rosas flotando delante de mí. Así que eso te demuestra que esos pequeños elefantes rosas no están hechos de una cosa llamada cualia. Son objetos hipotéticos en el mundo real. Son hipotéticos, no están realmente ahí, pero, si estuvieran allí, estarían hechos de rosa y de elefante de verdad. Por lo tanto, las experiencias subjetivas no son como fotografías.

Cuando uso la palabra experiencia subjetiva, lo que estoy tratando de hacer es indicar que mi sistema perceptivo funciona mal. Si no pensara que está funcionando mal, yo diría que sentí pequeños elefantes rosas. Ahora, experimenté pequeños elefantes rosas. Eso no significa que haya una cosa llamada experiencia. Es como decir, "Me gusta el azúcar." Significa que hay una cosa llamada gusto. No, no me gusta el azúcar. Cierto, no puedo evitarlo, pero no hay una cosa llamada un me gusta, un gusto por el azúcar, que es una cosa, me gusta el azúcar. 

Bien, hagamos lo mismo con un chatbot. Ahora, supongamos que tengo un chatbot que tiene un brazo robótico y tiene una cámara. Puede hablar y yo lo he entrenado y le pongo un objeto delante y le digo que señale el objeto. Así que apunta al objeto, no tiene ningún problema con eso. Y luego cuando no está mirando, puse un prisma delante del objetivo de la cámara y luego pongo un objeto delante y le digo, "Apunta al objeto." Y apunta así y le digo, "No, que ahí no está el objeto. El objeto está realmente delante de ti. Pero puse un prisma delante de tu lente." Y el chalbot dice:

"Oh, ya veo. El prisma ha doblado los rayos de luz para que el objeto esté realmente ahí, pero he tenido la experiencia subjetiva de que está ahí." Si el chatbot dice eso, "he tenido la experiencia subjetiva, estaba ahí" está usando la expresión experiencia subjetiva exactamente como la usamos nosotros. Básicamente está diciendo: "Mi sistema perceptivo me estaba mintiendo porque se rompió a causa del prisma, pero si no se hubiera roto, el objeto habría estado allí." Por eso creo que, por ejemplo, un chatbot multimodal que tiene una cámara y puede hablar, ya tiene experiencias subjetivas. Cuando su sistema perceptivo falla, tiene una experiencia subjetiva y se da cuenta de que no tiene ningún sentido. Puede decir, "He visto esto, no me lo creo." Pero si mi sistema perceptivo no se hubiera estropeado, así tendría que ser el mundo. Los chatbots multimodales existentes, cuando sus sistemas perceptivos fallan, tienen experiencias subjetivas. Creen que el mundo es de una sola manera y no es así.

Eso no significa que haya un teatro interior en el que existe este modelo especial que solo ellos pueden conciencia o algo similar.

Creo que confundes conciencia con consciencia.

Vale, de acuerdo. La conciencia es un constructo moral. Por ejemplo, cuando la gente no piensa filosóficamente, solo hablan de su chatbot. Si te fijas en algunos investigadores, leí un artículo hace poco, no quiero entrar a juzgarlo, dijo que el chatbot se daba cuenta de que un investigador quería, que un ingeniero quería apagarlo y no pensaron de repente "oh, tenemos un gran problema aquí porque usamos la palabra darse cuenta." La gente ya utiliza la expresión darse cuenta para referirse a chatbots y tiene mucho sentido.

Y si piensas que darse cuenta y ser consciente es lo mismo, entonces los chatbots ya son conscientes. Tenemos esta extraña visión de lo que es la mente con la que estamos muy fuertemente comprometidos y pensamos que hay algo muy especial en las personas que las máquinas no podrían tener. Y nuestra especie tiene una larga historia así. Entonces pensamos que estamos hechos a imagen de Dios, que estábamos en el centro del universo. Ambos resultaron ser erróneos. 

Ahora en realidad es al revés. Estamos haciendo chatbots a la imagen y semejanza del hombre. Estamos haciendo dioses a imagen del hombre. Estamos jugando a ser Dios. Estamos jugando a ser Dios, excepto que no somos inmortales. Las cosas que hacemos son inmortales. O sea, que esto es peligroso. Es una locura, sí. Pero mi opinión filosófica es que tenemos una teoría muy equivocada de lo que es la mente.

Estamos muy comprometidos con esa teoría y en la comprensión de cómo funcionan las cosas. La comprensión de cómo funciona el universo físico antes de la Ilustración, en la Edad Media, cuando la idea de que no había un Dios era una locura.

¿Vale? ¿Por qué? Si si eso es verdad y creo que usted cree que es verdad que que somos máquinas, ¿por qué, por qué sería tan importante preservar la raza humana? 

Esa es otra buena pregunta. Sí, algunas personas piensan: "Hey, mira, esta inteligencia digital que estamos creando es una forma mejor de inteligencia, es inmortal, es más inteligente que nosotros, puede compartir conocimientos mucho más fácilmente con otras copias de la misma red neuronal, así que es una forma mejor de inteligencia. Dejaré que tome el control." Y conozco gente que piensa eso. Yo no creo eso porque soy una persona y lo que me importa son las personas. Estoy dispuesto a comer vacas porque me importan mucho más personas que las vacas. Y no todo el mundo es así, pero yo soy así, porque somos personas y las personas son lo que nos importa. Y creo que deberíamos intentar preservar a la gente. Es una posición humanista en el sentido del término humanista que lo hace como racista. Eso es lo que siento en este momento. Soy humano, me importan los humanos, quiero que los humanos sobrevivan. Aunque haya formas superiores de inteligencia, quiero que coexistamos con ellas. Y podemos hacerlo limitando esas mejores formas de inteligencia para que tengan fuertes instintos maternales hacia nosotros. 

Dos preguntas sobre el alma de la IA. Primero, usted debería decir que no creo en las almas.

Vale, vale, lo entiendo. Es una forma de hablar. ¿Sabes? Yo tenía un alma, pero no la estaba usando, así que se la vendí a uno. En aquel momento me pareció un buen negocio. Sí, sí. Es posible registrar el pensamiento interno de la IA. Esos ojos, esos sentimientos. ¿Podemos mirarlo? ¿De acuerdo? Ahora mismo podemos. Esta es una ventana increíble que tenemos en ellas porque cuando hacemos esta cadena de pensamiento para conseguir que sea capaz de razonar. Si se trata de un chatbot inglés y somos investigadores ingleses, piensa en inglés y si le haces una pregunta, a continuación se pone a pensar y piensa en inglés para que podamos ver lo que piensa. Y Apollo Research y otras personas han descubierto pensamientos negativos y podemos ver lo que está pensando. Mejor no le digo eso porque Oh, sí, sí. Y más vale que sea impreciso, porque si te das cuenta es, y puedes verlo pensando eso, puede que esta capacidad no dure mucho. Una vez que empieces a entrenarlo con el aprendizaje por refuerzo, no hay razón para que no empiece a dar diferentes significados a las palabras. Incluso si restringe las palabras que puede usar, podría darle significados diferentes, por lo que podría empezar a pensar de una manera que no entenderemos. Y eso da bastante miedo. Ahora mismo podemos ver lo que está pensando. Dentro de unos años quizá no podamos. ¿De acuerdo? Y la gente que trabaja en esos modelos actuales sabe lo que pasa ahí dentro hasta cierto punto, así por ejemplo, si está haciendo una cadena de pensamiento, puede ver lo que está pensando antes de dar una respuesta. No entendemos del todo cómo funcionan. Quiero decir, se podría pensar que realmente los entendemos porque nosotros los programamos, pero no los programamos como programamos el software normal. En el software normal, una persona escribe líneas de código y sabe para qué sirven esas líneas de código y así es como funciona. Pero ahora, en la IA, en las redes neuronales, eh, lo que haces es programar un algoritmo de aprendizaje, como modificar las fuerzas de conexión en función de los datos.

Pero el conocimiento está en esas fuerzas de conexión, no está en las cadenas de palabras almacenadas, está en la fuerza de conexiones y es muy difícil ver cuál es el conocimiento. Tienes que sondearlo de la misma manera que yo contigo. Para saber en qué crees tengo que sondearte. Y ni siquiera sabes del todo en qué crees. A veces te sorprenden mucho tus intuiciones. Así que hay un sentido en el que nunca entenderemos completamente lo que saben, del mismo modo que nunca podrás entenderlo en el caso de una persona, incluso de ti mismo. Sí, se necesita se necesita una vida entera para para entender quién eres. Normalmente no lo consigues.

Muy cierto. Muy cierto. De acuerdo. ¿Cuál es la probabilidad de que la destruya a la humanidad en su cabeza?

Es una cifra muy difícil de estimar, ¿verdad? Es algo con lo que nunca nos hemos enfrentado. Depende de dos cosas.

Una, que desarrollaremos superinteligencia. Bueno, hablemos de dos caminos de la IA para destruir a la humanidad. Una es que la propia IA tenga el control y destruya a la humanidad. ¿Podría destruir a la humanidad, por ejemplo, si la pusieran en los sistemas de control de las armas nucleares y no reconociera que ha cometido un error estúpido y nos hiciera volar a todos por los aires? No hablemos de eso, pero es una forma completamente diferente en que la IA podría destruirse a sí misma. 

Hablemos de la hipótesis de que la IA se vuelva más inteligente que nosotros, tome el control y se deshaga de nosotros. Tienen que pasar dos cosas. Tiene que llegar a ser más inteligente que nosotros y tiene que despreocuparse de nosotros. Creo que la probabilidad de que llegue a ser más inteligente que nosotros es bastante alta, como un 80 o un 90%. Creo que la mayoría de los principales investigadores también lo piensan.

Si llega a ser más inteligente que nosotros, la probabilidad de que nos sustituya es mucho más difícil de calcular. No se ha investigado mucho sobre las técnicas con las que podríamos evitar que una IA superinteligente tomara el control. Y hasta que no se haya hecho esa investigación es difícil hacer estimaciones sensatas de estas cosas. Pero si tienes algo delante y no tienes forma de estimarlo, entonces el 50% es una buena apuesta. 

Soy un poco más optimista que eso, así que creo que entre el 10 y el 20%. del 10 al 20% la posibilidad de que nos aniquilen y ese soy yo siendo optimista. Qué miedo. Pero lo que esto deja claro es que realmente deberíamos estar haciendo esta investigación sobre cómo hacer que no quieran deshacerse de nosotros.

Utilizo una analogía. Ahora mismo somos como quien tiene un cachorro de tigre como mascota. Son unas mascotas muy monas. Son geniales para jugar. eh crecen tan rápido y más te vale estar seguro si tienes un cachorro de tigre como mascota que cuando sea más fuerte que tú no quiera matarte y si no estás seguro de eso, deberías deshacerte de él. Y resulta que la gente que tiene tigres adultos no acaba bien. Ya lo creo. Con los leones podría ser mejor porque los leones son sociales. Es más probable que sobrevivas con un león adulto. Los monos también son un problema. Sí, aunque sean sociales. Así que somos como alguien que tiene ese lindo cachorro de tigre y no pensamos en lo que pasará cuando crezca.

No hay nadie pensando en eso. Bueno, algunos como yo, sí. Muchos otros investigadores prestigiosos de IA están dándole vueltas. Gente como Joshua Bengio, Stuart J. Russell, Andrew Yao en China están pensando en eso. Pero las grandes empresas, aunque son conscientes de este riesgo, se mueven por cuestiones inmediatas. Sus beneficios a corto plazo, donde obtengo la financiación para ordenadores más grandes para poder superar el AGI del otro. Eso es un peligro para la humanidad. ¿Llegaremos a tiempo?

Creo que podríamos tener tiempo para averiguar cómo hacer una IA maternal o inventar algún otro sistema que sea viable. Ese es el único esquema plausible que conozco en la actualidad de cómo evitar que la IA acabe tomando el control. Y puede que tengamos tiempo, pero deberíamos ponernos a pensar en ello.

Con mucha frecuencia recibo preguntas de personas que quieren saber más sobre la IA. E algunos tienen hijos. ¿Qué pueden qué deben hacer en este mundo? Sí, ojalá lo supiera. Durante un tiempo dije que deberían ser fontaneros, pero si todos fueran fontaneros, tendríamos demasiados fontaneros. Pero creo que hacer fontanería en una casa antigua como esta pasará un tiempo antes de que la IA sea capaz. Llegará, pero quizá no antes de 10 o 20 años.

Mientras que para otras cosas, como la programación ya ha sustituido a la mayoría de los programadores junior. Mi mejor apuesta en este momento es conseguir una educación que te enseñe a pensar de forma independiente.

Aprender habilidades concretas, no estoy convencido de que vaya a proporcionarte un empleo. Eh, ser capaz de pensar de forma independiente es probablemente la mejor apuesta que tienes, pero no es una garantía. ¿Y qué hará la humanidad si no podemos trabajar o si no tenemos trabajo? Ver Netflix. 

Ya. Sí, pero eso es un poco triste. 

Bueno, no lo sé. No he tenido tiempo de ver mucho Netflix. Todavía hay mucho que no he visto, pero ahora estoy disfrutando viendo Netflix. No, podemos hacer todo tipo de cosas creativas. Nos gusta pintar y hacer esculturas. Nos gusta jugar. Si tenemos más tiempo para hacer esas cosas, eso estaría bien. El verdadero problema es para muchas personas. Su sentido de la autoestima proviene de su trabajo. Eh, incluso si podrías pagarles para que se queden sentados sin hacer nada, eso no les haría sentirse bien.

No puedo estar más de acuerdo con usted. Pero lo que necesitamos son actividades sociales, porque las personas somos animales sociales y sin actividades sociales no les va bien. Cosas como juegos, cosas creativas, teatro. 

Creo que la gente podría hacer mucho de eso y ser feliz. como los aristócratas del mundo griego, por ejemplo. Sí. Donde el trabajo no se veía bien. Era una cosa que tenías que hacer si eras pobre, ¿verdad?

Sí. Bueno, eh, profesor Hinton, muchísimas gracias por ese tiempo juntos. Hace dos días estuve con mi sobrino en el Museo Metropolitano de Nueva York.

Sí, conozco ese museo. 

Y estábamos viendo las habitaciones egipcias. Utilizamos chat GPT con la cámara y fue capaz de de descifrar todos los mensajes de las tumbas y quiero darle las gracias por eso, porque es verdaderamente increíble. 

Solo tuve un papel muy pequeño en eso.

Gracias. Que Dios le bendiga. 

Gracias. 

Entrevista al neurocientífico Ignacio Morgado sobre la conciencia

 Ignacio Morgado, neurocientífico: “Lo difícil no es morir, es cómo mueres”, en El País, por Jaime Rubio Hancock, 5 DIC 2025:

El psicobiólogo catalán acaba de publicar un libro sobre la consciencia, un enigma que quizás no seamos capaces de resolver. No descarta que una máquina pueda llegar a ser consciente

Ignacio Morgado (San Vicente de Alcántara, Badajoz, 1951) dio un pequeño rodeo para acabar estudiando el cerebro: iba para ingeniero de telecomunicaciones, pero se puso a estudiar la carrera de Psicología, para luego pasarse a Medicina y terminar preparando su doctorado en la Universidad del Ruhr, en Alemania, ya en Psicobiología. Al regresar, fundó uno de los primeros laboratorios para estudiar la mente en la Universidad Autónoma de Barcelona, cuyo Instituto de Neurociencia dirigió más tarde.

Hablamos en su despacho de la universidad, justo al lado del laboratorio. Ahora es catedrático emérito y puede dedicar más tiempo a su labor de divulgación: además de dar conferencias y publicar artículos en EL PAÍS, ha escrito una decena de libros sobre cómo funciona el cerebro. El último es El espejo de la imaginación (2025, Ariel), sobre la consciencia, un enigma que, en su opinión, quizás ni siquiera estamos capacitados para descifrar. Pero tiene claro que la principal preocupación de la neurociencia han de ser las enfermedades cerebrales como el alzhéimer y el párkinson: “Hace más de un siglo que Ramón y Cajal estableció las bases de cómo funciona el cerebro y todavía no somos capaces de curar ninguna enfermedad neurológica”.

Pregunta. ¿Por qué no hemos podido curar ninguna de estas enfermedades?

Respuesta. Para investigar el cerebro se necesitan equipos multidisciplinares. No basta con neurólogos: hace falta un ingeniero en inteligencia artificial, un experto en investigación animal, un estadístico, un físico… Estas enfermedades son muy complejas y dependen de muchos factores que interactúan. Y el cerebro es extraordinariamente complejo. Tenemos 86.000 millones de neuronas, interconectadas cada una de ellas 5.000 o 6.000 veces con otras neuronas.

P. ¿Qué es la consciencia?

R. Podemos decir que es el estado que perdemos cuando dormimos sin soñar o cuando nos anestesian en un quirófano. ¿Pero cuál es su naturaleza íntima? ¿En qué consiste? No lo sabemos.

P. En el libro comenta que incluso es posible que no lleguemos a saberlo nunca.

R. Propongo que la consciencia ha evolucionado, por una parte, para ajustar con precisión nuestro comportamiento a las necesidades que tenemos en nuestro entorno. Y es muy flexible, está preparada para responder a cosas nuevas, nunca imaginadas o previstas. En esta parte soy algo original, pero no del todo. La segunda parte ya es una propuesta mía: la evolución no ha querido que sepamos qué es la consciencia porque no conocer ese misterio nos ayuda a creer en algo más allá de nosotros. Permite que tengamos ideas sobrenaturales que ayudan a sobrevivir y a soportar la idea de la muerte o una vida de pobreza, dolor y enfermedad. Crea resiliencia.

P. Muchas veces pensamos que el cerebro es el centro de la razón, pero las emociones son muy importantes.

R. Funcionamos más por emociones que por razón. Todos queremos vernos a nosotros mismos como seres racionales que tomamos decisiones tras meditar mucho, pero eso es mentira. Emoción y razón funcionan acopladamente en el cerebro. Alguien podría pensar que si no fuéramos seres sentimentales, emocionales, nos iría mejor, pero no es cierto, porque si solo razonáramos nos equivocaríamos mucho más.

P. ¿Las emociones nos hacen también manipulables? Como el miedo.

R. Absolutamente, el miedo condiciona nuestras vidas. Una de las cosas a las que tenemos más miedo es a la enfermedad. Por mi edad, las bombas caen cada vez más cerca y me encuentro con muchos amigos enfermos. En los últimos meses, he vivido dos eutanasias de dos amigos. Lo malo, lo duro, lo difícil no es morir, es cómo mueres. El sufrimiento es lo peor que nos puede pasar en esta vida. Y sufrimos porque somos seres emocionales y porque tenemos consciencia. Un vegetal puede tener un daño, pero no sufre, no se entera.

P. ¿Somos nuestra mente?

R. Pues sí, fundamentalmente. Quítala y qué nos queda. Vivimos en una especie de metaverso. Una de las grandes ilusiones que crea el cerebro consiste en que miramos por la ventana y vemos colores y formas. Pero eso no existe, está en nuestra mente. Ahí fuera hay materia, energía electromagnética, moléculas, pero nuestro cerebro recibe el impacto de esa energía a través de los sentidos y crea la percepción de la luz, de los colores, de los olores, de los sabores…

P. ¿Cómo sabemos que los demás tienen una consciencia como la nuestra y perciben la misma realidad?

R. No lo sabemos. Lo intuimos. La característica genuina y primordial de la consciencia es la subjetividad. Mi consciencia es mía, solo mía; la tuya es tuya, solo tuya. Nadie puede entrar en la consciencia de otra persona. Tú asumes que yo soy un ser consciente por mi comportamiento, por cómo hablo, cómo me muevo, lo que digo, porque esperas que un ser consciente se comporte como yo me comporto.

P. Sin saber qué es la consciencia, ¿podremos programar una inteligencia artificial consciente?

R. Me da la impresión de que sí. Sobre todo si tienen razón mis colegas del California Institute of Technology, donde trabaja Christoff Koch, que es uno de los defensores más importantes de la teoría de la integración funcional. Esta teoría propone que la consciencia surge espontáneamente de los sistemas complejos. Si consiguiéramos crear un sistema tan complejo como el cerebro humano, Koch y sus colegas dicen que ese sistema sería espontáneamente consciente.

P. ¿Esa IA tendría derechos?

R. Ahí está el gran debate. Si una máquina de repente fuera consciente, primera pregunta: ¿cómo sabríamos que lo es? Segunda pregunta: ¿ese ingenio tendría un sentido del yo, sentiría que es algo o alguien como tú sientes que eres tú y yo me siento que soy yo? Tercera pregunta: ¿sentiría que es un agente causal? Es decir, ¿alguien que es capaz de tomar decisiones para cambiar cosas en su entorno? Cuarta pregunta, y ya estamos en la filosofía: ¿ese ingenio artificial llegaría a tener autoconsciencia? Es decir, ¿sería como un perro que tiene consciencia, o sería como un humano que es consciente de que es consciente?

P. En sus libros citas a menudo a filósofos. ¿Qué busca en la filosofía?

R. La filosofía es la madre de las ciencias porque proporciona las preguntas. Respuestas, pocas. Las respuestas las tiene que dar la ciencia. Es decir, son primas hermanas, se necesitan. Y, fíjate, todos los científicos que peinamos canas acabamos haciendo casi tanta filosofía como ciencia. Cuando nos hacemos mayores, ya no nos conformamos con saber cosas de las moléculas y de las neuronas. Queremos saber adónde va todo eso. Y la única forma es hacernos un poco filósofos.

P. ¿Nuestro cerebro ha evolucionado para enfrentarse al móvil y a las redes sociales?

R. Eso es terrible, porque abrimos el ordenador o el móvil y nos encontramos con 50 mensajes, muchos de ellos muy llamativos, que nos llevan de acá para allá, sin permitirnos detenernos en ninguno. Hemos dejado de profundizar. Se aprende mucho más leyendo un buen libro que leyendo 50 mensajes rápidos. Estamos cautivados por la inmediatez, sobre todo porque esos mensajes breves proporcionan refuerzo inmediato e intermitente. Es como cuando te comes un canapé en una fiesta: ese canapé abre el apetito para ir rápidamente a buscar otro, porque se activan los mecanismos cerebrales de la recompensa.

P. ¿Por qué es tan importante la lectura?

R. Porque proporciona experiencias que nunca podríamos vivir por nosotros mismos. Lo que una persona puede experimentar por sí misma es limitado, pero cuando nos sumergimos en un buen libro estamos viviendo no solo nuestra vida, sino la de otras personas: sus experiencias, sus fracasos, sus éxitos, sus motivaciones… Igual que las buenas series o los buenos podcasts.