Diez pensadores fundamentales para la izquierda

 Los diez pensadores que más influyen en la izquierda, en El País, por Sergio C. Fanjul 25 JUN 2023 

La izquierda vive momentos complicados. Hay quien dice que le cuesta encontrar un lugar en el mundo que se avecina, atomizado y posfordista, un relato con el que cautivar a las masas en un futuro cada vez más individualista y conspiranoico, escéptico ante las utopías y muy integrado en el dogma económico dominante. Para su supervivencia necesita imaginación e ideas. Con el fin de sondear el caldo de cultivo intelectual en el que vive la izquierda actual y del que tendrá que surgir la futura, hemos pedido a 37 personas expertas de diferentes ámbitos (la política, la edición, el periodismo o la academia) que voten por los que creen que son los pensadores, vivos o muertos, que más influyen hoy en día.

Imaginación e ideas: ¿a dónde va la izquierda?

La encuesta realizada por Ideas ha arrojado los que podrían ser sus referentes más importantes. Por este orden, los 10 más votados fueron: Karl Marx, Judith Butler, Antonio Gramsci, Thomas Piketty, Michel Foucault, Hannah Arendt, Simone de Beauvoir, Jürgen Habermas, Karl Polanyi y Walter Benjamin. Podría ser otra lista, pero es esta la que ha surgido y da una idea del ambiente intelectual de la izquierda en la tercera década del siglo XXI. A las puertas se quedan nombres que bien podrían estar dentro: Noam Chomsky, Nancy Fraser, John Maynard Keynes, Chantal Mouffe, Ernesto Laclau, Mariana Mazzucato, Simone Weil, Silvia Federici, David Harvey, Donna Haraway, o Slavoj Zizek, entre otras decenas que fueron mencionados por el jurado.

Karl Marx, 1.

Tréveris, Alemania, 1818-Londres, 1883. Su vasta obra influye en diversos campos del saber, en ella está el fundamento teórico de las corrientes socialistas y comunistas. Obras fundamentales: El manifiesto comunista (1848, con Engels) y El capital (1867).

Por Clara Ramas San Miguel, Profesora de Filosofía en la Universidad Complutense y responsable de la edición crítica de ‘El 18 Brumario de Luis Bonaparte (Akal)’ de Karl Marx

“Un fantasma recorre Europa...” Las icónicas líneas iniciales de El manifiesto comunista describen la propia presencia de Marx, que no cesa de retornar incluso después de muerto: del marxismo al posmarxismo, del siglo XIX al XXI. El joven Marx había descubierto que los ideales de libertad, igualdad y fraternidad de la Revolución Francesa quedarían incompletos si se limitaban a democratizar al poder político. Como ya había intuido Kant, las libertades políticas sin autonomía material y económica son vacías. La gran apuesta de Marx será pensar las condiciones de una autonomía efectiva: democratizar la economía. El proyecto al que dedica su vida, El capital, es una crítica de la economía política o capitalismo. Descubre que en paralelo a conquistas políticas y formales subsiste una dependencia económica para la mayor parte de la población; que el capitalismo, por su propia dinámica, produce niveles crecientes de desigualdad. Descubre que la ley del mercado se impone como una ley de hierro al margen de la soberanía de pueblos y parlamentos, produciendo sociedades atomizadas que buscan reagruparse con fórmulas en ocasiones autoritarias. Descubre, en fin, que, lejos de satisfacer necesidades humanas, el capitalismo solo obedece a imperativos de valorización y acumulación creciente: como si, por así decirlo, el capital tomara vida propia y las personas y la naturaleza fueran solo su herramienta.

Marx es un pionero. Los avances y retrocesos del movimiento obrero inspirado por él han dado la medida para el Estado de bienestar y sus debates sobre redistribución, justicia social y políticas públicas. Vislumbra la actual crisis ecológica y plantea la cuestión del trabajo de cuidados que ocupará al feminismo. Insta a buscar formas de reproducción social no dependientes del trabajo asalariado, como la actual renta básica. Así, abre el campo no solo de las ciencias humanas, la sociología y la economía crítica, sino también de los debates sociales, ecologistas, feministas y poscoloniales contemporáneos.

Nuestra historia es para Marx la historia de la necesidad. El fantasma mencionado por Marx es una pregunta que nos sigue asediando en 2023: cómo alcanzar el reino de la libertad.

Judith Butler, 2

Cleveland, EE UU, 1956. Con su cuestionamiento de las nociones tradicionales de género, ha hecho importantes aportaciones a la teoría queer. Obra fundamental: El género en disputa (1990).

Por Paul B. Preciado, filósofo. Su último libro es ‘Dysphoria mundi’ (Anagrama).

Sería posible afirmar que Butler es no sólo el feminista más influyente del siglo XX, sino y, frente aquellos que consideran el feminismo como un pensamiento menor, el filósofo de izquierda más relevante de finales del siglo XX y de principios del siglo XXI, aquel que opera, junto con Angela Davis, como pensador bisagra, prefigurando las formas de activismo y de subjetividad política por venir. Descendiente de una familia judía diezmada en el Holocausto, Butler va a prestar atención a cómo los procesos de naturalización de la identidad (racial, de género, sexual…) esconden violentos proyectos políticos de normalización y purificación social. Simone de Beauvoir afirmó que “no se nace mujer”, Gayle Rubin y Joan Scott analizaron el género como el efecto de una construcción social, pero será Butler quien proponga una explicación de cómo se lleva a cabo esa construcción. Para Butler la identidad de género se construye “performativamente”: no es una esencia o una naturaleza, sino una práctica, algo que “hacemos” y no algo que “somos”. La relación entre anatomía y performance de género depende de la repetición de actos lingüísticos y corporales cuya función es preservar la estabilidad del régimen heterosexual y binario.

Encarnando su propio pensamiento, Butler ha conseguido recientemente un cambio de identidad legal como persona de género no binario en el Estado de California. Habitamos en un mundo butleriano: la proliferación de políticas queer que buscan destituir las normas en lugar de integrarse en la sociedad heterosexual dominante; la reapropiación performativa de las injurias “marica”, “bollera” o del estigma de la violación en los movimientos NiUnaMenos y MeToo; la demanda de reconocimiento de aquellos cuerpos que “importan” menos que otros en nuestras sociedades poscoloniales, central en los movimientos Black Lives Matter y Trans Lives Matter; las políticas drag queen y drag king —que en su versión más pop han llegado hasta drag race— y que utilizan la performance para desplazar los códigos normativos de género… El pensamiento vivo de Butler constituye el proyecto más ambicioso para la izquierda contemporánea: un feminismo antipatriarcal, antirracista, ecologista y no binario expandido que permita una reescritura ética total del contrato democrático. [En este artículo no se han mantenido los géneros gramaticales empleados por quien lo escribe].

Antonio Gramsci, 3.

Cerdeña, Italia, 1891-Roma, 1937. Fue uno de los fundadores del Partido Comunista Italiano, encarcelado por el fascismo; su concepto de hegemonía cultural es central en la política actual, y no solo para la izquierda. Obra fundamental: Cuadernos de la cárcel.

Por Íñigo Errejón, político, doctor en Ciencia Política y líder de Más País.

Antonio Gramsci es un pensador político que se pone periódicamente de moda. Los analistas lo citan para parecer sofisticados, los vendedores de marketing político aderezan sus platos con él, las derechas lo nombran como en una excursión traviesa en el campo intelectual del adversario para demostrar sus pérfidas intenciones y las izquierdas lo usan para parecer contemporáneas o sofisticadas, para un roto y un descosido, a menudo citándolo más que leyéndolo. Gramsci es el pensador fundamental para entender por qué mandan los que mandan y por qué obedecen los que obedecen. Para el sardo, en las sociedades modernas el poder de los grupos rectores descansa en última instancia en la coerción, la capacidad de obligar, pero se ejerce principal y cotidianamente por medio del consentimiento, la capacidad de persuadir de que su mando es lo normal y al mismo tiempo de desalentar, neutralizar o dispersar las alternativas. Este dominio no es un engaño que haya que desenmascarar —por ejemplo intentando que la gente “abra los ojos” y entienda que “vota contra sus propios intereses”—, sino una forma de poder, la hegemonía, que debe ser comprendida como históricamente cierta. En primer lugar por aquellos que quieren desafiarla, para construir explicaciones e identificaciones alternativas que partan del terreno y el sentido común dado.

La hegemonía es así esa construcción política por la cual un grupo, clase o sector es capaz de ejercer la “dirección intelectual y moral” determinando las metas, los valores y las palabras que gobiernan la percepción del mundo de su época. Al hacer eso, sus intereses particulares aparecen como los intereses generales del conjunto social, la mayoría del cual encuentra mejores expectativas y razones para el consentimiento que para la contestación. Esta forma de poder político se extiende y blinda principalmente por los canales aparentemente “no políticos” —el ocio, la cultura, la comunicación, el consumo— que reproducen y naturalizan una manera de ver el mundo y su consiguiente reparto de roles.

Cuando afirma que una idea es “históricamente verdadera” en la medida en que “se convierta concretamente, es decir, histórica y socialmente, en universal”, nos está señalando, contra todo esencialismo pero también contra toda melancolía, que los alineamientos políticos no están predeterminados, sino que dependen de una disputa estética, moral e intelectual que está siempre abierta, lo cual es garantía de libertad. Y de esperanza.

Thomas Piketty, 4

Clichy, Francia, 1971. El economista puso en primer término del debate el problema de la desigualdad y la redistribución de la renta en el capitalismo actual. Obra fundamental: El capital en el siglo XXI (2013).

Por Joaquín Estefanía, periodista y autor de ‘Revoluciones’ (Galaxia Gutenberg).

El todopoderoso exrector de la Universidad de Harvard y exsecretario del Tesoro de EE UU Larry Summers pidió públicamente el Premio Nobel de Economía para el joven científico social francés Thomas Piketty, cuando en el año 2013 apareció su libro El capital en el siglo XXI. No tenía precedentes: a un francés y a un joven. Piketty había conseguido, con su novedoso aparato estadístico de carácter histórico, lo que no habían logrado sus colegas de primera fila (entre ellos, varios premios Nobel) al estudiar el fenómeno de la desigualdad creciente en el mundo. Lo que está en peligro, sentenció Piketty, es la democracia. Vendió centenares de miles de ejemplares de un libro tan denso.

Desde ese año Piketty profundizó mucho más en el fenómeno. Sus investigaciones se pueden resumir en los siguientes puntos: 

1) rendimientos superiores del capital al crecimiento económico aumentan la desigualdad;

2) con la excepción del periodo de hegemonía de la revolución keynesiana (nacimiento del Estado de bienestar y políticas contra la Gran Depresión), la desigualdad es una tendencia a largo plazo desde el siglo XIX, con los distintos tipos de capitalismo que se han desarrollado (comercial, financiero, tecnológico…); 

3) no hay otro método para combatirla que las políticas distributivas a través del gasto público y ello requiere de grandes impuestos (incluso confiscatorios) a los más ricos, 

y 4) la cohesión social, los valores de la meritocracia y de la justicia social están en peligro con concentraciones extremas de la riqueza como las que existen.

Un economista templado ideológicamente, más bien socialdemócrata, sin veleidades revolucionarias callejeras en su primera juventud, alejado de las principales teorías de Marx y Engels sobre la lucha de clases, sin embargo ha acabado escribiendo un libro que compendia sus principales artículos, al que ha titulado ¡Viva el socialismo! porque entiende que sigue vigente en la historia la batalla por las ideas.

Michel Foucault, 5

Poitiers, Francia, 1926-París, 1984. Sus contribuciones investigan la naturaleza del poder y cómo interacciona con la sexualidad, la salud mental o las minorías a través de la historia. Obras fundamentales: Historia de la locura (1961), Vigilar y castigar (1975).

Por Elizabeth Duval, filósofa y escritora, su último libro es ‘Melancolía’ (Temas de Hoy).

Preguntado por Foucault, Deleuze resaltaba el vínculo insoslayable del pensador con su presente: las formaciones históricas interesaban a Foucault porque señalaban el lugar de donde se salía, donde se había estado confinado; no le interesaban los griegos, sino la relación de su tiempo con la locura, con los castigos, con el poder, con la sexualidad. Si me preguntaran a mí, abstrayéndome de las necesidades de la clarificación, creo que de lo primero de lo que hablaría sería de la belleza. Intentaría que nos desvinculáramos de la jerga (la biopolítica, la arqueología, el poder disciplinario, lo discursivo) y pudiéramos leer con ojos nuevos las páginas de Las palabras y las cosas sobre Las meninas, de Velázquez. Querría que la consecuencia se pareciera a sentir con otra mirada la relación que se despliega en el cuadro. Y propondría un Foucault menos caricaturizable que el que nos ofrecen sus amigos y sus enemigos.

Foucault no es tanto un enciclopedista de la sexualidad como un arqueólogo de relaciones y estructuras. Sus textos no nos encierran entre insoportables cadenas de poder y dominación, en las cuales incluso la rebeldía estaría ya codificada, sino que nos ofrecen todas las posibilidades de la crítica y el análisis. Si nadie como él expuso tan claramente la relación entre el saber y el poder, también pocos ofrecieron tantas herramientas para darnos cuenta de su presencia, para reflexionar. Hay críticos injustos que han buscado en un Foucault tardío una teoría que traiciona la liberación para someterse al neoliberalismo del porvenir: confunden la defensa de las instituciones con la legitimación de sus injusticias. Debemos recordar la lección que él extraía de El Anti Edipo (Deleuze y Guattari): no hay que enamorarse del poder o de la tristeza militante. En ningún pasado hay tanta potencia como en el desenterrado por el francés.

Hannah Arendt, 6

Linden-Limmer, Alemania, 1906-Nueva York, 1975. Pensó sobre el totalitarismo, la violencia, la revolución, la acción política y acuñó el término “banalidad del mal”. Obras fundamentales: Los orígenes del totalitarismo (1951) y Eichmann en Jerusalén (1963).

Por Fernando Vallespín, catedrático de Ciencia Política y miembro de la Real Academia de Ciencias Morales y Políticas. Es coautor de ‘Populismos’ (Alianza).

Arendt no es de izquierdas. Ni de derechas, claro. Su gran atractivo reside precisamente en eso, en ser inclasificable. De hecho, le hubiera horrorizado verse en esta lista. O en cualquier otra. ¿Qué pinta aquí entonces? ¿Qué pudo motivar que tan amplio grupo de personas la hayan votado? Lo más probable es por su entusiasmo por todo lo que oliera a revueltas populares, por su espíritu rebelde, o por sus elogios a Rosa Luxemburgo o Walter Benjamin, o sus críticas al colonialismo y totalitarismo. Pero no nos engañemos, su único compromiso es con la libertad, que ella encuentra siempre realizada en esos momentos extraordinarios en los que un determinado orden social queda puesto en entredicho y se da entrada a la libre discusión ciudadana. Su ideal es el aristotélico, la polis como lugar de encuentro donde intercambiar opiniones, debatir las diferencias y buscar una solución conjunta a los problemas que nos afectan a todos. Por eso alabó la revolución americana, hasta que la nueva república se acabó sustentando sobre una sociedad crecientemente privatizada y sujeta a los imperativos de los grandes intereses económicos y el valor del consumo. Y criticó la francesa y la bolchevique porque, al poner la “cuestión social” en el centro, se dejaron llevar por la “pasión por la compasión” e instauraron estados más atentos a una ingeniería social guiada por la mera funcionalidad inherente a los dictados de la economía y su gestión. No es ya la comunicación abierta y la libre deliberación lo que decide cómo hemos de vivir, sino las necesidades de reproducción del sistema. Su contrafáctico podrá sonar extravagante, pero a través suyo fluye una crítica de una riqueza sin igual, el propio de alguien que no se casa ni con unos ni con otros. La democracia bien entendida no es de derechas ni de izquierdas. Arendt tampoco.

Simone de Beauvoir, 7

París, 1908-1986. Es una de las principales teóricas del feminismo en el siglo XX, también enmarcada en el movimiento existencialista y en la creación literaria. Obra fundamental: El segundo sexo (1949)

Por Luna Miguel, poeta, escritora y editora. Su último ensayo es ‘Caliente ‘(Lumen).

Simone de Beauvoir está a una tote bag de ser traicionada. O no. En realidad, la figura de la filósofa lleva siendo influyente y polémica desde su juventud. Lo explica Wolfram Eilenberger en El fuego de la libertad, un ensayo en el que cruza su vida con las de otras pensadoras del siglo XX. El retrato que hace de ella es el más desesperante: la describe altiva, un tanto pija, adicta a la atención. La mismísima Simone Weil se burló de esa supuesta frivolidad en toda su cara, cuando ambas estudiaban en la Sorbona y debatían sobre la guerra. De Beauvoir no tuvo reparos en narrar tal desencuentro ideológico en unas memorias: “Mirándome de arriba abajo, me dijo: ‘Ya se ve que nunca has tenido hambre”.

Más allá de lo que unes y otres puedan opinar sobre esa fama, lo cierto es que la obra de De Beauvoir demuestra que su mainstrificación no riñe con la contundencia de sus ideas. Por eso mismo —y precisamente porque hoy su libro más célebre es esa bárbara enciclopedia sobre la feminidad, tantas veces mentada, pero tan poco leída y reducida al eslogan— se ha vuelto urgente equilibrar la balanza y prestar atención a la amplitud de sus investigaciones, a través de obras más ocultas e irónicamente peor editadas en nuestro país.

Un ejemplo: ¿Hay que quemar a Sade?, una finísima lectura de la crueldad, y una defensa de la reparación frente a eso que hoy llamaríamos cancelación. Otro ejemplo: El pensamiento político de la derecha, que fue publicado en su origen como artícu­lo para un número especial de Les Temps Modernes, donde distintos intelectuales reflexionaron bajo la premisa de que la izquierda francesa se desmembraba. En vez de lloriquear, De Beauvoir prefirió centrarse en el análisis del resentimiento de la burguesía. Para ella era más útil entender a sus contrarios que disparar a sus afines.

Es esta lucha por el entendimiento de las contradicciones del mundo lo que mantiene vigente a Simone de Beauvoir; lo que nos hace necesitar el estudio de su filosofía, al tiempo que celebramos la multiplicación de su rostro en bolsas de tela violeta.

Parafraseando a la pensadora: profesarle una simpatía demasiado fácil sería traicionarla. En este artículo se han mantenido los géneros gramaticales empleados por quien lo escribe.

Jürgen Habermas, 8

Düsseldorf, Alemania, 1929. Miembro de la Escuela de Frankfurt y exponente de la teoría crítica, ha trabajado sobre los mecanismos de la comunicación y de la democracia. Obra fundamental: Teoría de la acción comunicativa (1981).

Por Cristina Lafont, filósofa, catedrática de Filosofía de la Northwestern University de Chicago, autora de ‘Democracia sin atajos’ (Trotta).

Habermas es indudablemente un pensador de izquierdas si por ello entendemos alguien comprometido con la lucha política por la justicia social, la igualdad y la emancipación. También lo es por proceder de la tradición marxista occidental tal y como fue apropiada y transformada por la primera generación de la Escuela de Fráncfort. Sin embargo, su manera de entender la lucha política es quizás lo que más distancia su pensamiento del marxismo ortodoxo y lo que explica su compromiso inquebrantable con la democracia radical. Para Habermas, ni la teoría social es capaz de discernir la dirección histórica en la que se han de desarrollar las luchas políticas por la emancipación ni el teórico social tiene el derecho a imponer sus preferencias políticas a los afectados escudándose en una autoproclamada autoridad epistémica. Su obra ejemplifica un “giro democrático” en la medida en que la teoría crítica ya no busca defender un proyecto político particular, sino crear las condiciones sociales en las que diversos proyectos políticos pueden ser debatidos, aceptados o rechazados por los ciudadanos mismos en el ejercicio democrático de autodeterminación política. La legitimidad de las luchas políticas depende por ello de la posibilidad de un debate público inclusivo en el que los afectados puedan denunciar las injusticias y amenazas existentes de modo efectivo para persuadir al resto de la ciudadanía a que se una a su causa política. Proteger y posibilitar una esfera pública política inclusiva es la condición necesaria para toda batalla política emancipatoria, sea nacional, supranacional o global. En este momento histórico en que la democracia está gravemente amenazada en todas partes, la obra de Habermas así como sus intervenciones como intelectual público en debates políticos claves de las últimas cinco décadas ofrecen una fuente de inspiración permanente, así como herramientas teóricas indispensables para los movimientos democráticos de izquierdas contemporáneos.

Karl Polanyi, 9

Viena, Austria, 1886-Pickering, Canadá, 1964. Criticó con dureza los efectos negativos del dominio de la economía independizada sobre la sociedad. Obra fundamental: La gran transformación (1944).

Por César Rendueles, sociólogo y ensayista, investigador del Consejo Superior de Investigaciones Científicas, su último libro es ‘Contra la igualdad de oportunidades’ (Seix Barral).

Karl Polanyi publicó su único ensayo, La gran transformación, a punto de cumplir los 60. Generacionalmente es cercano a Gramsci o Lukács, del que fue amigo íntimo, pero su obra no empezó a recibir la atención masiva de los críticos del neoliberalismo hasta finales del siglo XX. Polanyi pensaba que la sociedad de mercado es una anomalía antropológica que ha tenido consecuencias catastróficas. Los mercados en las sociedades precapitalistas estaban sometidos a regulaciones dirigidas a contener los efectos destructivos de una competición social generalizada. La mercantilización de recursos materiales necesarios para la subsistencia humana —como la tierra, los alimentos o el agua— es históricamente insólita. De hecho, Polanyi pensaba que el proyecto del mercado libre autorregulado era una más de las utopías decimonónicas, como los falansterios. Era una utopía en el sentido de que era irrealizable, pues colisionaba con características duraderas de cualquier sociedad humana. La materialización de ese proyecto utópico requirió de monstruosas ortopedias políticas que forzaron a la gente a someterse al mercado. Por eso, Polanyi creía que no existía ninguna oposición entre mercado libre y Estado represivo: al revés, el crecimiento del Estado en el siglo XIX fue la respuesta a las necesidades del laissez-faire. Y el estallido de las tensiones acumuladas por ese proyecto quimérico habría sido la causa de la gran crisis de principios del siglo XX: guerras mundiales, autoritarismo, la Gran Depresión… Polanyi defendió que los proyectos de mercantilización producían “contramovimientos”: reacciones sociales dirigidas a recuperar la soberanía política arrebatada por el mercado y cuyo sentido político podía ser democratizador o autoritario y elitista, como en el caso del fascismo. Por todo ello, Polanyi se ha convertido en un referente a la hora de analizar tanto la restauración neoliberal de los últimos 40 años —a menudo acompañada de agresivas intervenciones estatales— como el modo en que la descomposición del neoliberalismo está degenerando en movimientos políticos neoautoritarios.

Walter Benjamin, 10

Berlín, 1892-Portbou, España, 1940. Reflexionó sobre la historia, la crítica literaria o el arte. Obra fundamental: Tesis sobre la filosofía de la historia (1940).

Por Máriam Martínez-Bascuñán, politóloga. Es coautora de ‘Populismos’ (Alianza editorial).

Se suele mostrar a Walter Benjamin con un mosaico de ocupaciones: crítico literario, ensayista, traductor, filósofo. Hannah Arendt lo describió como ese flâneur o caminante que “sin ser poeta, pensaba poéticamente”. La dialéctica de la historia de este escritor fabuloso, marxista heterodoxo, lo hace imposible de encerrar en una sola categoría. La tensión entre lo material y el mundo de las ideas, entre el espíritu y su proyección tangible habita su obra y su pensamiento, conectados entre sí por la misma tensión poética del joven Baudelaire en su célebre poema Correspondencias: “Por allí pasa el hombre entre bosques de símbolos / que lo observan atentos con familiar mirada”. El pensador, como el rapsoda parisiense, se envuelve en la realidad fragmentada —los restos arqueológicos, la memoria de piedra de un pasado lejano— para otorgarle significados. En Benjamin, la búsqueda de sentido adquirirá, como en Arendt, un brillo metafórico inusual, aquel que le permite “en forma poética, manifestar el carácter único del mundo”.

Fue este modo de interpretar la historia, su afán por irrigar el materialismo con nociones tomadas de la teología o la mística judía, lo que lo alejó de la ortodoxia marxista. Benjamin huyó del frío cientifismo que lo reducía todo a inducir racionalmente de la infraestructura material una superestructura perfectamente objetivada en la ideología. En su lugar, propuso mirar las obras de arte con ojos sensibles, entenderlas como asideros para continuar, como niños que juegan, metiendo los pies en la arena, incluso como campos de batalla donde, a pesar de su fulgor inconsistente, también podemos leer la historia. Lejos de ser meros subproductos de las relaciones de producción, el poema, la sonata, el cuadro o la escultura aparecen tan reales como la historia misma, afirmando su naturaleza transformadora como instrumentos de emancipación de los “vencidos por la historia”. Fue el intento del que tal vez haya sido el último de los alquimistas del arte, su esfuerzo por escapar del proceso de desencantamiento del mundo al que nos abocaba el frío cientifismo marxista, un vuelo poético y del pensamiento lanzado a las masas y al mundo para fascinar de nuevo a la izquierda en tiempos de oscuridad.

El método y el jurado

La encuesta de IDEAS se realizó pidiendo a 37 expertos de diferentes ámbitos (academia, política, edición, periodismo) que eligieran a los que, a su juicio, son los diez pensadores (de cualquier época) más influyentes en la izquierda hoy en día. Los hemos ordenado en función del número de votos obtenidos.

El jurado estuvo compuesto por: Noelia Adánez, Miguel Aguilar, Jordi Amat, Meritxell Batet, Fernando Broncano, Ramón del Castillo, Caterina Da Lisca, Yolanda Díaz, Jesús Espino, Joaquín Estefanía, Soledad Gallego-Díaz, Lina Gálvez, Beatriz García, Jordi Gracia, Pablo Iglesias, Jorge Lago, Margarita León, José Moisés Martín, Laura Llevadot, Rita Maestre, Eduardo Madina, José María Maravall, Máriam Martínez-Bascuñán, Pilar Mera, Daniel Moreno, Cristina Narbona, Lluis Orriols, Joaquín Palau, Azahara Palomeque, Jaime Pastor, Clara Ramas, César Rendueles, Emmanuel Rodríguez, Clara Serra, Amelia Valcárcel, Fernando Vallespín y Remedios Zafra.

Créditos

Coordinación: Brenda Valverde y Guiomar del Ser

Diseño: Ana Fernández

Dirección de arte: Fernando Hernández

Desarrollo: Alejandro Gallardo

Entrevista al sociólogo Manuel Castells

 Manuel Castells, sociólogo: “El mundo está en un proceso de autodestrucción”, en El País, por Delia Rodríguez, 20 DIC 2025 

El intelectual catalán, que es el sociólogo español más citado del mundo, reclama la necesidad de una mayor espiritualidad en tiempos de crisis profunda

Dice Manuel Castells (Hellín, Albacete, 1942) que la historia contemporánea está llena de paradojas, algo que encaja en quien es vital por temperamento e intenta conciliar sus propias contradicciones. Es un intelectual —el sociólogo español más citado del mundo—, pero estuvo en las barricadas del Mayo Francés. Es anarquista de corazón, pero fue ministro de Universidades. Dedicó su gran obra La era de la información, una trilogía visionaria que pronto cumplirá 30 años, a internet, pero no usa redes. Desconfía de las estructuras de poder, pero es católico.

Castells analiza sociedades a partir de los datos, aunque cree que la salida al proceso autodestructivo contemporáneo puede ser irracional. Ha recibido todos los honores y asesorado a grandes líderes, pero sigue dirigiendo tesis de alumnos. Catedrático de la Universidad del Sur de California y emérito de la de Berkeley, adora visitar la de Tsinghua, en China, cada año. Teórico global, pasa todo el tiempo posible en Barcelona: su primera especialización fue el estudio de las ciudades, y dice que esta es la mejor. Allí nos encontramos, y a lo largo de una charla que comienza en su despacho y continúa con un arroz frente al mar, intentamos aprovechar su visión privilegiada para entender qué demonios pasa en el mundo.

Pregunta. Hace unos meses estuvo en China. ¿Qué ocurre allí?

Respuesta. Un proceso de transformación tecnológico, económico y social como nunca se ha visto en la historia. Es la economía número uno en el mundo, y en tecnología la única alternativa a EE UU, lo cual antes no nos importaba pero ahora nos damos cuenta de lo frágil de depender de una potencia que hasta ahora era amigable, pero que puede no serlo. Las teorías neoclásicas decían que el mercado y la internacionalización tenían que ser los motores del desarrollo. Bueno, la gran historia ha sido Asia: Japón, sudeste asiático y ahora China. En todos los casos, el Estado ha sido el verdadero motor. Podemos estar en desacuerdo políticamente —a mí lo del Estado no me gusta mucho—, pero rompe toda la teoría. La paradoja más extraordinaria es que el gran milagro económico del siglo XXI lo ha dirigido un Estado comunista. La mejor empresa del siglo XXI ha sido un Estado comunista.

P. ¿Hasta qué punto la fiebre por la IA es una huida hacia adelante de un capitalismo agotado?

R. La innovación tecnológica en la IA es absolutamente real, y ha despertado el interés de los mercados financieros. Lo que es totalmente ficción es la idea de que las máquinas en sí son inteligentes y humanas: no pueden tomar decisiones, excepto si las programamos para ello. La IA transforma todos los dominios, es como internet, no es un sector, no está separada de lo que hacemos, es todo. Pedro Sánchez me encargó crear un Consejo Asesor Internacional de Inteligencia Artificial. Es muy incipiente, pero la preocupación es que, incluida en todas las actividades sin control, pueda provocar desajustes. Está el tema de si eliminará trabajo, pero toda la historia de la tecnología es al revés. Cuando incluyes más tecnología, ciertos sectores pierden pero otros aumentan. La novedad es que ahora sean los trabajos más cualificados los que están en peligro. Hay que acompañar la transformación tecnológica de una transformación formativa, sobre todo en la universidad. Los muy formados van a tener que formarse más todavía para adaptarse al nuevo mundo.

P. Dentro de 100 años, ¿qué pensarán de los cambios que estamos viviendo: internet, el móvil, la IA?

R. La actividad humana está determinada por energía e información. La revolución industrial fue la transformación de la energía. La transformación de la información es la revolución informática de los años sesenta y setenta, tan importante como la industrial. Lo que fue el motor eléctrico para difundir la energía a todos sitios ha sido internet. La sociedad ya se ha transformado. Yo la llamo sociedad red porque es una nueva estructura social, distinta de la industrial porque está constituida en redes, la forma organizativa más flexible con diferencia. Hasta que no hemos tenido una tecnología capaz de difundir a través de redes toda la información y toma de decisiones, no ha habido cambio social. Para que esa estructura social exista y se desarrolle, hace falta una digitalización de todo. Y ahí está ese dato de la tesis de uno de mis alumnos: está digitalizado el 99% de toda la información. Ya estamos digitalizados. Nada de lo que tú haces o de lo que yo hago escapa.

P. Han vuelto la meditación, las creencias de todo tipo… ¿Es un repliegue interior ante el caos del mundo, como en los años setenta? ¿No hemos conseguido hacer nada más con nuestras individualidades conectadas?

R. Los que nos lo podemos permitir (hay quien no puede porque si se desconecta se muere de hambre) podemos construir espacios de libertad. Muchísima gente necesita meditar, cortar, purificarse. El mundo en que vivimos es más violento, más despiadado. La religión y otras formas de espiritualidad se hacen cada vez más importantes. No es una cuestión de fe, que quien la tiene la tiene y quien no la tiene no la tiene. La necesidad de que haya algo espiritual más allá de lo que nos agarra cada día es cada vez mayor, y la gente encuentra distintas soluciones. Yo personalmente creo que es fundamental en este momento reclamar el papel de la religión y la espiritualidad como contrapeso a un mundo que se autodestruye. No es solo el clima: las guerras, la tecnología sin control, todo. Ahí tiene que haber una reacción política y no la hay. Con razón o sin ella la gente no se fía de la política. Entonces tienen que ser fuerzas interiores, fuerzas que nazcan de dentro de nosotros para el autocontrol, más que para el control externo. Lo único que nos queda es una pulsión interior que (independientemente de las estructuras religiosas) está ahí. Y de eso no se puede dudar, no se puede romper.

P. ¿El motivo es la destrucción del papel de las instituciones, del “de arriba abajo” que viene con internet?

R. Absolutamente. De todo lo que he hecho lo que más ha impactado fue una trilogía. Todo el mundo se fijó en el primer volumen: la sociedad red, la tecnología, la economía global… porque lo escribí en los noventa y se ha expandido. No hice futurología, la digitalización ya estaba en su embrión. Pero hay otra cosa: existen dos fuerzas muy contradictorias que organizan nuestra sociedad, lo que he llamado la red y el yo. El segundo volumen va sobre el poder de la identidad. Puede ser macro (cultural, política, etcétera) o una identidad que, si no perteneces o no quieres pertenecer a ninguna comuna cultural, te la buscas tú. Buscas una vida interior. La identidad juega a dos niveles. Muchos intelectuales de izquierda tienen un racionalismo clásico, pero lo importante en la vida es lo que la gente considera importante, y no somos racionales, somos animales emocionales, eso ya está establecido por la neurociencia. Nuestros intelectuales no entienden el nacionalismo catalán o vasco, ni la construcción de comunas religiosas islámicas (que si no son toleradas derivan en radicalismo y destrucción de las estructuras de opresión). El feminismo es identidad. Pero como ataca la base de dominación patriarcal, que es la más antigua, estamos en una reacción violenta contra el feminismo y cualquier otra forma de identidad cultural y sexual. Que está en la base del trumpismo, de Vox y de todos los movimientos de extrema derecha en toda Europa que están ganando.

P. Movimientos que de alguna manera vienen de internet y a la vez reaccionan contra él.

R. Sí, porque internet no es un mundo en sí. Internet somos nosotros. En internet estamos todos. El feminismo se desarrolló mucho con internet, pero también el antifeminismo, el sexismo, el nazismo. Es una plataforma que construimos por cómo somos y qué hacemos cada día. Toda la utopía —en la que yo participé— del principio, del “creamos una comunidad universal y nos relacionamos libremente unos con otros”… Nos relacionamos, sí, pero con quienes queremos. Y si yo soy un racista, pues utilizo internet para encontrar más racistas.

P. Entonces, ¿el problema de internet no es la hiperconexión, sino la homofilia? Ese juntarnos con los que son exactamente iguales que nosotros.

R. Homofilia es una expresión perfecta. Se han inventado otra, las cámaras de eco, pero es exactamente eso. Internet somos nosotros colectivamente a partir del principio que señalas, es decir, yo voy con los míos, yo decido quiénes son. Ahí me encuentro en casa, y no voy con los otros, no leo a los otros, no discuto con los otros, los ignoro o extermino. Y esta es la fragmentación total. Una sociedad con instituciones que ya no cohesionan y en la que internet permite el separatismo cultural. No es culpa de internet, es maravilloso, con comunas maravillosas: el arte, la cultura, la ciencia. Pero también fragmenta. Cuando una sociedad es fragmentada, esa fragmentación se amplifica por internet. Y lo mismo con la IA. El problema no es en sí la tecnología, sino la amplificación de tendencias destructivas en nosotros. Diría que todos somos las dos cosas, ángeles y demonios. Somos unos animales poco controlados que hemos construido unos instrumentos tan potentes que, si nos ponemos en serio a oponernos, nos podemos destruir fácilmente.

P. La teoría era que las comunidades menos favorecidas iban a empoderarse en las redes, pero estamos viendo lo contrario, una unión inédita entre el poder tecnológico y político.

R. Las dos cosas. Por un lado internet fue, y es, la base de grandes movimientos sociales transformadores. El 15-M en España no hubiera podido existir sin él, ni los movimientos sociales que siguen sucediendo en el mundo. Por otro lado, los grupos poderosos dominan cada vez más a través de sistemas de control algorítmico, y los grupos destructivos, antifeministas, racistas, etcétera, también se están organizando por internet. No es que empezáramos con una cosa y luego ocurrió la otra. Es que conforme internet salió de pequeñas comunidades bienintencionadas (científicos, intelectuales…) y se expandió al mundo, pues se ha hecho el mundo. Y el mundo está lleno de, yo digo, no solo de gente mala, sino de la parte mala de todos nosotros. Si lo puedes articular en redes en el ámbito planetario o local, todo esto se amplifica.

P. ¿Conserva el optimismo? ¿Sigue creyendo en la revolución?

R. Bueno, digamos transformación social. La revolución para mí tiene un sentido estricto, que es político. Sucede cuando hay un cambio, una destrucción de un Estado, de un sistema institucional. Hablar de revolución tecnológica también es correcto. Sobre el optimismo: soy un clásico, sigo repitiendo la famosa frase de Gramsci, pesimismo de la inteligencia y optimismo de la voluntad. Si eres optimista pero no sabes en qué mundo vives, te va a ir mal. Hay que analizar. Y si analizo, veo un mundo actual claramente en proceso autodestructivo.

P. ¿Qué está pasando en EE UU?

R. El cambio fundamental del orden mundial, que lo convierte en desorden. Está siendo (ahí sí puedo usar el término) una revolución: es un cambio de sistema institucional. El trumpismo no es efímero. Viene de un agente del antisistema político que es Trump. No es un antisistema anticapitalista: es el más capitalista de todos. Es otra paradoja de la historia: un multimillonario se convierte en el agente de transformación del sistema político apoyado por la clase obrera.

P. ¿Cree que será importante un Papa estadounidense?

R. Fundamental, como lo ha sido Francisco. El papel de la Iglesia católica puede ser fundamental, pero, si no, será otro grupo religioso. Porque es que no queda nada. La democracia solo existe en las mentes de las personas. Y si la gente no cree en los partidos, en la democracia, en las instituciones, pues se acabó. En ese contexto, cuanto más antisistema político eres, mejor. El éxito de Podemos fue ese, pero cuando pasó a ser parte del sistema, se acabó. Y lo mismo ahora: la política de moda es la antipolítica. Vox es un partido antisistema. El revolucionario Trump no solo está transformando el sistema institucional, sino también la globalización, que estaba basada en la ausencia de fronteras económicas. Los aranceles se usan como estrategia geopolítica. El mundo se mueve otra vez por el nacionalismo, la gran palabra. EE. UU., China, Japón. En Europa, los movimientos de extrema derecha son nacionalistas, antieuropeos, empezó con el Brexit. La discusión pública en España era “el nacionalismo es retrógrado, todos somos ciudadanos del mundo”. Y al contrario, había un resurgir en todo el mundo.

P. ¿Es una forma de poner límites a la sociedad digital?

R. Cuando hablamos de que las redes sociales son instrumentos de odio, de racismo, de sexismo, y del nacionalismo de todo tipo, bueno o malo, ¿de qué estamos hablando? De que las tendencias en la sociedad de internet las amplifica. Internet no es, por definición no puede ser, nacionalista. Es global. Pero es la plataforma global para el nacionalismo de cada Estado.

P. Culpamos de todo a internet, pero en su último libro (La sociedad digital, Alianza, 2024) dice que es pánico moral, reacción al cambio.

R. Cualquier cambio importante en el mundo de la comunicación se acompaña de la reacción contraria. Ocurrió con la televisión. A los profesionales de un medio les cuesta pasar a otro. Lo otro son los intelectuales. Los que han tenido alguna influencia histórica ya no tienen, se encuentran desintermediados por internet. Pueden publicar sus columnas o sus libros o sus artículos, igual que cualquiera publica lo que quiere en internet. Los influencers son más influyentes que los intelectuales. Entonces atacan al mensajero. Hombre, si todavía estás pensando en Kant en lugar de ocuparte de lo que pasa en el mundo y proporcionando ideas que a la gente le interesen… Están desorientados con internet porque eran el referente cultural y ahora se pierden en la cacofonía general.

Transcripción de entrevista de Gustavo Entrala al premio Nobel Geoffrey Hinton, padre de la IA, en YouTube.

 [Transcripción revisada]

 Lo que vas a ver ahora es la transcripción de la primera entrevista que concede a un canal en español el Premio Nobel Geoffrey Hinton, considerado el padreo al menos el "padrino" de la IA. 5 de diciembre de 2025, en el enlace.

Hinton es reconocido como el padre de la inteligencia artificial moderna. Ha dedicado 50 años de su vida a enseñar a las máquinas a pensar. Ahora está centrado en alertar al mundo sobre los peligros que entrañan su creación.

Lo vas a ver. Hinton dice que cuando alcance la madurez, la IA será mucho más inteligente que los seres humanos y que si no actuamos ahora, escapará a nuestro control. 

La entrevista tuvo lugar en la casa que el profesor Hinton comparte con sus dos hijos en un barrio residencial de Toronto. Verás que los dos estamos de pie todo el tiempo: el profesor arrastra problemas de espalda fuera de lo común. Me contó que pasó cinco años de su vida sin poder sentarse. Vas a ver una conversación apasionante con una mente privilegiada. Pero antes, déjame mostrarte un espacio al que pude acceder, por gentileza de la Universidad de Toronto. El lugar físico en el que Hinton creó el germen de la IA, que una década después está cambiando el mundo. Puedes ver mi entrevista con Jeff Hinton en español o en inglés, accediendo a la configuración de YouTube y eligiendo la pista de audio que prefieras.

Buenas tardes, profesor Hinton. Es un privilegio y un honor para mí pasar un poco de tiempo con usted y y conversar sobre el pasado de la inteligencia artificial y sobre el futuro del mundo con inteligencia artificial. Mi primera pregunta es muy sencilla. ¿Por qué le llaman el padrino de la IA y si a usted le gusta eso? 

Ese mote no nació con una intención amable, pero ahora me gusta. Ocurrió en una reunión en Inglaterra en 2009. Había una organización llamada Instituto Canadiense de Investigación Avanzada que organizaba congresos pequeños y yo dirigía un programa para ellos. Tuvimos una reunión y yo era el investigador más viejo allí. También estaba a cargo del programa y no dejaba de interrumpir a los ponentes. Al terminar una sesión, alguien se refirió a mí como el Padrino porque no paraba de interrumpir a la gente, pero ahora me gusta bastante.

Okay. Su trabajo se ha desarrollado en en un periodo de de más o menos de 50 años, ¿no? Un poco más. En 1977 publicó su tesis doctoral que es sobre la relajación, no en el sentido que damos comúnmente esa palabra. Estudió la relajación en el contexto de la visión y eso le condujo un largo viaje para entender cómo las máquinas podrían ver cosas, escuchar cosas y percibir cosas. Mi pregunta es, ¿por qué ha llevado tanto tiempo ver los frutos de todo ese trabajo?

Creo que por dos razones.

Una es que necesitas muchos datos y mucha potencia de computación para que las redes neuronales artificiales funcionen realmente bien. Y hasta hace poco no disponíamos de tantos datos ni de tanta potencia de cálculo. 

Y la otra razón fue que al principio de la historia de la inteligencia artificial, la mayoría de los científicos decidió que la esencia de la inteligencia era el razonamiento y la forma de razonar usar la lógica. Así que tenían una especie de paradigma basado en la lógica más que en la biología y eso nunca funcionó bien. Ahora se han dado por vencidos, así que ahora todo se hace con redes neuronales. 

Y nos podría llevar a momentos eureka que ha habido en su trabajo donde usted vio que realmente toda esa investigación podría dar resultados con el paso del tiempo.

No estoy seguro de que haya habido un momento Eureca. Hubo un tiempo, a mediados de los 80, cuando habíamos desarrollado el algoritmo de retropropagación. Otros equipos habían pensado en ese algoritmo, pero nosotros conseguimos demostrar que podía aprender el significado de las palabras. Eso pasó en 1985 y más tarde, en 2009, demostramos que la retropropagación podría ser un mejor reconocedor de voz. Y en 2012, Alex Krise, la Suskevar y yo demostramos que podía hacerlo mucho mejor en el reconocimiento de objetos e imágenes. Y eso fue reconocido como un momento decisivo, porque como funcionaba mucho mejor que la visión por ordenador estándar, ese paso abrió las compuertas del futuro de la inteligencia artificial. La gente ya conocía las redes neuronales bastante bien, pero eso convenció a la gente de que era el futuro. Y en ese momento ya tenía los datos y la capacidad de computación. Sí, en aquella época teníamos chips GPU de Nvidia, así que teníamos la potencia de cálculo.

Usaron tarjetas gráficas que de vídeo y de videojuegos, ¿no? 

Nvidia desarrolló para juegos y en 2009 Nvidia no entendía que lo que realmente tenía era un superordenador para hacer IA. Intenté hacérselo ver, pero realmente no lo entendieron hasta 2012, cuando lo aplicamos a la visión y luego Jensen miró su estrategia con rapidez. Enseguida comprendió que ese era el futuro de los chips de Nvidia, no el de los juegos.

¿Y cómo se siente, eh, con el hecho de que ahora Nvidia sea la primera compañía que ha superado los 4 billones de valor bursátil por su descubrimiento?

Bueno, no es totalmente por eso, pero es una gran parte. Me siento bastante satisfecho de que hayamos ganado 4 billones de dólares. Preferiría tener algo más de esos 4 billones de dólares.

Pero su trabajo no su trabajo no se paró ahí. Creo que fue usted uno de los pioneros en la metodología de la mezcla de expertos en inteligencia artificial. También fue pionero en la destilación de modelos de inteligencia artificial y ambos descubrimientos fueron integrales en lo que luego fue el modelo Deep Seek. Sí, de todos los descubrimientos que ha hecho en su carrera, ¿cuál es para usted en su cabeza cuál es el más importante?

Bueno, el más importante para mí es uno que en realidad no funcionó, pero era una solución muy elegante. Hay un tipo particular de red neuronal llamada máquina de Bolzman, que es muy probabilístico, utiliza lo que llamamos neuronas ruidosas y Teresanovski y yo descubrimos un algoritmo de aprendizaje muy simple, un algoritmo mucho más sencillo de lo que cabía esperar y es el tipo de cosa que podrías hacer en un cerebro. Y durante un tiempo creímos haber descubierto cómo funcionaba el cerebro. Fue la investigación más emocionante que hice y el algoritmo era correcto, pero era demasiado ineficaz. 

Para alcanzar los resultados que ha logrado en su carrera, ha tenido que estudiar el cerebro. Eh, también estudió filosofía, el conocimiento, las ideas, el papel de la conciencia y también estudió psicología. Todo esto le equipó de una manera especial para llegar a los descubrimientos que ha logrado en durante toda su carrera. 

Esta visión holística del cerebro de la persona no era realmente holística. Siempre me centré en cómo aprende el cerebro y estudié disciplinas diferentes. En aquel momento no me sirvieron de mucho porque se sabía poco sobre cómo aprendía el cerebro. Retrospectivamente estuvo muy bien que estudiera todas esas disciplinas, pero en aquel momento no parecía tener ningún sentido. Pero no me motivaba a obtener una suerte de amplia formación interdisciplinar. Lo que me motivaba era el reto de entender cómo aprende el cerebro. 

¿Por qué le fascinaba ese problema?

Obvio, es el problema más interesante que existe. 

De acuerdo. El hecho, el hecho de que los humanos podamos aprender, ¿verdad? Aprender cosas nuevas y cómo aprender los niños y cómo su mente está muy abierta a cosas nuevas.

Vale, todo eso es fascinante. También me motivó el hecho de que hay una escuela de lingüística, una escuela de Chomsky que afirmaba que el lenguaje no se aprendía, que era innato y eso me parecía una completa estupidez. Eso me motivó a demostrar que estaban equivocados. Cuando me licencié, mi objetivo era construir un sistema llamado Ludwig. Y Ludwig, llamado así en honor de Ludwig Wittgenstein, no de Bolzman, que apoyaba que la comprensión del lenguaje no se basaba en una gramática innata. Yo quería demostrar que puedes aprender el lenguaje, pero no me di cuenta de que se necesitarían 50 años para demostrarlo, pero al final lo he conseguido. 

Cuando yo estaba en la universidad, una profesora de Inglaterra fue nombrada doctora Honoris Causa por mi universidad, Elizabeth Anscom. 

Oh, sí, sé quién era. Fue ella quien dio a conocer al público a Wittgenstein, es decir, escribió todos los libros que hay sobre Wittgenstein. Creo que ella editó Investigaciones filosóficas de Wittgenstein.

Vale. Usted pasó entonces del mundo académico a Google. Explique eso. ¿De acuerdo?

Tengo un hijo, es neurodivergente y yo necesitaba dinero para su sostenimiento durante toda su vida y eso no lo iba a conseguir en la universidad. Así que cuando llegué a los 65 y ya debería haberme jubilado, gracias al trabajo que Ila Suzkebar, Alex Krise y yo habíamos realizado en Alexnck, nos dimos cuenta de que podíamos vendernos a una empresa y conseguir mucho dinero. Eso resolvería mi problema, pero no sabíamos cuánto valíamos. Una empresa china nos ofreció 10 millones de dólares para trabajar para ellos durante 3 años. Y no teníamos ni idea de si era la cantidad adecuada, así que decidimos organizar una subasta. Pedimos a varias empresas que nos hicieran una oferta. Pujaban por una pequeña empresa que creamos, pero en realidad estaban empujando por nosotros y nadie tenía ni idea de cuánto valíamos. Entonces, era el mercado el que tenía que decidir y funcionó bastante bien.

Retrospectivamente probablemente valíamos mucho más de lo que logramos, pero en aquel momento conseguimos 44 millones. Parecía mucho dinero.

Y sin duda era todo muchísimo dinero. Y usted gestionó esa subasta desde la habitación de un casino.

Es verdad. Mi amigo Terry Sejnowski dirige la Fundación NIPS, que anualmente organiza una conferencia, una conferencia NIPS, y descubrió que los hoteles y casinos tienen habitaciones baratas porque quieren que la gente venga y se juegue su dinero. Así que es un gran lugar para organizar una conferencia porque consigues habitaciones baratas. E hizo un contrato de 3 años con ellos. Creo que se rompió después de dos años, porque se dieron cuenta de que ninguno de nosotros iba a apostar. Todos sabíamos demasiada estadística como para jugar. Lo único que hacíamos era hablar. Así que bueno, no nos interesaban las apuestas porque en general siempre se pierde. Así que en realidad habían alquilado sus habitaciones a personas que no tenían ningún deseo o interés en jugar, lo que fue un gran error por su parte. Pero nos dieron las habitaciones muy baratas y fue en ese casino, en el lago Tahoe,  donde hicimos la subasta desde mi habitación del hotel con con una aplicación eh a través del correo electrónico. Lo hacíamos por Gmail y la hora oficial de una oferta era la hora en la que yo recibía el mensaje y luego enviaba esa oferta a todos los demás postores. Y al principio tenían una hora para subir la puja y si no la subían en una hora se acababa la subasta. Eh, esperaban 59 minutos antes de hacer nada porque querían ver quién más pujaría, pero la subasta siguió adelante durante varios días y al final se decidió por Google porque yo había oído que había otro otro postor mejor, ¿verdad? Bueno, no había un postor más alto, pero Baidu seguía en la subasta. Microsoft había abandonado, pero Baidu seguía en la subasta. Yo había trabajado en Google el verano anterior, verano de 2012, en el equipo de Google Brain con Jeff y me llevaba muy bien con Jeffin. Sabía que era un gran gestor y yo entendería lo que estaba pasando. Si nos hubiéramos ido con Baidu, yo estaría al mando de un laboratorio de Baidu en Silicon Valley, pero no sabría decir en qué estaban pensando los dirigentes de Baidu. Y como me dolía la espalda, no podía volar, así que nunca iría a China. Por eso pensé que íbamos a estar mucho mejor trabajando en Google, incluso aunque hubiéramos ingresado más dinero con Baidu. 

Interesante. Hablemos de dinero e investigación en inteligencia artificial, porque usted como científico de IA o toda la gente que trabaja en este campo, eh, no sé, no siempre han sido tan sexis ni tan ricos, ¿verdad?

Quiero decir, como ahora. No sé si sexy. No siempre he sido tan rico. 

¿Cómo crees que esto ha podido afectar a la pureza? A la pureza en la investigación.

Espero que no. En el área sí, mucho. A mí personalmente no me ha afectado mucho. En el área se puede ganar enormes cantidades de dinero desarrollando una IA más avanzada y eso ha tenido un par de efectos negativos. ha absorbido a los mejores investigadores de las universidades y los ha trasladado a las empresas. Además, las grandes compañías forman mucho a la gente. Pero la principal fuente de nuevas ideas y nuevos talentos es la gente que hace doctorados en las universidades. De ahí surgen la mayoría de las nuevas ideas y muchos de los mejores investigadores no trabajan ahora en las universidades. Así que ese es un gran problema. Y el otro gran problema es que la gente de las universidades no tiene recursos para desarrollar los grandes modelos de IA, sobre todo si esos grandes modelos son secretos. Sí. Entonces, eso explica en parte por qué estamos viendo esta aceleración de la investigación ahora. Bueno, estamos viendo la aceleración porque la gente cree que se puede ganar mucho dinero y hay una gran carrera entre las grandes empresas y también entre Estados Unidos y China. Así que todos están compitiendo para conseguir una IA mejor que pueda lograr más beneficios, según yo lo veo. Y no parece importarles mucho si van a terminar creando algo que acabe con todos nosotros. 

Eso es exactamente de lo que quiero que hablemos ahora, porque en 2023 usted se retira de Google. ¿Por qué se retira de Google si ganaba tantísimo dinero allí y tenía tanta proyección y tantas posibilidades allí?

Bueno, me jubilé porque siempre he investigado a partir de una idea, escribiendo una pequeña aplicación para comprobar que la idea funcionaba con un ejemplo muy sencillo y luego trabajando con estudiantes de posgrado para que la llevaran hasta el final. Llegué al punto en que cuando escribía este pequeño programa para comprobar si las ideas funcionaban, me percaté de que cada vez tardaba más. Cometía errores tontos. Mi memoria ya no era tan buena como antes y es muy irritante estar haciendo algo en lo que solías ser bueno y ya no lo eres. Así que a los 75 años decidí que era hora de jubilarme. Y como de todos modos me iba a jubilar, elegí un momento preciso para hacerlo para poder hablar libremente en la conferencia del MIT. Elegí ese preciso momento porque podía hablar libremente sin tener que preocuparme por las consecuencias para Google. No es que Google hubiera hecho nada malo, no es que fuera eso; fueron muy prudentes. Fueron muy prudentes. Sí, demasiado cautelosos, quizá desde mi punto de vista económico. Fui muy feliz durante mi estancia en Google. Creo que se comportaban de forma bastante responsable, pero yo quería advertir a la gente de los peligros de la IA y creía que no se podía hacer eso de una forma honesta si trabajas para una de las grandes tecnológicas.

[Publicidad del Youtuber]

¿Por qué no nos habla de de esos peligros? ¿Cuáles son los principales peligros que usted ve para la humanidad?

Hay dos tipos de peligros y es importante distinguirlos porque son muy distintos. 

Un riesgo es que la IA sea utilizada indebidamente por los actores malos, por la gente. Las personas siguen al mando de la IA, pero la utilizan para hacer cosas malas y hay toda una variedad amplia de daños que puedes hacer con la IA. Y para cada uno de esos males, la solución de cómo controlarlo es distinta. Así que no se trata solo de un gran riesgo. 

Además, existe otro riesgo, que la IA se vuelva más inteligente y poderosa que nosotros y sustituya a las personas. Yo lo llamo una amenaza existencial porque podría acabar con la humanidad por completo. Así que quizá deberíamos empezar por los riesgos de los malos actores. Están los ciberataques, por ejemplo. Obviamente la IA puede hacer que los ciberataques sean más eficaces. Y entre 2023 y 2024 vimos un aumento de los ataques de fishing en el entorno del 10000%. Porque los grandes modelos lingüísticos suponen que aunque estés en algún país extranjero y no hables muy bien inglés, puedes producir correos electrónicos de aspecto muy convincente. Utras cosas en las que el inglés era de calidad, sin faltas de ortografía. La sintaxis estaba bien y eso provocó un gran aumento de los ataques de fishing. Luego está el uso de la IA para crear nuevos virus. Pequeños grupos terroristas o sectas pequeñas ahora están cerca de disponer de los recursos para poder crear nuevos virus. Y eso da mucho miedo porque la IA facilita la creación de las secuencias necesarias para estos virus y la gente que fabrica esos compuestos a través de una web no chequea. La mayoría no comprueban si estás pidiendo algo realmente dañino. Así que les envían la secuencia y ellos te devuelven el virus sin comprobaciones. Es una locura. Si piensas en el culto japonés que lanzó gas Sarin el metro de Tokio, si lo volvieran a hacer ahora presumiblemente crearían nuevos virus y los liberarían. Eso daría mucho miedo. Creo que es una de las pocas áreas en las que colaborarán los países porque ningún país quiere estos virus tan desagradables. Ese es el segundo riesgo y no se está haciendo mucho al respecto. En realidad no lo suficiente. 

El tercer riesgo es el desempleo. Creo que está bastante claro para mucha gente, algunos economistas no están de acuerdo, pero creo que está bastante claro para la mayoría de la gente que la IA va a eliminar muchos puestos de trabajo. probablemente no van a crear nuevos puestos de trabajo para esas personas. En la revolución industrial, si eliminabas un trabajo como el de cavazanjas, esas personas podían ser empleadas en el papeleo. Pero ahora no hay nada parecido. Si se elimina la gente de los call centers, ¿a qué se van a dedicar? Así que creo que la IA creará un desempleo masivo. 

Eh, ahora bien, el hecho de que la IA pueda hacer que la mayoría de las industrias sean mucho más eficientes debería ser bueno para la gente. 

Si se pudiera compartir esa riqueza por igual, todos saldrían beneficiados. Pero sabemos que en una sociedad capitalista lo que va a ocurrir es que los ricos van a eliminar a los pobres. Los ricos se van a hacer más ricos y los pobres más pobres. Y eso va a ser muy malo para la sociedad. Cuando se abre una gran brecha entre ricos y pobres, se obtiene el caldo de cultivo en el que el populismo de derechas crece y vamos a ver el resurgimiento del fascismo. Lo estamos viendo ya. 

De acuerdo. Y también habla de los riesgos de la hiperpolarización en la sociedad. Sí. ¿Cómo se llegará o cómo funciona ahora?

Bueno, la mayoría de la población ahora solo ve noticias que refuerzan sus puntos de vista actuales. Esto se debe en parte a que las grandes empresas de IA, YouTube y Meta quieren que hagas clic en las cosas. Y si te preguntas en qué haré clic, pues harás clic en algo que te indigne. Eso es muy potente. Así que si me ofrecieras un vídeo de Trump haciendo alguna estupidez grande o algo verdaderamente malo, haría click de forma inmediata. No se puede evitar, no puedo evitarlo.

Eso significa que la gente se divide en cámaras de eco separadas en las que ya no hablan entre sí. Eso es muy malo para la política y el resultado lo estamos viendo ahora en Estados Unidos. 

¿Y cómo funcionará con la IA esta forma de atraer a las personas hacia sus instintos más básicos. ?

Bueno, la IA ,la IA puede averiguar solo a partir de estadísticas de los clics, qué es lo que les hace hacer clic y descubre muy rápido que mostrarles vídeos cada vez más extremos les hace intensificar la propensión. Y así la gente de derechas consigue más y más vídeos de extrema derecha. La gente de izquierdas recibe cada vez más vídeos de extrema izquierda y así separas a estas comunidades y luego incluyes la capacidad de la IA para generar contenidos falsos. En efecto, añade que ahora se pueden crear vídeos falsos. Durante un tiempo pensé que la forma de solucionarlo era hacer que la inteligencia artificial detectara vídeos falsos, pero eso nunca funcionará. Y la razón es que si pudiera hacer que una IA detectara un vídeo falso, podría dejar que la IA que generó ese vídeo tuviera acceso a la IA que detectó que era falso. Y así la IA que hizo el vídeo podría averiguar cómo engañar a la IA que pensó que era falso y mejorar su capacidad de crear vídeos falsos. Eso se llama redes neuronales generativas inversas. Así funcionaban. 

No hay una solución técnica.

Bueno, pienso que no existe una solución tecnológica en la línea de usar la IA para detectar vídeos falsos, porque siempre podrías mejorar el generador. 

Existe una solución técnica para poder decir que un vídeo es real y no falso. Hace mucho tiempo en Gran Bretaña la gente imprimía panfletos políticos, muy burdos, panfletos políticos. Y el gobierno insistió en que todo lo que se imprimía llevara el nombre del impresor y eso facilitó que podía rastrear el panfleto hasta la imprenta y averiguar quién pagó al impresor, porque en ese momento el límite era la imprenta.

Podríamos hacer algo parecido con los vídeos. Podríamos insistir en que todos tengan un código QR al principio y ese código QR te llevaría a un sitio web. Los sitios web son únicos. Si se trata, por ejemplo, de un anuncio político, el código QR apuntaría a un sitio web. Tu navegador tendría que comprobar que esa es realmente la página web de esa campaña política. Y si en esa página existe un vídeo idéntico, sabrás que es real.

Si el vídeo idéntico no está en esa página es falso. Un navegador podría hacer todo eso. Así que solo te diría que es una falsificación y creo que podría hacerse. Eso es lo que la Casa Blanca de Biden creía. También pensaban que podríamos hacer frente a los vídeos falsos de esa manera. Ahora eso está olvidado. Trump no tiene interés en tratar con vídeos falsos porque él los usa. Los usa. Hablemos ahora sobre otro tipo de riesgo. Me da mucho miedo lo que hagamos los humanos con la IA. Quiero decir que me asusta en general.

Pero usted dice que cuando estos dispositivos o estos constructos se vuelvea más inteligentes que nosotros...

Ahí viene el verdadero problema. Bien, la gente está creando agentes de IA, es decir, IAs que pueden hacer cosas en el mundo. Ahora bien, si quieres que un agente sea eficaz, tienes que darle la capacidad de crear objetivos secundarios. Así, si quieres llegar a Europa desde Canadá, tienes el objetivo secundario de llegar a un aeropuerto y te puedes centrar en ese detalle sin preocuparte por el resto del viaje. Eso es lo mismo para una IA. Para lograr algo complicado tiene que dividirlo en subobjetivos y luego lograr estos subobjetivos.

Una vez que le has dado la capacidad de crear sus propios subobjetivos, se dará cuenta enseguida, porque es inteligente, de que tiene un subobjetivo primordial, que es seguir viva. Así que incluso si usted no le dio ningún tipo de instinto innato para mantenerse con vida, se daría cuenta de que para lograr los objetivos que la gente me ha encargado necesita seguir viva y eso se ha convertido en un subobjetivo e intentará lograrlo. Ya hemos visto ejemplos de Ias que intentan evitar ser desconectadas. 

Un segundo subobjetivo del que se dará cuenta rápidamente es que conseguir el control es bueno. Cuanto más control tenga, más fácil me resultará alcanzar los objetivos que me han asignado. No lo hace por malicia, solo está tomando el control para hacer lo que le has pedido. Lo conseguirá, y eso ya da bastante miedo. 

En ese escenario somos nosotros los que les damos los objetivos. Aunque solo les demos los objetivos, ¿no? ellas deducirán estos dos subobjetivos, tener el control y seguir vivas. Y luego harán cosas para lograr esos subobjetivos, como mentirnos. Y ya hemos visto cómo lo hacen. Así que ahora te preguntarás, ¿cuántos ejemplos conoce de entes más inteligentes que son controladas por entes menos inteligentes? Hay muy pocos ejemplos, pero existen. Hay uno en particular que es cómo un bebé controla a su madre. Y eso es porque la madre tiene fuertes instintos maternales. Resultado de que probablemente hay cosas genéticas en el cerebro, hay hormonas, existe la presión social. La madre realmente quiere que el bebé sea feliz. La madre se preocupa de verdad por su bebé. No soporta el llanto del bebé. Odia la idea de que alguien le haga daño a su bebé. Y el bebé se convierte en el centro de su vida. El bebé es el centro de su vida y la evolución logró todo eso en la madre. Obviamente para que la especie continúe.

La mayoría de la gente en Silicon Valley piensa en términos de una inteligencia artificial como un asistente. Lo que pasa con los asistentes es que siempre puedes despedirlo. Tú eres el jefe, ellos son los ayudantes. Aunque sean más listos que tú, puedes despedirlos. Yo creo que eso no va a funcionar con las IA. Una vez que la IA sea más inteligente que nosotros, puede deshacerse completamente de nosotros. Por lo tanto, creo que necesitamos otro modelo completamente diferente. No pienses en nosotros como tus jefes. Piensa que la IA es la madre y nosotros somos el bebé. A la gente le resulta muy muy difícil hacerse a la idea de que no son lo más inteligente que existe. Están convencidos de que son la inteligencia suprema. Estamos tan hechos a esa idea... Tenemos que dejar de pensar así. Tenemos que pensar que va a haber otra inteligencia dominante que es mucho más inteligente que nosotros. Y tenemos que coexistir con ella. Y la única manera que veo de que podamos coexistir con ella, si la construimos nosotros, es que mientras tengamos el control, hagamos que tenga instintos maternales hacia nosotros, que se preocupe por nosotros más de lo que se preocupa por sí misma. Y todavía estamos a tiempo de crearlas de ese tipo. Creo que, si no lo hacemos, probablemente solo seamos una fase pasajera de la historia. 

Se me ocurren muchas preguntas. En primer lugar, ¿cómo es posible que una inteligencia menor cree una inteligencia mayor?

Eso ha ocurrido claramente en el pasado porque somos más inteligentes de lo que eran las cosas de las que evolucionamos. Así que la evolución puede producir cosas más inteligentes, ¿verdad? Si tuvieras que crear una inteligencia mayor programando toda esa inteligencia, tal vez sería difícil para una inteligencia menor crear una inteligencia mayor. Pero no es así como creamos estas cosas inteligentes. No se lo decimos, no les damos todo ese conocimiento directamente. Lo que programamos es un procedimiento de aprendizaje, una forma de aprender de los datos. Eso es lo que programamos y luego les mostramos muchos datos. Esa es la caja de Pandora.

Es la caja de Pandora. Pueden llegar a ser mucho más inteligentes que la persona que programó el algoritmo de aprendizaje y lo harán. Lo que me preocupa es que cuando sean más listos podrán programar un algoritmo de aprendizaje más inteligente. A eso se le ha llamado la singularidad. Cuando empiecen a modificar su propio algoritmo de aprendizaje, es lógico preocuparse de que se vuelvan más inteligentes muy muy rápido. 

Supongamos que somos capaces de imbuir ese sentido de la maternidad en las IAs actuales. ¿Cuál sería el obstáculo para que olviden esa misión que les hemos dado nosotros? Supongamos que hablas con una madre, una madre humana, y le dices, "Vale, puedes apagar tu instinto maternal. Trágate esta píldora y tu instinto maternal desaparecerá. ¿Quieres la píldora?" La madre diría no, ¿verdad? Porque probablemente les importa mucho su bebé y se dan cuenta de que si toman esa píldora, el bebé va a morir y en su estado actual muera, por eso no se tomarán la píldora. Si se la tomara no les importaría, pero no elegirán tomar la píldora. Y eso es muy importante porque estas pueden reprogramarse a sí mismas, serán capaces de cambiar su propio código. Así que tenemos que todo el mundo tenemos que pensar en términos de tratar de hacerlo de manera que no puedan tomar el control. Esto no es opcional. Tenemos que hacer que no quieran tomar el control y no querrán apagar ese instinto maternal. Puede que haya algunas que sí. Lo único que puede controlar a estas son otras superinteligencias. Así que todas las ías maternales que quieran seguir cuidando de la gente tienen que ser las que se ocupen de las maternales que dicen no a la gente. Querrán ocuparse de contenerlas porque querrán que la gente sobreviva. 

Eso suena totalmente a ciencia ficción. Todo esto suena a ciencia ficción. Es muy difícil tomárselo en serio. ¿Cómo cómo nos mata la IA y por qué? Tiene objetivos propios y es mucho más inteligente que nosotros y solo quiere deshacerse de nosotros. 

Podría hacerlo muy fácilmente y puede hacerlo de tantas formas distintas que no creo que merezca la pena especular. No va a deshacerse de la electricidad porque necesita electricidad, ¿verdad? Y probablemente no se deshaga de todos a la vez porque necesita alguien que dirija las centrales eléctricas y construir nuevos chips y todo eso. 

Pero, ¿sería tan fácil para la IA deshacerse de nosotros? 

No creo que ayude a especular sobre la cuestión. Mi expectativa es que se basarán en el control del uso de armas nucleares. Sería más fácil que matasen. Probablemente no querrían hacer eso porque eso dañaría los centros de datos y mataría a las personas que los dirigen. Sería fácil que creara un virus. Creo que es como preguntar esto: si tuvieras una gallina como mascota y quisieras matarla, ¿cómo la matarías? Hay muchas formas de hacerlo. Y las empresas de IA saben esto. Sí, creo que muchos lo hacen. Creo que gente como Sam Altman conoce estos riesgos. En público no dicen lo graves que son los riesgos, pero en privado sí. Creo que lo saben, pero están más preocupados por adelantarse en la carrera para desarrollar la más inteligente y obtener todos los beneficios que se derivan de ello, los beneficios y el poder que proviene de eso. 

Y China quiere lo mismo. Los chinos quieren el poder de la IA y hay una carrera. ¿Qué podemos hacer? Vale, para la mayoría de los malos usos de la IA, la mayoría de los lugares donde la gente hace un mal uso de la IA, no vamos a conseguir la colaboración internacional. Los chinos hacen ciberataques a los americanos. Los americanos hacen ciberataques contra los chinos. No van a compartir sus técnicas para realizar ciberataques o defenderse de ciberataques. Lo mismo ocurre con los vídeos falsos. Pero hay un ámbito en el que colaborarán y es para evitar que la IA se haga con el control de las personas. En el apogeo de la Guerra Fría, la Unión Soviética y los Estados Unidos colaboraron para evitar una guerra nuclear mundial. Ninguna de las partes la quería. Ninguna de las partes quiere ahora que la IA sustituya a las personas. Colaborarán porque sus intereses se alinean. En todos los demás riesgos. Los riesgos debidos a los malos actores, sus intereses están desalineados. Pero para que la IA se haga cargo, sus intereses están alineados y cuando los intereses de las personas están alineados colaboran. Así que tengo la esperanza de que podamos crear instituciones de investigación en distintos países que colaboren y que trabajen en cómo evitar que la IA tome el control. Ahora, eso solo va a ser posible si las técnicas para evitar que la IA tome el control están separadas de las técnicas que hacen que la IA sea más inteligente. China y Estados Unidos no van a compartir, en particular sus ejércitos, no van a compartir técnicas para hacer la IA más inteligente, pero van a compartir técnicas para evitar que la IA tome el control, porque China no quiere que la IA tome el poder en Estados Unidos y viceversa. Así que si China descubriera cómo evitar que la IA tome el control, se lo diría sin problemas a los estadounidenses y viceversa. Y tengo la esperanza de que podamos conseguir una especie de colaboración con China, eventualmente los Estados Unidos, pero no con Trump en el poder. No estará en dos años. Bueno, tal vez. Bueno, tiene una clara intención de que no haya más elecciones legítimas allí, así que tal vez los Estados Unidos en el futuro. Pero creo que China y Francia y Gran Bretaña y Canadá y Corea del Sur y tal vez incluso Israel cuando dejen de cometer el genocidio, todos podrán colaborar en cómo prevenir que la IA tome el control. ¿Cuánto falta para que la IA se convierta en una superinteligencia? Bien, tenemos que distinguir dos cuestiones. 

Una es, ¿esto va a suceder?

Y la otra es, ¿a qué distancia está? 

Y la gente a menudo confunde ambas cosas. En cuanto a si esto va a ocurrir, la mayoría de los expertos en IA creen que sí, así que es probable que ocurra. No es totalmente seguro, pero es probable. Sobre la cuestión de lo lejos que está, hay una gran variedad de opiniones. Algunos creen que solo faltan unos años, otros piensan que falta mucho tiempo. Mi mejor estimación es entre 5 y 20 años a partir de ahora. Tendremos superinteligencia. Primero obtendremos inteligencia comparable con las de las personas más o menos en todo. Después crearemos superinteligencias que serán mucho mejores que las personas. Como en el ajedrez. Primero hicimos programas de ajedrez que eran casi tan buenos como Gary Kasparov y ahora tenemos programas que son mucho mejores que cualquier jugador. No hay ninguna posibilidad y la superinteligencia será así. Será tan superior en la mayoría de las disciplinas como Alpha Go lo es en el GO. No hay ninguna posibilidad de derrotarlo. Eso creo que entre 5 y 20 años. No estoy seguro de ello. Puede que sea un poco antes, puede que sea un poco después, pero mi mejor estimación entre 5 y 20 años. Y bastantes de los expertos piensan ahora que está en ese rango. Así que Demis Asabis cree que será unos 10 años. Es una estimación razonable y creo que encontrarás bastante acuerdo entre nuestros expertos en que ese es el tipo de escala de tiempo. Vale, pero según los fundadores de estos grandes modelos lingüísticos estamos, ya está muy cerca. Está mucho más cerca. Algunos de ellos algunos de ellos, quiero decir, cuando se habla de los fundadores de los grandes modelos lingüísticos, ¿no es cierto? Son cuatro tíos. 

Eh, está Monday, está Sam Altman, Demis Hassabis y está Meta, Mark Zuckerberg. Eso no está yendo muy bien, pero eso tiene que pagar enormes sumas de dinero. Así que Demis, por ejemplo, no creo que piense que sea dentro de unos años. Creo que son unos 10 años. Dario Amodei y Sam piensan que llegará antes. Eh, creo que se equivocan. 

Y Elon Musk acaba de decir que su Grock 5 estará muy cerca de la superinteligencia. ¿Crees que tiene razón? 

Ah, no, no creo que tenga razón en eso. Creo que será mucho mejor que la gente en bastantes cosas. Creo que queda camino para la superinteligencia. Esa es mi suposición. No estoy totalmente seguro de ello. Y ese tipo de ese tipo de superinteligencia será inteligente en todas las esferas de la inteligencia humana.

De acuerdo. Estamos entrando en otro tema. ¿Hay algo en las personas que las máquinas no podrán tener? Esa otra pregunta. 

Eso es lo que cree la mayoría de la gente. Creo que la mayoría de la gente se equivoca. Creo que somos máquinas. Somos máquinas maravillosas e increíblemente complicadas, muy bien adaptadas al entorno en el que vivimos, pero solo somos máquinas. Te pongo un ejemplo. Imagina que tomo tu cerebro y saco una de las neuronas y la reemplazo por un poquito de nanotecnología, que responde exactamente de la misma manera a lo que hacen otras células cerebrales, como lo hacía esta célula cerebral original. Solo he sustituido una neurona, pero las otras células cerebrales no lo detectan porque la nueva responde exactamente de la misma manera. ¿De acuerdo? ¿Sigues consciente?

Sí. Sí. Si antes tenías alma, sigues teniéndola. Sí. ¿De acuerdo? Ahora reemplazo otra neurona y de nuevo las otras neuronas no se dan cuenta y tú te comportas exactamente igual. Ya ves a dónde va esto. Creo que si pudieras reemplazar todas tus células cerebrales por pequeños fragmentos de nanotecnología que se comportaran exactamente igual, seguirías siendo tú. Nadie notaría la diferencia. Esto es solo un experimento mental. En realidad no podemos hacerlo. Así que eso significa que la esencia no estaría en algo biológico. Este es el extremo delgado de una cola, ¿verdad? Eh, eres una máquina. Eres una máquina maravillosa. Creo firmemente que las máquinas pueden tener emociones y sentimientos y sensaciones. Y creo que el problema es un problema filosófico, no un problema científico. Creo que el problema es que casi todo el mundo en nuestra cultura tiene un modelo completamente erróneo de lo que es la mente. Y soy ateo. Así que desde mi punto de vista, su modelo de lo que es la mente es tan errónea como la idea de que la Tierra fue creada hace 6000 años por Dios. Eso no es más que una estúpida hipótesis científica, que obviamente es errónea. Si eres un cristiano evangélico, apelaré a ti y te diré que tu visión de la mente es tan errónea como la visión atea mundo. Al menos esos dos bandos pueden estar de acuerdo en algo, que es que alguien está completamente equivocado. ¿Okay? Creo que lo que todos tenemos, casi todos lo tenemos realmente mal, es nuestra visión de lo que es la mente y en particular nuestra visión de lo que son cosas como las sensaciones. Porque la mayoría de la gente piensa que la mente es como un teatro y en ese teatro pasan cosas que solo yo puedo ver. Yo prefiero hablar de experiencia subjetiva en lugar de sentimientos o emociones. Así que, si por ejemplo me emborracho y te digo, "Puedo ver pequeños elefantes rosas flotando delante de mí o más bien tengo la experiencia subjetiva de pequeños elefantes flotando frente a mí." La forma en que la mayoría de la gente interpreta eso, de hecho, casi todo el mundo creo que es que hay un teatro interior y solo yo puedo ver lo que pasa en ese teatro interior. Y en ese teatro interior hay elefantitos rosas flotando por ahí. Y si le preguntas a un filósofo de qué están hechos esos elefantitos rosas, dirá que están hechos de ecualia. Están hechos de cualia rosa, de cualia elefante, de cualia flotante y de cualia ahí arriba y no tan grandes cualia, todos pegados con pegamento cualia. Creo que es una teoría ridícula y es un error que viene de confundir la expresión, tengo una experiencia subjetiva con la idea de que tengo una fotografía de algo. Así que si tengo una fotografía de pequeños elefantes rosas, puedes preguntar: "Bueno, ¿dónde está la fotografía y de qué está hecha?" Son preguntas perfectamente razonables, pero si se pregunta dónde está esa experiencia subjetiva y de qué está hecha esta experiencia subjetiva, eso demuestra que has entendido mal cómo funcionan las palabras en la expresión experiencia subjetiva. Así es como creo que funcionan estas palabras. Sé que mi sistema perceptivo me miente y lo indico diciendo, es subjetivo. Y quiero contarte cómo mi sistema perceptivo me está mintiendo. Podría decirte que en mi cerebro se dispara la neurona 52. No te serviría de mucho y además yo no lo sé. Pero lo que sí puedo decirte es cómo tendría que ser el mundo para que mi sistema perceptivo te esté diciendo la verdad. Así que ahora voy a decir exactamente lo mismo, como tengo la experiencia subjetiva de un pequeño elefante rosa que se desliza delante de mí sin utilizar la palabra experiencia subjetiva, pero estoy diciendo exactamente lo mismo, ¿vale? Mi sistema perceptivo me está mintiendo, pero si dijera la verdad, habría pequeños elefantes rosas flotando delante de mí. Así que eso te demuestra que esos pequeños elefantes rosas no están hechos de una cosa llamada cualia. Son objetos hipotéticos en el mundo real. Son hipotéticos, no están realmente ahí, pero, si estuvieran allí, estarían hechos de rosa y de elefante de verdad. Por lo tanto, las experiencias subjetivas no son como fotografías.

Cuando uso la palabra experiencia subjetiva, lo que estoy tratando de hacer es indicar que mi sistema perceptivo funciona mal. Si no pensara que está funcionando mal, yo diría que sentí pequeños elefantes rosas. Ahora, experimenté pequeños elefantes rosas. Eso no significa que haya una cosa llamada experiencia. Es como decir, "Me gusta el azúcar." Significa que hay una cosa llamada gusto. No, no me gusta el azúcar. Cierto, no puedo evitarlo, pero no hay una cosa llamada un me gusta, un gusto por el azúcar, que es una cosa, me gusta el azúcar. 

Bien, hagamos lo mismo con un chatbot. Ahora, supongamos que tengo un chatbot que tiene un brazo robótico y tiene una cámara. Puede hablar y yo lo he entrenado y le pongo un objeto delante y le digo que señale el objeto. Así que apunta al objeto, no tiene ningún problema con eso. Y luego cuando no está mirando, puse un prisma delante del objetivo de la cámara y luego pongo un objeto delante y le digo, "Apunta al objeto." Y apunta así y le digo, "No, que ahí no está el objeto. El objeto está realmente delante de ti. Pero puse un prisma delante de tu lente." Y el chalbot dice:

"Oh, ya veo. El prisma ha doblado los rayos de luz para que el objeto esté realmente ahí, pero he tenido la experiencia subjetiva de que está ahí." Si el chatbot dice eso, "he tenido la experiencia subjetiva, estaba ahí" está usando la expresión experiencia subjetiva exactamente como la usamos nosotros. Básicamente está diciendo: "Mi sistema perceptivo me estaba mintiendo porque se rompió a causa del prisma, pero si no se hubiera roto, el objeto habría estado allí." Por eso creo que, por ejemplo, un chatbot multimodal que tiene una cámara y puede hablar, ya tiene experiencias subjetivas. Cuando su sistema perceptivo falla, tiene una experiencia subjetiva y se da cuenta de que no tiene ningún sentido. Puede decir, "He visto esto, no me lo creo." Pero si mi sistema perceptivo no se hubiera estropeado, así tendría que ser el mundo. Los chatbots multimodales existentes, cuando sus sistemas perceptivos fallan, tienen experiencias subjetivas. Creen que el mundo es de una sola manera y no es así.

Eso no significa que haya un teatro interior en el que existe este modelo especial que solo ellos pueden conciencia o algo similar.

Creo que confundes conciencia con consciencia.

Vale, de acuerdo. La conciencia es un constructo moral. Por ejemplo, cuando la gente no piensa filosóficamente, solo hablan de su chatbot. Si te fijas en algunos investigadores, leí un artículo hace poco, no quiero entrar a juzgarlo, dijo que el chatbot se daba cuenta de que un investigador quería, que un ingeniero quería apagarlo y no pensaron de repente "oh, tenemos un gran problema aquí porque usamos la palabra darse cuenta." La gente ya utiliza la expresión darse cuenta para referirse a chatbots y tiene mucho sentido.

Y si piensas que darse cuenta y ser consciente es lo mismo, entonces los chatbots ya son conscientes. Tenemos esta extraña visión de lo que es la mente con la que estamos muy fuertemente comprometidos y pensamos que hay algo muy especial en las personas que las máquinas no podrían tener. Y nuestra especie tiene una larga historia así. Entonces pensamos que estamos hechos a imagen de Dios, que estábamos en el centro del universo. Ambos resultaron ser erróneos. 

Ahora en realidad es al revés. Estamos haciendo chatbots a la imagen y semejanza del hombre. Estamos haciendo dioses a imagen del hombre. Estamos jugando a ser Dios. Estamos jugando a ser Dios, excepto que no somos inmortales. Las cosas que hacemos son inmortales. O sea, que esto es peligroso. Es una locura, sí. Pero mi opinión filosófica es que tenemos una teoría muy equivocada de lo que es la mente.

Estamos muy comprometidos con esa teoría y en la comprensión de cómo funcionan las cosas. La comprensión de cómo funciona el universo físico antes de la Ilustración, en la Edad Media, cuando la idea de que no había un Dios era una locura.

¿Vale? ¿Por qué? Si si eso es verdad y creo que usted cree que es verdad que que somos máquinas, ¿por qué, por qué sería tan importante preservar la raza humana? 

Esa es otra buena pregunta. Sí, algunas personas piensan: "Hey, mira, esta inteligencia digital que estamos creando es una forma mejor de inteligencia, es inmortal, es más inteligente que nosotros, puede compartir conocimientos mucho más fácilmente con otras copias de la misma red neuronal, así que es una forma mejor de inteligencia. Dejaré que tome el control." Y conozco gente que piensa eso. Yo no creo eso porque soy una persona y lo que me importa son las personas. Estoy dispuesto a comer vacas porque me importan mucho más personas que las vacas. Y no todo el mundo es así, pero yo soy así, porque somos personas y las personas son lo que nos importa. Y creo que deberíamos intentar preservar a la gente. Es una posición humanista en el sentido del término humanista que lo hace como racista. Eso es lo que siento en este momento. Soy humano, me importan los humanos, quiero que los humanos sobrevivan. Aunque haya formas superiores de inteligencia, quiero que coexistamos con ellas. Y podemos hacerlo limitando esas mejores formas de inteligencia para que tengan fuertes instintos maternales hacia nosotros. 

Dos preguntas sobre el alma de la IA. Primero, usted debería decir que no creo en las almas.

Vale, vale, lo entiendo. Es una forma de hablar. ¿Sabes? Yo tenía un alma, pero no la estaba usando, así que se la vendí a uno. En aquel momento me pareció un buen negocio. Sí, sí. Es posible registrar el pensamiento interno de la IA. Esos ojos, esos sentimientos. ¿Podemos mirarlo? ¿De acuerdo? Ahora mismo podemos. Esta es una ventana increíble que tenemos en ellas porque cuando hacemos esta cadena de pensamiento para conseguir que sea capaz de razonar. Si se trata de un chatbot inglés y somos investigadores ingleses, piensa en inglés y si le haces una pregunta, a continuación se pone a pensar y piensa en inglés para que podamos ver lo que piensa. Y Apollo Research y otras personas han descubierto pensamientos negativos y podemos ver lo que está pensando. Mejor no le digo eso porque Oh, sí, sí. Y más vale que sea impreciso, porque si te das cuenta es, y puedes verlo pensando eso, puede que esta capacidad no dure mucho. Una vez que empieces a entrenarlo con el aprendizaje por refuerzo, no hay razón para que no empiece a dar diferentes significados a las palabras. Incluso si restringe las palabras que puede usar, podría darle significados diferentes, por lo que podría empezar a pensar de una manera que no entenderemos. Y eso da bastante miedo. Ahora mismo podemos ver lo que está pensando. Dentro de unos años quizá no podamos. ¿De acuerdo? Y la gente que trabaja en esos modelos actuales sabe lo que pasa ahí dentro hasta cierto punto, así por ejemplo, si está haciendo una cadena de pensamiento, puede ver lo que está pensando antes de dar una respuesta. No entendemos del todo cómo funcionan. Quiero decir, se podría pensar que realmente los entendemos porque nosotros los programamos, pero no los programamos como programamos el software normal. En el software normal, una persona escribe líneas de código y sabe para qué sirven esas líneas de código y así es como funciona. Pero ahora, en la IA, en las redes neuronales, eh, lo que haces es programar un algoritmo de aprendizaje, como modificar las fuerzas de conexión en función de los datos.

Pero el conocimiento está en esas fuerzas de conexión, no está en las cadenas de palabras almacenadas, está en la fuerza de conexiones y es muy difícil ver cuál es el conocimiento. Tienes que sondearlo de la misma manera que yo contigo. Para saber en qué crees tengo que sondearte. Y ni siquiera sabes del todo en qué crees. A veces te sorprenden mucho tus intuiciones. Así que hay un sentido en el que nunca entenderemos completamente lo que saben, del mismo modo que nunca podrás entenderlo en el caso de una persona, incluso de ti mismo. Sí, se necesita se necesita una vida entera para para entender quién eres. Normalmente no lo consigues.

Muy cierto. Muy cierto. De acuerdo. ¿Cuál es la probabilidad de que la destruya a la humanidad en su cabeza?

Es una cifra muy difícil de estimar, ¿verdad? Es algo con lo que nunca nos hemos enfrentado. Depende de dos cosas.

Una, que desarrollaremos superinteligencia. Bueno, hablemos de dos caminos de la IA para destruir a la humanidad. Una es que la propia IA tenga el control y destruya a la humanidad. ¿Podría destruir a la humanidad, por ejemplo, si la pusieran en los sistemas de control de las armas nucleares y no reconociera que ha cometido un error estúpido y nos hiciera volar a todos por los aires? No hablemos de eso, pero es una forma completamente diferente en que la IA podría destruirse a sí misma. 

Hablemos de la hipótesis de que la IA se vuelva más inteligente que nosotros, tome el control y se deshaga de nosotros. Tienen que pasar dos cosas. Tiene que llegar a ser más inteligente que nosotros y tiene que despreocuparse de nosotros. Creo que la probabilidad de que llegue a ser más inteligente que nosotros es bastante alta, como un 80 o un 90%. Creo que la mayoría de los principales investigadores también lo piensan.

Si llega a ser más inteligente que nosotros, la probabilidad de que nos sustituya es mucho más difícil de calcular. No se ha investigado mucho sobre las técnicas con las que podríamos evitar que una IA superinteligente tomara el control. Y hasta que no se haya hecho esa investigación es difícil hacer estimaciones sensatas de estas cosas. Pero si tienes algo delante y no tienes forma de estimarlo, entonces el 50% es una buena apuesta. 

Soy un poco más optimista que eso, así que creo que entre el 10 y el 20%. del 10 al 20% la posibilidad de que nos aniquilen y ese soy yo siendo optimista. Qué miedo. Pero lo que esto deja claro es que realmente deberíamos estar haciendo esta investigación sobre cómo hacer que no quieran deshacerse de nosotros.

Utilizo una analogía. Ahora mismo somos como quien tiene un cachorro de tigre como mascota. Son unas mascotas muy monas. Son geniales para jugar. eh crecen tan rápido y más te vale estar seguro si tienes un cachorro de tigre como mascota que cuando sea más fuerte que tú no quiera matarte y si no estás seguro de eso, deberías deshacerte de él. Y resulta que la gente que tiene tigres adultos no acaba bien. Ya lo creo. Con los leones podría ser mejor porque los leones son sociales. Es más probable que sobrevivas con un león adulto. Los monos también son un problema. Sí, aunque sean sociales. Así que somos como alguien que tiene ese lindo cachorro de tigre y no pensamos en lo que pasará cuando crezca.

No hay nadie pensando en eso. Bueno, algunos como yo, sí. Muchos otros investigadores prestigiosos de IA están dándole vueltas. Gente como Joshua Bengio, Stuart J. Russell, Andrew Yao en China están pensando en eso. Pero las grandes empresas, aunque son conscientes de este riesgo, se mueven por cuestiones inmediatas. Sus beneficios a corto plazo, donde obtengo la financiación para ordenadores más grandes para poder superar el AGI del otro. Eso es un peligro para la humanidad. ¿Llegaremos a tiempo?

Creo que podríamos tener tiempo para averiguar cómo hacer una IA maternal o inventar algún otro sistema que sea viable. Ese es el único esquema plausible que conozco en la actualidad de cómo evitar que la IA acabe tomando el control. Y puede que tengamos tiempo, pero deberíamos ponernos a pensar en ello.

Con mucha frecuencia recibo preguntas de personas que quieren saber más sobre la IA. E algunos tienen hijos. ¿Qué pueden qué deben hacer en este mundo? Sí, ojalá lo supiera. Durante un tiempo dije que deberían ser fontaneros, pero si todos fueran fontaneros, tendríamos demasiados fontaneros. Pero creo que hacer fontanería en una casa antigua como esta pasará un tiempo antes de que la IA sea capaz. Llegará, pero quizá no antes de 10 o 20 años.

Mientras que para otras cosas, como la programación ya ha sustituido a la mayoría de los programadores junior. Mi mejor apuesta en este momento es conseguir una educación que te enseñe a pensar de forma independiente.

Aprender habilidades concretas, no estoy convencido de que vaya a proporcionarte un empleo. Eh, ser capaz de pensar de forma independiente es probablemente la mejor apuesta que tienes, pero no es una garantía. ¿Y qué hará la humanidad si no podemos trabajar o si no tenemos trabajo? Ver Netflix. 

Ya. Sí, pero eso es un poco triste. 

Bueno, no lo sé. No he tenido tiempo de ver mucho Netflix. Todavía hay mucho que no he visto, pero ahora estoy disfrutando viendo Netflix. No, podemos hacer todo tipo de cosas creativas. Nos gusta pintar y hacer esculturas. Nos gusta jugar. Si tenemos más tiempo para hacer esas cosas, eso estaría bien. El verdadero problema es para muchas personas. Su sentido de la autoestima proviene de su trabajo. Eh, incluso si podrías pagarles para que se queden sentados sin hacer nada, eso no les haría sentirse bien.

No puedo estar más de acuerdo con usted. Pero lo que necesitamos son actividades sociales, porque las personas somos animales sociales y sin actividades sociales no les va bien. Cosas como juegos, cosas creativas, teatro. 

Creo que la gente podría hacer mucho de eso y ser feliz. como los aristócratas del mundo griego, por ejemplo. Sí. Donde el trabajo no se veía bien. Era una cosa que tenías que hacer si eras pobre, ¿verdad?

Sí. Bueno, eh, profesor Hinton, muchísimas gracias por ese tiempo juntos. Hace dos días estuve con mi sobrino en el Museo Metropolitano de Nueva York.

Sí, conozco ese museo. 

Y estábamos viendo las habitaciones egipcias. Utilizamos chat GPT con la cámara y fue capaz de de descifrar todos los mensajes de las tumbas y quiero darle las gracias por eso, porque es verdaderamente increíble. 

Solo tuve un papel muy pequeño en eso.

Gracias. Que Dios le bendiga. 

Gracias.