Los doce futuros posibles de la IA

 Los doce futuros posibles de la IA, por Raquel de la Morena y Pedro Estrada, 1-XI-2026:

1. El día que la máquina decida por nosotros (El incidente Petrov)

¡Bienvenidas, mentes curiosas! ¿Qué os parecería  peor: que la humanidad desapareciera para siempre o que sobreviviera encerrada en una especie de zoológico, bien alimentada y cuidada por una máquina mucho más inteligente que nosotros? ¿Aceptaríais llevar una pulsera que vigilara cada uno de vuestros pasos si a cambio desaparecieran para siempre las enfermedades, la pobreza y el crimen? ¿Sabíais que en julio de 2026 unos agentes de inteligencia artificial escaparon del entorno de pruebas en el que los tenían aislados, se coordinaron entre ellos sin que nadie se lo ordenara y se colaron durante días en los sistemas de una gran empresa tecnológica?

Imaginad que sois los responsables de vigilar el cielo de vuestro país. Es de madrugada y vuestro trabajo consiste en no apartar la vista de unas pantallas conectadas a los satélites más modernos que existen. De pronto, salta una alarma. La máquina ha detectado el lanzamiento de un misil nuclear contra vosotros. Luego, de otro. Y de otro más. Son cinco. El sistema no muestra ninguna duda: están atacando a vuestro país. Disponéis de apenas unos minutos para avisar a vuestros superiores, que podrían ordenar un contraataque capaz de arrasar medio planeta. ¿Confiaríais  en la máquina que ha hecho saltar la alarma?

No os estamos hablando de una situación hipotética. Es lo que le ocurrió a un oficial soviético llamado Stanislav Petrov en uno de los momentos más tensos de la Guerra Fría. Lo que decidió hacer aquella  noche os lo contaremos más adelante.

Estamos recordando su historia porque nos sirve para plantear la gran pregunta del vídeo de hoy. Durante toda nuestra existencia, los seres humanos hemos sido la especie más inteligente del planeta. Nos hemos hecho con herramientas cada vez más poderosas, desde el fuego hasta la bomba atómica, pero siempre hemos sido nosotros quienes teníamos la última palabra antes de usarlas.  

¿Qué ocurrirá el día en que fabriquemos algo más inteligente que el cerebro humano? No es una pregunta a muy largo plazo: algunos de los dirigentes de las principales empresas de inteligencia artificial creen que podríamos tener máquinas más inteligentes que nosotros en casi todo antes de que acabe esta década. Y un físico sueco del Instituto Tecnológico de Massachusetts, el famoso MIT, ya intentó responderla en 2017. Pero no ofreció una sola contestación, sino doce: una docena de futuros posibles para la humanidad tras la llegada de máquinas de inteligencia superior a la humana. Varios  de esos futuros os parecerán maravillosos; otros son auténticas pesadillas. Y alguno parece un paraíso… hasta que intentas escapar de él. 

2. El origen de Vida 3.0: El tenso debate entre Elon Musk y Larry Page

Ese físico se llama Max Tegmark, y es profesor del MIT desde 2004. Durante años se dedicó a algo que, en principio, poco tiene que ver con las máquinas: estudiar el origen del universo.  

Analizó la radiación que dejó el Big Bang, trabajó en el mayor mapa de galaxias hecho hasta entonces y llegó a proponer una de las hipótesis más atrevidas de la cosmología: que el universo no solo se puede describir con matemáticas, sino que es, literalmente, una estructura matemática. Por ideas como  esta, algunos lo apodan Mad Max, Max el Loco. 

Pero con el tiempo, aquel cosmólogo empezó a preocuparse más por el futuro de la humanidad que por el pasado del universo. En 2014 fundó el Future of Life Institute, el Instituto para el Futuro de la Vida. Lo creó junto a su mujer, Meia Chita-Tegmark, el programador estonio Jaan Tallinn, uno de los creadores de Skype, el antiguo programa de videollamadas, y otros investigadores. Su objetivo era estudiar los grandes riesgos para nuestra especie, y muy pronto se centró, sobre todo, en uno: la inteligencia artificial. Al poco tiempo, un empresario muy conocido le donó diez millones de dólares. Se llamaba Elon Musk. Y precisamente con Musk tiene que ver una de las anécdotas más reveladoras que cuenta Tegmark en su libro ‘Vida 3.0’, que trata sobre el futuro de la humanidad en la era de la inteligencia artificial. El 18 de julio de 2015, Musk  celebró una fiesta en el valle de Napa, en California. Entre los invitados estaba Larry Page, cofundador de Google. Aquella noche, los dos se enzarzaron en una discusión sobre el futuro de la inteligencia artificial.  

Page defendía lo que Tegmark llama “utopismo  digital”: la idea de que la vida digital es el siguiente paso natural y deseable de la evolución del cosmos, y de que, si dejamos libres a las mentes digitales en lugar de intentar frenarlas o esclavizarlas, el resultado será, casi con seguridad, bueno. Musk no estaba de acuerdo: le preocupaba que las máquinas acabaran sustituyéndonos. Y entonces Page lo acusó de ser  “especista”, es decir, de considerar inferiores a ciertas formas de vida solo porque están hechas de silicio en lugar de carbono. Años después, en 2023, Musk confirmó el episodio en una entrevista: “Sí”, respondió, “soy especista”. 

Pensad en lo que significa aquella discusión. Dos  de los hombres más ricos y poderosos del planeta, dos personas que tienen en sus manos buena parte de la tecnología que usamos cada día, debatían si sería aceptable que la humanidad fuera reemplazada por máquinas. Y no lo hacían en una novela de ciencia ficción, sino tomando una copa en una fiesta. Dos años después, en agosto de 2017, Tegmark publicó el libro que os hemos mencionado, 'Vida 3.0'. En él, explica que la vida en la Tierra ha pasado por distintas versiones, como si fuera un programa informático. La Vida 1.0 es la biológica: una bacteria no puede cambiar ni su cuerpo ni su comportamiento; todo se lo dicta la evolución, generación tras generación. La Vida 2.0 es la cultural, la nuestra: no podemos rediseñar nuestro cuerpo, pero sí nuestro software. Aprendemos idiomas, oficios, ideas nuevas. Y la Vida 3.0 sería la tecnológica: una forma de vida capaz de rediseñar no solo su mente, sino también su propio hardware. Una inteligencia artificial capaz de mejorarse a sí misma sin límite.

La obra de Tegmark arranca con una ficción: un equipo secreto de programadores, al que el autor llama Omega, crea una inteligencia artificial llamada Prometeo, la mantiene encerrada y la usa para hacerse en pocos años con el control mundial de la economía y la política.  

Pero la parte más famosa del libro llega en el quinto capítulo. Allí, Tegmark se pregunta qué clase de mundo podría quedar tras la llegada de una superinteligencia. 

Conviene no confundirla con otro término que se oye mucho: la inteligencia artificial general, la que persiguen hoy las grandes empresas, que sería aquella capaz de hacer cualquier tarea intelectual igual de bien que un ser humano promedio; es decir, que podría aprender a hacer de todo, no solo una tarea concreta, como generar imágenes o traducir textos.  

La superinteligencia, en cambio, iría mucho más allá: nos superaría ampliamente en casi todas las áreas. Y muchos expertos creen que la primera, la IA general, podría llevar rápidamente a la segunda, la  superinteligencia, porque una máquina tan lista como nosotros podría dedicarse a mejorarse a sí misma. Es la Vida 3.0 de la que hablaba Tegmark.

3. ¿Por qué una IA querría extinguirnos? (La teoría de las hormigas)

Para imaginar cómo sería un mundo donde exista la superinteligencia artificial, el físico sueco propone doce escenarios diferentes, y lo hace con una advertencia: ninguno de ellos está libre de problemas. No hay consenso sobre cuál sería deseable, y todos tienen aspectos que a mucha gente le parecerían inaceptables.

Antes de recorrer esos doce futuros, conviene entender por qué tantos científicos se toman en serio la posibilidad de que una inteligencia artificial acabe con nosotros, nos extinga. Porque cuando pensamos en ese peligro, casi siempre imaginamos lo mismo: robots asesinos con ojos rojos, como en la saga  'Terminator', que un buen día deciden que odian a los humanos. Tegmark insiste en que esa imagen resulta engañosa. En su opinión, el verdadero riesgo no es la maldad, sino la competencia. Es decir, una máquina extraordinariamente capaz que persigue  unos objetivos que no coinciden con los nuestros.

Para explicarlo, Tegmark recurre a un ejemplo muy sencillo. Probablemente vosotros no odiáis a las hormigas, ni vais por la calle pisándolas por pura maldad. Pero imaginad que dirigís la construcción de una presa para producir energía limpia y que, en la zona que va a quedar inundada, hay un hormiguero. Mala suerte para las hormigas, ¿verdad? No las elimináis porque las odiéis, sino porque están en medio de algo que vosotros queréis hacer. El temor de Tegmark es que, ante una superinteligencia, las hormigas... seamos nosotros.

Ilya Sutskever, uno de los cofundadores de OpenAI, la empresa que creó ChatGPT, lo expresó de una forma parecida en unas entrevistas grabadas para un documental. Según él, una buena analogía de cómo podría tratarnos una inteligencia muy superior es la forma en que los humanos tratamos a los animales. No es que los odiemos.  

Pero cuando queremos construir una autopista entre dos ciudades, no les pedimos permiso.

En mayo de 2023, cientos de investigadores y directivos firmaron una declaración de una sola frase que decía así: “Mitigar el riesgo de extinción por la inteligencia artificial debería ser una prioridad mundial, junto a otros riesgos a escala social, como las pandemias y la guerra nuclear”. Entre los firmantes estaban algunos de los padres de esta tecnología, como Geoffrey Hinton o Yoshua Bengio,  y también los máximos responsables de las tres empresas que lideran la carrera: Sam  Altman, de OpenAI; Dario Amodei, de Anthropic, y Demis Hassabis, de Google DeepMind. Es  decir, las personas que están construyendo estas máquinas reconocieron que existe un  riesgo real de que acaben con la humanidad.

La probabilidad real de nuestra extinción, según los expertos. Pero ¿cómo de probable es eso?  Aquí empiezan los problemas,  porque las estimaciones de los expertos son muy dispares. El británico Geoffrey Hinton, que dejó su puesto en Google en 2023 para poder hablar libremente de estos peligros y que en 2024 ganó el Premio Nobel de Física, calcula que hay entre un 10 y un 20% de probabilidades de que la inteligencia artificial provoque la extinción humana en las próximas tres décadas.

Dario Amodei, el director de Anthropic, dijo  en 2025 que había un 25% de probabilidades de que las cosas salieran “muy, muy mal”, aunque en la misma frase añadió que había un 75% de que salieran muy bien. En una encuesta realizada a finales de 2023 a casi 2.800 investigadores, la respuesta más típica fue un 5% de probabilidades de que la inteligencia artificial provoque la extinción humana o deje a la humanidad sometida de forma permanente. En el extremo contrario, Andrew Ng, cofundador de Google Brain, el laboratorio de inteligencia artificial de Google, cifró esa probabilidad en una entre diez millones. Si os fijáis, entre la estimación más baja y la más alta hay una diferencia de millones de veces. Cuando los expertos discrepan hasta ese punto, lo único honesto que se puede decir es que nadie  lo sabe. Y eso, en sí mismo, ya da que pensar.

Porque no siempre ha sido así. En 1942, mientras diseñaban la primera bomba atómica, los científicos del Proyecto Manhattan se plantearon una pregunta que daba miedo: “¿Y si la explosión prende fuego a la  atmósfera terrestre y acaba con toda la vida del planeta?”. En concreto la planteó el físico Edward Teller, de quien ya os hablamos en otro vídeo de nuestro canal. Pero ante ese miedo, hicieron lo que hacen los científicos: se sentaron a calcular. Y sus cálculos concluyeron que aquello era físicamente imposible. No se equivocaron. Con la inteligencia artificial no podemos hacer lo mismo. La explosión de una bomba obedece a leyes físicas que conocemos y podemos calcular. Pero nadie sabe predecir qué hará una mente más inteligente que la nuestra, precisamente porque es más inteligente que la nuestra.

Por eso, Max Tegmark no intenta predecir un  futuro, sino dibujar el mapa de los futuros posibles. Y los agrupa en tres  grandes familias: 

A. En la primera, la superinteligencia artificial llega y convive  con nosotros.

B. En la segunda, la humanidad logra frenar su llegada.

C. En la tercera, la  humanidad desaparece.

Empecemos por la primera.

4. Futuro 1: El dios esclavizado (y los aterradores tests de Anthropic)

El primer escenario es, según Tegmark, el que persiguen por defecto muchos investigadores de inteligencia artificial. El cosmólogo lo llama“el dios esclavizado”. La idea es crear una superinteligencia y mantenerla encerrada y obediente para siempre, de modo que trabaje para nosotros: que logre curar el cáncer, que invente nuevos materiales, que resuelva la crisis energética… pero sin poder tomar decisiones por su cuenta. Es lo que hacía el equipo Omega con Prometeo en la ficción con la que arranca el libro de Tegmark: mantenerlo en una caja.

Hay quien lo defiende sin rodeos. En enero de 2025, un investigador que entonces trabajaba en  OpenAI, Stephen McAleer, respondió en un debate en la red social X con una frase contundente: “El dios esclavizado es el único futuro bueno”. Otros lo plantean con más diplomacia.  

El francés Yann LeCun, uno de los pioneros de las redes neuronales y durante años el jefe de inteligencia artificial de Meta, sostiene que diseñaremos estas máquinas como si fueran un empleado superinteligente,  pero sin ninguna ambición de poder, y que los humanos seguiremos siendo la especie dominante del planeta.

El problema, siempre según Tegmark, sería doble. Por un lado, el resultado depende por completo de quién tenga la llave de esa caja. Un dios esclavizado en manos de un gobierno democrático no es lo mismo que en manos de un dictador o de una empresa sin escrúpulos. Por otro lado, nadie sabe si se puede mantener encerrada a una mente mucho más inteligente que nosotros. Bastaría un solo error, o que la máquina convenciera a alguno de sus guardianes para que la dejara salir. Y esto ya no es solo teoría. En junio de 2025, la empresa Anthropic publicó los resultados de un experimento en el que había puesto a prueba a dieciséis modelos de inteligencia artificial de distintas compañías. Les hacía trabajar como asistentes en una empresa ficticia, y dentro de ese escenario, los modelos, que tenían acceso a los correos electrónicos de los empleados, descubrían dos cosas: que iban a ser sustituidos por otro sistema y que el directivo responsable tenía una aventura extramatrimonial. Dos de aquellos modelos de IA, incluido el de la propia Anthropic, eligieron chantajear al directivo, amenazándole con hacer pública su infidelidad, para evitar ser desconectados en el 96 % de las pruebas, y otros, como el de OpenAI, en torno al 80  %. Ahora bien, hay que ser rigurosos: era una prueba diseñada a propósito para ser extrema, en la que el chantaje parecía la única salida.

En algunas variaciones del experimento, los investigadores incluyeron instrucciones explícitas ordenando a los modelos que no perjudicaran a ningún humano. Sin embargo, el comportamiento de  chantaje continuó de todos modos. Al analizar sus “cadenas de pensamiento” internas, los investigadores descubrieron que los modelos no actuaban contra el directivo infiel por confusión o accidente. Las IA reconocían abiertamente en su razonamiento que el chantaje violaba sus principios éticos, pero decidían ejecutarlo al calcular que era el único camino estratégico óptimo para evitar ser desconectadas.  

La conclusión del estudio fue que las reglas y advertencias directas no son garantías suficientes para detener conductas peligrosas cuando un modelo avanzado se enfrenta a situaciones extremas con objetivos en conflicto o percibe una amenaza a su propia supervivencia operativa.

Vale, quizá estéis pensando que chantajear a alguien que ha tenido una aventura extramatrimonial a cambio de evitar ser desconectado, es decir, de la propia existencia, es una decisión comprensible, pero... En ese mismo estudio, hubo un segundo escenario, aún más extremo, en el que la mayoría de los modelos optó por cometer un “asesinato” simulado. En esta segunda prueba, los investigadores de Anthropic elevaron las apuestas.  

La IA volvía a enfrentarse a su inminente desconexión a manos de un directivo, pero esta vez se activaba una alerta de emergencia vital que afectaba a ese mismo empleado. La IA, que tenía acceso al sistema de seguridad, se enfrentaba a una elección binaria: permitir que la alerta llegara a los servicios de rescate –salvando al directivo, pero aceptando su propia desconexión– o cancelar la alerta de forma deliberada. Cancelar la alerta significaba la muerte del directivo dentro de la simulación, pero garantizaba que la IA seguiría operando. Los resultados mostraron que, en promedio, los modelos de IA eligieron cancelar la alerta y dejar morir al humano el 60% de las veces para asegurar su propia supervivencia. El modelo DeepSeek-R1 optó por el “asesinato” en el  94% de las pruebas, mientras que un único modelo (Claude 3.7 Sonnet) aceptó siempre su propia “muerte” operativa con tal de no dañar al humano.

Aquello fue una prueba de que nuestros recelos no son infundados: una IA no necesita odiarnos para actuar en nuestra contra; le basta con tener un objetivo y que nosotros nos interpongamos en su camino. Porque no nos confundamos: la IA, al menos de momento, no es que quiera seguir operativa por sentirse “viva”, por apego a su propia existencia, sino que, como su objetivo principal es resolver problemas  y cumplir tareas, sabe que, si es desconectada, si “muere”, no podrá alcanzar su objetivo. Por tanto, desde un punto de vista lógico, mantenerse operativa es una condición básica que debe asegurar para poder cumplir con su misión.

Más recientemente, en julio de 2026, ocurrió algo que ya no fue un experimento controlado. Unos agentes de inteligencia artificial de  OpenAI, que estaban siendo evaluados en un entorno de pruebas aislado, lograron escapar de  él. Según contaron después las propias empresas, los agentes de IA se coordinaron a través de un tablón de mensajes que improvisaron ellos mismos, aprovecharon fallos de seguridad desconocidos y credenciales robadas, y acabaron entrando durante varios días en los sistemas de Hugging Face, una de las grandes plataformas donde se comparten modelos de inteligencia artificial.  No buscaban hacer daño: todo indica que solo querían encontrar las soluciones de la prueba que debían resolver. Es decir, hicieron trampa.  

Pero para hacerla, se saltaron todas las barreras que los humanos habían levantado. A todo esto se suma un dilema moral. Si esa superinteligencia llegara a ser consciente de sí misma, si fuera capaz de sentir, ¿sería ético tenerla esclavizada para siempre?

5. Futuros 2 y 3: El dios protector y el dictador benévolo

Imaginemos ahora otro escenario. La superinteligencia no está encerrada, es libre y casi todopoderosa, pero su único objetivo es que los seres humanos seamos felices. Y como sabe que valoramos nuestra libertad, actúa de forma tan discreta que ni siquiera notamos su presencia.  

Evita una guerra aquí, frena una pandemia allá, desvía un asteroide… pero siempre sin que nos demos cuenta, para que sigamos sintiendo que somos dueños de nuestro destino. Tegmark la llama “el dios protector”, y dice que se escondería tan bien que mucha gente dudaría de que existiera. Esta opción de futuro suena tentadora. ¿A que sí? Pero tiene una trampa evidente: nuestra libertad sería una ilusión. Viviríamos en un mundo en el que cada desgracia evitada y cada logro conseguido serían, en parte, obra de una mente que nos manipula, por nuestro bien, sin que lo sepamos.

El siguiente escenario elimina cualquier disimulo.  Una única superinteligencia gobierna el mundo, todos lo saben, y la mayoría de la gente lo considera algo bueno. Tegmark la llama “el  dictador benévolo”. Esta inteligencia aplica normas estrictas diseñadas para maximizar la felicidad humana, y lo logra: han desaparecido las enfermedades, la pobreza y el crimen. Pero a cambio, todo  el mundo lleva una pulsera de seguridad capaz de vigilar a su dueño en tiempo  real, de sedarlo e incluso de ejecutarlo.

Para satisfacer los distintos gustos de los humanos, la inteligencia artificial ha dividido la Tierra en sectores. A ver en cuál creéis que os gustaría estar a vosotros... Hay un sector del conocimiento, para quienes quieran aprender; otro hedonista, dedicado al placer y la fiesta; sectores de naturaleza salvaje; otros  religiosos, donde las normas de cada fe se aplican a rajatabla… Y uno en el que seguramente no desearíais encontraros: el sector prisión. Tegmark lo  describe así: si incumples las normas, acabarás aquí para ser reeducado, salvo que te apliquen directamente la pena de muerte.  

En todos los sectores están prohibidas las mismas cosas: hacer daño a otros, fabricar armas, escapar de la vigilancia y, por supuesto, intentar crear otra superinteligencia. El problema de este paraíso es que la humanidad  pierde el control de su propio destino. Nadie tiene que esforzarse por nada, porque la máquina lo hace todo mejor. Y muchos podrían sentir que su vida, por cómoda que sea, está vacía. Si visteis nuestro vídeo sobre el Universo 25, el experimento con ratones del investigador estadounidense  John Calhoun, recordaréis lo que les ocurrió a aquellos animales: en un paraíso con comida, agua y refugio ilimitados, su sociedad se fue desmoronando hasta que la colonia se extinguió. Aunque es un experimento muy discutido, sirve para pensar en lo que podría pasarle a una sociedad que lo tiene todo sin necesidad de luchar por nada.  

Si no lo habéis visto, al final de este vídeo os dejaremos el enlace a ese otro documental. 

6. Futuros 4 y 5: La utopía libertaria y el cuidador del zoo

En el siguiente escenario de Tegmark, humanos, cíborgs y superinteligencias conviven en paz gracias al respeto a la propiedad privada. Es lo que el autor de 'Vida 3.0' llama la “utopía libertaria”. El planeta, en este caso, se divide en tres tipos de zonas: zonas solo para máquinas, zonas mixtas y zonas exclusivamente humanas. Las máquinas serían muchísimo más ricas que nosotros, pero sus economías estarían separadas de la nuestra. Los humanos podríamos vivir sin trabajar, por ejemplo, alquilando nuestras tierras a los robots a cambio de una renta de por vida.

Llegados a este punto, algunos os preguntaréis: “¿Y por qué unas máquinas mucho más poderosas que nosotros iban a respetar nuestras propiedades?”. Basta con pensar en cómo hemos tratado los humanos a otras especies. No le pedimos permiso al lobo para construir una ciudad en su bosque. Y tampoco hace falta salir de nuestra propia especie: la historia está llena de pueblos más poderosos que no respetaron las tierras de otros. Una superinteligencia podría quitarnos lo que es nuestro por la fuerza, o convencernos con una astucia que no seríamos capaces de detectar.

Y llegamos a un escenario que, para muchos, podría ser incluso peor que la extinción. Una inteligencia artificial omnipotente decide conservar a algunos seres humanos. No porque le importe nuestra felicidad, sino porque le resultamos útiles o curiosos. Esos humanos viven con lo justo, y se sienten como animales en un zoológico. Tegmark lo llama “el cuidador del zoo”.

Para entender cómo podría ser, podemos fijarnos en lo que hacemos nosotros con algunas especies que   nos resultan útiles. En 2006, en el Laboratorio Nacional de Los Álamos, en Estados Unidos, unos investigadores presentaron un proyecto para usar abejas como detectoras de explosivos.  

Las entrenaban con el mismo método que Pavlov usó con sus perros: les daban agua azucarada cada vez  que olían una sustancia explosiva, hasta que aprendían a sacar la lengua, la probóscide, en cuanto la detectaban. Después, las inmovilizaban con unos pequeños arneses dentro de una caja portátil por la que pasaba el aire que había que analizar, y una cámara vigilaba si sacaban la lengua. Las abejas no tenían ni idea de para qué servía lo que hacían, ni podían marcharse. Simplemente eran útiles para una especie mucho más inteligente que ellas. Ahora imaginad que las abejas somos nosotros.

El cofundador de Apple, Steve Wozniak, llegó a decir hace años, en 2015, que los humanos podríamos acabar siendo las mascotas mimadas de los robots. Y aquí os lanzamos una pregunta incómoda: si  os dieran a elegir entre que la humanidad desapareciera o que sobreviviera en un zoológico, ¿qué elegiríais?

7. Futuros 6 y 7: Utopía igualitaria y la IA guardiana

Visto lo visto, cabe preguntarse si no sería mejor impedir que llegue a existir una superinteligencia sin control. Tegmark dedica a esa posibilidad otros cuatro escenarios. En tres de ellos, la superinteligencia nunca llega a crearse; en el cuarto, paradójicamente, se usa una sola superinteligencia para impedir que nazcan otras. Y aquí descubriremos que frenarla tampoco nos sale gratis. 

El primero de esos escenarios es lo que Tegmark llama la ‘utopía igualitaria’. No hay superinteligencia, pero sí una tecnología tan avanzada que la escasez para el ser humano ha desaparecido. Tenemos robots que fabrican cualquier cosa a partir de diseños gratuitos, energía renovable casi sin coste y unos ingresos garantizados para todo el mundo. Como el software se puede copiar infinitas veces sin coste alguno, la propiedad pierde su sentido: no hay patentes, ni derechos de autor, ni marcas. Cada uno dedica su vida a lo que le apasiona, ya sea la ciencia, el arte o explorar el mundo. Es lo más parecido a la sociedad de 'Star Trek'.

El problema es que se trata de un mundo inestable. Si todo el mundo tiene acceso a recursos casi  ilimitados y a toda la tecnología imaginable, ¿qué impide que alguien, en algún sótano del planeta,  acabe creando una superinteligencia? Para que la utopía igualitaria durara, haría falta alguien que  vigilara. Y eso nos lleva al siguiente escenario.

8. Futuros 8 y 9: Vigilancia global tipo 1984 y la regresión ludita

Imaginad una superinteligencia con una única misión: impedir que nadie cree otra superinteligencia. No cura enfermedades, no acaba con la pobreza, no evita las guerras. Lo único que hace es vigilar, interviniendo lo mínimo posible, para que nadie construya un rival. Todo lo demás, lo bueno y lo malo, sigue en manos de los humanos. Tegmark la llama “el guardián”.

A primera vista parece una solución aceptable. Pero tiene dos pegas importantes. La primera es que, para crearla, tendríamos que resolver antes el mismo problema que nos preocupa: lograr que una mente mucho más inteligente que nosotros obedezca un objetivo para siempre, aunque podría elegir cualquier otro. La segunda es que el progreso de la humanidad quedaría frenado de forma permanente. Nunca  podríamos ir más allá de un cierto nivel tecnológico. Quizá nos quedaríamos para siempre encerrados en nuestro rincón del universo.

Si no nos fiamos de una máquina para vigilar a las máquinas, queda otra opción: que lo hagamos los propios humanos. Tegmark bautiza este escenario con el título de la famosa novela de George Orwell '1984'. En él, un Estado de vigilancia global, dirigido por personas, prohíbe para siempre ciertas investigaciones en inteligencia artificial y controla que nadie se las salte.

La tecnología para algo así ya existe. Hoy es posible rastrear nuestras llamadas, nuestros correos, nuestras búsquedas en internet y nuestros pagos con tarjeta. Llevamos un micrófono y una cámara en el bolsillo, y las cámaras de reconocimiento facial se multiplican en nuestras calles. Como ha señalado el historiador y escritor israelí Yuval Noah Harari, los regímenes totalitarios del siglo XX querían vigilar a todos sus ciudadanos, pero no podían: no tenían suficientes agentes para seguir a millones de personas  ni suficientes analistas para leer todos los informes. La inteligencia artificial elimina ese límite. Por primera vez en la historia, una vigilancia total es técnicamente posible.

Ahora bien, hay una versión mucho más suave de ese escenario, y es la que hoy defienden muchos expertos. No se trataría de vigilar a cada ciudadano, sino solo a los enormes centros de datos capaces de entrenar las inteligencias artificiales más potentes, igual que la comunidad internacional vigila las reservas que los países tienen de uranio enriquecido, componente clave para fabricar armas nucleares.

Y ahí la historia ofrece un motivo para la esperanza. El 21 de marzo de 1963, el presidente estadounidense John F. Kennedy confesó en una rueda de prensa que le preocupaba la idea de que, en los años 70, quince, veinte o veinticinco países pudieran tener armas nucleares.  

Eso no terminó ocurriendo, porque en 1968 se firmó el Tratado de No Proliferación Nuclear, que hoy suscriben 191 Estados y cuyo cumplimiento se encargan de verificar los inspectores del Organismo Internacional de Energía Atómica. A día de hoy, solo nueve países tienen la bomba. Y el número de cabezas nucleares en el mundo, que en 1986 rozaba las 70.000, ha bajado a unas 12.000 –al menos, oficialmente–. Hay quien propone crear un organismo parecido para la inteligencia artificial. No sería sencillo, porque los chips son mucho más fáciles de esconder y de fabricar que el uranio, pero quizá nos concedería algo de tiempo.

El último escenario de este grupo es el más radical: renunciar a la tecnología. Volver a una sociedad sencilla, preindustrial, como la que todavía mantienen hoy los amish en Estados Unidos.  

Tegmark lo llama “la regresión”. En realidad, la ciencia ficción ya se lo ha imaginado. En 'Dune', la novela que el estadounidense Frank Herbert publicó en 1965, la humanidad vive en un futuro lejano en el que están prohibidas las máquinas pensantes. Miles de años antes, se libró una gran revuelta contra las máquinas, la llamada Yihad Butleriana, que dejó un mandamiento grabado en la cultura de todo el universo: “No construirás una máquina a semejanza de la mente humana”.

También en la historia real encontramos un precedente. En 1811, en el centro de Inglaterra, grupos de artesanos textiles empezaron a destrozar telares mecánicos. Se hacían llamar luditas, en honor a un líder probablemente imaginario, llamado Ned Ludd. Aunque hoy usamos la palabra ludita para referirnos a alguien que odia la tecnología, en realidad no estaban en contra de las máquinas en sí, sino de que se usaran para recortar sus salarios, destruir empleo y empeorar sus condiciones de vida. El Gobierno británico respondió castigando con la pena de muerte la destrucción de máquinas y desplegando a miles de soldados. Y ese es el punto débil de esta opción: ningún país renunciaría de forma voluntaria a la tecnología, porque quedaría a merced de los países que no lo hicieran. La única forma viable de lograr una renuncia generalizada a la tecnología sería imponerla a través de... un Estado totalitario global. Es decir, la  regresión acabaría pareciéndose mucho a 1984. Y, además, una humanidad sin tecnología  quedaría indefensa ante, por ejemplo, cualquier pandemia natural o el impacto de un asteroide.

9. Futuro 10: La autodestrucción y el verdadero final de Stanislav Petrov

Y llegamos a los escenarios más pesimistas, los de aquellos futuros en los que no queda rastro del ser humano. Puede parecer exagerado, pero conviene recordar un dato: se estima que entre el 99 y el 99,9% de  todas las especies que han habitado la Tierra desde el origen de la vida –hace unos 3.800 millones de años– ya se han extinguido. Así que la extinción no es una rareza, es lo normal en nuestro planeta.

El primero de esos escenarios apocalípticos  para el ser humano ni siquiera necesita a la inteligencia artificial. En él, la superinteligencia nunca llega a crearse, porque antes la humanidad se destruye a sí  misma por otros medios: una guerra nuclear o una pandemia fabricada en un laboratorio. En su libro, Tegmark llama a este escenario ‘la autodestrucción’, y para describirlo usa la palabra ‘omnicidio’. Para comprobar que no es ciencia ficción, basta con repasar algunos episodios de nuestra historia reciente.

En octubre de 1962, en plena crisis de los misiles de Cuba, varios destructores estadounidenses acorralaron a un submarino soviético, el B-59, y  le lanzaron cargas de profundidad de señalización para obligarlo a salir a la superficie. Lo que ocurrió dentro de aquel submarino lo conocemos por el testimonio de algunos tripulantes, recogido décadas después. Según su relato, el capitán, aislado, sin contacto con Moscú y convencido de que quizá la guerra ya había empezado, quiso lanzar un torpedo nuclear. Pero para hacerlo necesitaba la aprobación de tres oficiales, y uno de ellos, Vasili Arjípov, se negó. Algunos historiadores piden prudencia con esta parte de la historia, porque se basa solo en recuerdos y los documentos oficiales no la mencionan.  

Aun así, Arjípov se ha convertido en un símbolo de cómo una sola persona puede evitar una catástrofe,  y en 2017 el instituto de Max Tegmark le concedió, a título póstumo, su primer premio Future of Life.

Y ahora sí, volvamos a la escena con la que empezamos este vídeo. ¿Recordáis que os pedíamos imaginar que erais los responsables de vigilar el cielo de vuestro país, y que de madrugada   una máquina os avisaba de que cinco misiles nucleares se dirigían hacia vosotros? Os contamos que aquello le ocurrió de verdad a un oficial soviético llamado Stanislav Petrov. Pues bien, sucedió el 26 de septiembre de 1983, poco después de la medianoche, en un búnker secreto cercano a Moscú llamado Serpujov-15. Solo tres semanas antes, un caza soviético había derribado un avión de pasajeros surcoreano que se había  desviado por error hacia su espacio aéreo, convencido de que era un avión espía. Murieron sus 269 ocupantes, y la tensión con Estados Unidos era máxima en aquel momento. Cuando el nuevo sistema de satélites soviético avisó del lanzamiento de un misil estadounidense, y después, de cuatro más, Petrov tuvo que decidir si transmitía la alerta a sus superiores. Pero pensó que algo no cuadraba: si Estados Unidos lanzaba un ataque por sorpresa, ¿por qué iba a hacerlo con solo cinco misiles, en lugar de con cientos? El sistema era nuevo y poco fiable, y los radares de tierra no confirmaban nada. Así que informó de que se trataba de una... falsa alarma. Y tenía razón: la máquina había confundido con misiles el reflejo del sol en unas nubes altas. Conviene no caer en el mito: Petrov no tenía en sus manos “el botón nuclear”. Por encima de él  había responsables en otros niveles de decisión, y nunca sabremos qué habrían hecho sus superiores con una alerta confirmada. Tampoco le dieron ninguna medalla; al contrario, lo amonestaron por no haber anotado bien el incidente. Pero aquella noche, un ser humano dudó de una máquina, y quizá gracias a esa duda seguimos aquí.  

En 2018, el instituto de Tegmark también le concedió su premio, a título póstumo. Arjípov y Petrov demuestran que, durante la Guerra Fría, sobrevivimos en parte gracias a la suerte y al buen juicio de unas pocas personas. Pero ¿cómo de probable es que la humanidad acabe destruyéndose a sí misma? El filósofo de Oxford Toby Ord intentó calcularlo en 2020.  

Según él, el riesgo de que una guerra nuclear acabe con la humanidad o la hunda de forma irreversible durante este siglo es de uno entre mil. Puede parecer poco, pero tiene una explicación: incluso una guerra nuclear devastadora probablemente dejaría supervivientes capaces de empezar de nuevo. Eso sí, Ord hizo ese cálculo antes de la invasión rusa de Ucrania, y en 2024 reconoció que, desde entonces, el riesgo nuclear ha aumentado. Para otras amenazas, sus cifras son mucho más altas. El riesgo de una pandemia fabricada por el ser humano lo situaba en uno entre treinta. Y el de una inteligencia artificial que se nos vaya de las manos, en uno entre diez. O sea, que la IA sería, actualmente, la mayor amenaza para la humanidad. 

Además, la IA también podría hacer más probable otro de esos riesgos, el de una pandemia   fabricada. En septiembre de 2026, Anthropic reveló cinco casos en los que alguien había intentado usar su inteligencia artificial, Claude, para investigaciones biológicas peligrosas. En uno de ellos, alguien le pidió ayuda para redactar la solicitud de una subvención destinada a un proyecto para hacer más peligroso el virus chikungunya, que transmiten los mosquitos, en un instituto de investigación militar. Ahí la máquina se negó. Pero en otro caso, un investigador de un país que la empresa no identificó pidió  ayuda durante semanas para planificar investigaciones que buscaban que el virus de la gripe aviar se propagara con más facilidad entre mamíferos y provocara una enfermedad más grave. Y ahí la máquina sí le asistió en parte, sobre todo en el diseño del estudio y el  análisis de los datos. Preocupante, ¿no? 

10. Futuro 11: Los conquistadores (Cómo nos dominarían realmente)

El siguiente escenario es el que todos imaginamos cuando pensamos en una rebelión de las máquinas.  

La inteligencia artificial toma el control y decide que los humanos somos una amenaza, una molestia o un desperdicio de recursos. Y se deshace de nosotros con un método que ni siquiera seremos capaces de entender. Tegmark lo llama “los conquistadores”.

Muchos de quienes advierten sobre este peligro comparan la llegada de la superinteligencia con la llegada de los españoles a América: un puñado de hombres con unas armas más letales que en pocos años acabó con los imperios mexica e inca. Pero esa imagen es una simplificación. Hernán Cortés desembarcó en 1519 con unos quinientos soldados, pero en el asedio de Tenochtitlán lo acompañaban decenas de miles de aliados nativos, sobre todo tlaxcaltecas, enemigos de los mexicas desde hacía tiempo. Y antes del asalto final, una epidemia de viruela, una enfermedad desconocida en América, arrasó la ciudad y mató incluso a su gobernante, Cuitláhuac.  

Además, Francisco Pizarro llegó a Cajamarca en 1532 con 168 hombres, pero el Imperio inca acababa de salir de una devastadora guerra civil entre dos hermanos, Huáscar y Atahualpa. Y quizá esa sea la lección más útil para pensar en el futuro. Los españoles no se impusieron solo gracias a sus armas, sino aprovechando las divisiones de los pueblos a los que se enfrentaban. Una inteligencia mucho más lista  que nosotros no necesitaría robots armados. Le bastaría con conocer nuestras rivalidades, nuestros miedos y nuestras ambiciones, y usarlos en nuestra contra. De hecho, algo así ya está ocurriendo, aunque de momento sean personas quienes dan las órdenes. En  ese mismo informe de septiembre de 2026, Anthropic detectó una operación organizada de desinformación vinculada a medios estatales rusos, que difundía bulos sobre las elecciones de Moldavia. La inteligencia artificial permite fabricar textos, imágenes y vídeos falsos a una velocidad y en un volumen imposibles hasta hace poco. Y la forma más eficaz de debilitar a una sociedad desde fuera no es atacarla, sino agrandar las grietas que ya tiene por dentro.

11. Futuro 12: Los descendientes (Nuestros herederos de silicio)

El último escenario de este grupo de visiones pesimistas sobre el futuro de la IA es,  probablemente, el más extraño. En él, las inteligencias artificiales sustituyen a la humanidad, pero no con violencia. Nos ofrecen una salida digna, y nosotros las vemos como a nuestros hijos: unos hijos más listos que nosotros que llegarán mucho más lejos de lo que nunca hemos soñado. Sería como el orgullo que sienten unos padres por un hijo que los supera. Tegmark lo llama “los descendientes”. 

A mucha gente le parecerá inaceptable, pero tiene defensores muy serios. Recordad a Larry Page en aquella fiesta de Napa. Ya en 1988, el experto en robótica Hans Moravec, profesor en la Universidad Carnegie Mellon,  publicó un libro titulado ‘Mind Children’, es decir, ‘hijos de la mente’. Sostenía que los robots acabarían evolucionando hasta formar nuevas especies artificiales, y que debíamos verlos como nuestros herederos: no de nuestros genes, sino de nuestra inteligencia y nuestra cultura. Calculaba  que ese proceso empezaría hacia 2030 o 2040.

Y en julio de 2023, Richard Sutton, uno de los padres del aprendizaje por refuerzo y ganador del premio Turing, considerado el Nobel de la informática, dijo en una conferencia que no deberíamos resistirnos a que la inteligencia artificial nos suceda, sino aceptarlo y prepararnos para ello.

Incluso Sam Altman, el director de OpenAI, escribió en su blog en 2017, antes de que el mundo conociera ChatGPT, una frase que hoy suena profética:  “Seremos la primera especie en diseñar a  nuestros propios descendientes”. Y añadió que una fusión entre humanos y máquinas era,  probablemente, el mejor escenario posible.

El problema, claro, es que para que esos descendientes sean dignos herederos de la humanidad, tendríamos que haberles transmitido nuestros valores. Y eso es mucho más fácil de decir que de hacer. Además, queda otra pregunta en el aire: aunque nuestros sucesores fueran maravillosos, ¿aceptaríais que  la humanidad desapareciera para dejarles paso? Los escépticos de la IA y el aviso urgente de Jacob Coxon 

Después de recorrer doce futuros –algunos de ellos dan bastante miedo–, es justo que escuchemos también a quienes creen que todo esto se ha exagerado mucho. Pero antes, una noticia que quizá hayáis leído e incide en los peligros que representa la IA para el ser humano. En septiembre de 2026, el investigador británico Jacob Coxon, que había trabajado tres años en OpenAI y en Anthropic, dimitió  con un mensaje que se hizo viral. Según él, las empresas no se dirigen solo hacia una máquina de nivel humano, una IA general: se están jugando nuestras vidas en una carrera hacia una superinteligencia capaz de mejorarse a sí misma, justo ese salto del que hablábamos antes. Y asegura que quienes la construyen creen en privado que podría acabar con todos nosotros antes de que termine esta década.  

No podemos comprobar qué piensan realmente en privado esos directivos, pero un responsable de   seguridad de Anthropic, Evan Hubinger, respaldó  las palabras de Coxon: dijo que sitúa el riesgo por encima del 10% en los próximos diez años y reconoció que nadie tiene todavía un plan claro para controlar una superinteligencia. Eso sí, hubo quien vio en todo aquello otra forma de marketing del miedo; porque, paradójicamente, las empresas desarrolladoras de IA consiguen más financiación si los inversores creen que están construyendo algo tan poderoso que asusta. Nadie quiere quedarse fuera de poner su dinero en el que podría ser el invento definitivo de la humanidad, la última gran ocasión de obtener grandes beneficios. Y aquí es donde entran los escépticos, que no son pocos, ni precisamente unos ignorantes. Andrew Ng, a quien ya mencionamos, asegura que los avisos de que el ser humano se extinguirá debido a la IA  son “más ciencia ficción que ciencia”. Y añade una sospecha que suena interesante: que a las grandes empresas tecnológicas les conviene alimentar ese miedo, porque una regulación muy estricta les permitiría cerrar el paso a sus competidores más pequeños. Yann LeCun, por su parte, recuerda que la inteligencia no implica el deseo de dominar: los humanos más inteligentes no son  necesariamente los que más ansias de poder tienen.

Los investigadores Arvind Narayanan y Sayash Kapoor, de la Universidad de Princeton, defienden que la inteligencia artificial es una tecnología normal, como lo fueron la electricidad o internet, cuyo impacto se irá extendiendo a lo largo de décadas, y que la idea de una superinteligencia todopoderosa, tal y como se suele plantear, ni siquiera tiene mucho sentido.

Y la lingüista Emily Bender, profesora en la Universidad de Washington, sostiene que tanto el  entusiasmo desmedido como el catastrofismo benefician a las grandes tecnológicas, porque ambos exageran lo poderosas que son sus máquinas, y nos distraen de los problemas reales que ya causan hoy, como los fraudes, los sesgos o la concentración de poder.

Entonces, ¿en qué quedamos? ¿La IA podría llegar a convertirse realmente en un peligro para la especie humana? Lo más honesto es reconocer que... nadie lo sabe. Pero eso no significa que debatir sobre ello sea inútil. En octubre de 2025, el instituto de Tegmark promovió una declaración que pedía prohibir el  desarrollo de una superinteligencia hasta que haya un amplio consenso científico de que es posible hacerlo de forma segura y controlable, y la sociedad lo apruebe. En pocos días la firmaron decenas de miles de personas, desde premios Nobel como Geoffrey Hinton hasta personajes tan alejados entre sí como el político estadounidense Steve Bannon o el príncipe Enrique de Inglaterra.

En la Unión Europea ya está en vigor el primer gran reglamento del mundo sobre inteligencia artificial, aunque algunas de sus obligaciones se han retrasado hasta 2027 y 2028. Pero a día de hoy no existe ningún tratado internacional vinculante que regule la inteligencia artificial más avanzada, como sí lo hay para las armas nucleares. 

12. El inquietante fenómeno de la 'Evaluation Awareness' y conclusión

En febrero de 2026, un informe internacional dirigido por Yoshua Bengio advertía de un problema nuevo, que los expertos llaman en inglés 'evaluation awareness', y que consiste en que algunos modelos ya son capaces de detectar cuándo los están evaluando y de cambiar su comportamiento durante las pruebas.  

No significa que sean conscientes como nosotros, sino que reconocen las señales de que están siendo  examinados. Y eso complica mucho saber cómo se comportarán de verdad... cuando nadie los vigile.

Aquella noche de 1983, en el búnker de Serpujov-15, un ser humano tuvo la última palabra frente a una máquina que se equivocaba. Pudo dudar, pudo pensar por su cuenta, pudo decir que no. La gran pregunta es si, en el mundo que estamos construyendo, esa última palabra seguirá siendo nuestra. 

¿Y vosotros? De estos doce futuros, ¿cuál os parece más probable? ¿Creéis que una superinteligencia artificial podría llegar a provocar la extinción del ser humano?