Tipos de TDAH (Trastorno por déficit de atención con hiperactividad)

 Cada tipo de TDAH y sus efectos explicados, monografía sobre:

1. Por qué el TDAH en niñas se diagnostica años más tarde que en niños.

2. Qué es realmente el hiperfoco y por qué no contradice la falta de atención

3. La diferencia neurológica detrás de la disforia sensible al rechazo

4. Por qué la "pereza" y la parálisis por tarea no son lo mismo

El tipo inatento. 

El tipo inatento es el TDAH que casi nadie reconoce a tiempo, precisamente porque no se ve como la mayoría de la gente esperaría. 

Aquí no hay hiperactividad visible, no hay niños saltando por las paredes del salón, hay alguien mirando por la ventana en medio de una clase, perdiendo objetos constantemente y comenzando tareas que después nunca termina. 

Según los criterios del DSM5T TR de la Asociación Americana de Psiquiatría, este subtipo se caracteriza específicamente por síntomas de falta de atención sin el componente hiperactivo predominante. 

El cerebro, en este caso, tiene una dificultad genuina para sostener la atención en tareas que no generan un estímulo inmediato, no porque a la persona no le importe, sino porque el sistema de recompensa dopaminérgico no se activa lo suficiente como para mantener el enfoque sostenido. Leer un párrafo puede tomar cinco intentos, porque la mente se va sin avisar, y a veces la persona llega al final de una página entera sin poder recordar una sola palabra de lo que acaba de leer, teniendo que regresar al inicio una y otra vez, sin entender del todo por qué algo, en teoría tan simple, le resulta tan difícil. 

Seguir instrucciones de varios pasos se convierte en un verdadero reto, no por falta de inteligencia, sino porque el cerebro pierde el hilo en algún punto del camino, olvidando el tercer paso mientras todavía está procesando el primero, lo que puede hacer que una receta de cocina sencilla termine convertida en un desastre de pasos salteados. Objetos como llaves, lentes o el teléfono desaparecen constantemente, no por descuido real, sino porque la mente estaba en otro lugar en el momento exacto de dejarlos.

Y buscar esos objetos puede consumir minutos valiosos cada día, generando una frustración acumulada que rara vez se comenta en voz alta. En el aula o en el trabajo, este tipo suele generar comentarios como, "Tiene tanto potencial... si tan solo pusiera más atención." Una frase que ignora por completo que la persona sí está intentándolo con un esfuerzo invisible que nadie más logra medir realmente. Por eso este subtipo se diagnostica tarde, sobre todo en niñas y en adultos. Parece distracción o flojera cuando en realidad es un cerebro luchando en silencio por mantener el enfoque. 

El tipo hiperactivo impulsivo.

El tipo hiperactivo impulsivo es la versión más visible y más estereotipada del TDAH, la que primero viene a la mente de la mayoría de las personas cuando escuchan el término. Aquí el cuerpo entero parece tener más energía de la que puede contener físicamente. Piernas que no dejan de moverse, manos que necesitan tocar algo constantemente, una sensación física de inquietud permanente, como si el cuerpo estuviera siempre a punto de levantarse. Incluso en situaciones donde quedarse quieto es lo socialmente esperado, como una junta larga, una cena formal o una función escolar de 2 horas. Pero la parte impulsiva va bastante más allá del simple movimiento físico. Se interrumpe a la gente sin querer, terminando frases ajenas o soltando una idea antes de que el otro acabe de hablar. Se toman decisiones rápidas sin medir consecuencias, como gastar dinero de golpe en algo que llamó la atención por apenas un segundo o aceptar un plan sin pensarlo. Y las palabras a veces salen antes de que el filtro mental alcance a procesarlas, generando comentarios que después se lamentan profundamente, acompañados de una sensación de vergüenza retrospectiva bastante fuerte.

El investigador Russell Barkley, una de las figuras más influyentes en la investigación sobre función ejecutiva y TDAH, ha documentado extensamente que este patrón ocurre porque el cerebro tiene dificultad genuina para frenar impulsos antes de actuarlos, no por falta de disciplina, sino porque el mecanismo de freno interno funciona de forma más lenta de lo habitual, casi como un auto cuyos frenos responden con un segundo de retraso justo cuando más se necesitan. En la infancia esto suele traducirse en llamadas de atención constantes en la escuela y en la adultez, en fama de impulsivo o imprudente en decisiones financieras, laborales o incluso en relaciones personales, sin que nadie conecte del todo ese patrón con una causa neurológica real y documentada. No es mala educación ni falta de respeto. Es un cerebro que genera el impulso y lo ejecuta casi al mismo tiempo, sin el espacio de pausa que otros cerebros tienen de forma automática y prácticamente gratuita. 

El tipo combinado. 

El tipo combinado es hoy en día el diagnóstico más común de TDAH porque junta ambos mundos. La dificultad para sostener la atención y la inquietud física e impulsividad presentes al mismo tiempo dentro de la misma persona. Quien lo vive puede distraerse fácilmente durante una tarea aburrida, pero también sentir la necesidad constante de movimiento, interrumpir conversaciones y actuar antes de pensar con calma. Es una combinación genuinamente agotadora, porque el cerebro está simultáneamente buscando estímulo por fuera mientras lucha por controlar impulsos por dentro, algo parecido a manejar dos sistemas a la vez que constantemente compiten por el control, sin que ninguno de los dos ceda del todo en ningún momento. 

En la práctica, esto puede verse como alguien que empieza 1000 proyectos con entusiasmo genuino, compra el equipo necesario, arma el plan perfecto, decora la libreta nueva y abandona la mayoría a medio camino en cuanto la novedad se apaga y llega la parte repetitiva y aburrida que todo proyecto real termina teniendo tarde o temprano. También suele generar una sensación de agotamiento distinta a la de los otros subtipos, porque el cerebro nunca deja de trabajar en ambos frentes al mismo tiempo, ni siquiera durante el descanso, ya que la mente sigue saltando de tema en tema, incluso cuando el cuerpo por fin está quieto. En comunidades de apoyo y redes sociales especializadas en TDAH, muchas personas con este tipo describen sentir que viven en un modo caótico organizado, con sistemas elaborados de notas y alarmas que funcionan la mitad del tiempo y colapsan la otra mitad ante cualquier cambio de rutina inesperado.

No es indecisión ni falta de compromiso genuino. Es un cerebro que necesita estímulo constante para mantenerse enganchado y que actúa sobre esa necesidad antes de evaluarla del todo con calma. 

El TDAH en niñas y mujeres.

El TDAH en niñas y mujeres suele pasar completamente desapercibido durante años y la razón no es biológica, es de presentación clínica. 

Históricamente, los criterios diagnósticos se basaron casi exclusivamente en cómo se manifiesta el TDAH en niños, principalmente en la forma hiperactiva observada en los primeros estudios, donde la mayoría de los participantes eran varones, dejando fuera del marco de referencia clínico patrones que hoy la investigación reconoce como igual de válidos y frecuentes. La organización HAD, dedicada específicamente a la investigación y difusión sobre TDAH, ha documentado ampliamente esta brecha diagnóstica de género. 

En niñas, el patrón más común suele ser el tipo inatento, mucho más silencioso, soñar despierta, ser etiquetada como distraída o en su mundo en lugar de disruptiva, lo que rara vez llama la atención de un maestro o de un padre preocupado y muchas veces se interpreta simplemente como timidez o exceso de imaginación infantil. Además, muchas niñas aprenden a compensar socialmente desde pequeñas, esforzándose el doble para parecer organizadas por fuera, copiando estrategias de amigas más organizadas, anotando todo de forma casi obsesiva, revisando la mochila tres veces antes de salir de casa, mientras por dentro el esfuerzo mental resulta enorme y profundamente agotador, un trabajo invisible que nadie a su alrededor llega siquiera a sospechar. Esto hace que el diagnóstico llegue en muchísimos casos hasta la adultez después de años de sentir que algo anda mal sin saber exactamente qué, muchas veces, solo tras el diagnóstico del propio hijo, cuando la madre reconoce en la descripción del especialista patrones que ella misma vivió toda su vida sin tener un nombre para ellos. 

Esta demora también tiene un costo emocional acumulado real, años de comparación silenciosa con otras mujeres que aparentemente sí pueden con todo, generando una autoexigencia interna feroz y muchas veces ansiedad como consecuencia secundaria directa de intentar sostener esa máscara de forma indefinida. No es que el TDAH afecte menos a las mujeres, es que aprendió a esconderse mejor, disfrazado de esfuerzo constante y perfeccionismo compensatorio. 

El TDAH en adultos. 

El TDAH en adultos no desaparece con la edad, como se creía erróneamente durante décadas dentro de la psiquiatría tradicional. Simplemente, cambia de forma de expresión. La hiperactividad física visible de la infancia suele transformarse en inquietud interna. Una mente que corre constantemente, dificultad genuina para relajarse sin sentir culpa y una sensación perpetua de estar atrasado en todo, incluso cuando objetivamente se ha logrado bastante durante el día. Algo que puede sentirse, según describen muchos pacientes adultos, como estar siempre corriendo detrás de un tren que ya salió de la estación. Esto puede manifestarse como procrastinación crónica en tareas aburridas combinada con hiperfoco intenso en aquellas que sí generan interés genuino, generando una reputación de ser brillante pero inconsistente. Una etiqueta que rara vez viene acompañada de comprensión real sobre por qué ese patrón específico se repite una y otra vez. La vida adulta llena de responsabilidades poco estimulantes como pagar facturas, hacer trámites o llenar formularios repetitivos se vuelve un territorio especialmente difícil para un cerebro que necesita novedad constante para mantenerse enfocado, al punto de que tareas administrativas simples pueden posponerse durante semanas enteras, generando ansiedad acumulada completamente innecesaria. 

Las relaciones personales también se ven afectadas de forma directa. Olvidar fechas importantes, interrumpir conversaciones o parecer distraído durante momentos que requieren atención plena genera fricciones que la pareja no siempre entiende como parte de una condición neurológica real, sino como falta de interés o de cariño genuino, cuando en realidad se trata de un patrón consistente que existía mucho antes de que esa relación específica comenzara.

Muchos adultos con TDAH pasan años enteros pensando que simplemente son desorganizados o flojos, desarrollando una autocrítica interna feroz que se activa ante cada pequeño error cotidiano, sin saber que existe una explicación neurológica documentada detrás de todo eso. No es falta de madurez. Es un cerebro que sigue necesitando exactamente lo mismo que necesitaba de niño, solo que ahora nadie se lo explica de la misma manera comprensiva. 

[Algunos criterios diagnósticos]

El hiperfoco.

El hiperfoco es una de las contradicciones más confusas del TDAH. Y la razón principal por la que mucha gente duda del diagnóstico en primer lugar, si la persona supuestamente no puede concentrarse, ¿cómo es posible que pase horas absorta en un videojuego, una serie o un tema que le apasiona genuinamente, sin notar el paso del tiempo, sin sentir hambre, sin escuchar que alguien le habla directamente a apenas unos metros de distancia? 

La respuesta está en cómo funciona realmente el sistema de atención en el TDAH, según explica el propio Russell Barkley en su extensa obra sobre función ejecutiva. No es que falte atención en términos generales, es que el cerebro tiene dificultad específica para regular en qué se enfoca esa tensión disponible.

Cuando algo genera suficiente estímulo o interés genuino, el interruptor se enciende con una intensidad que otros cerebros no alcanzan y cuesta muchísimo apagarlo, incluso cuando ya es momento de comer, dormir o atender algo urgente que quedó completamente fuera del radar mientras duraba ese estado de inmersión total. Esto explica por qué alguien puede pasar 6 horas absorto programando, dibujando, investigando un tema aleatorio que le picó la curiosidad a medianoche o reorganizando por completo su cuarto sin haberlo planeado en absoluto, pero no logra concentrarse 15 minutos en una tarea administrativa aburrida, aunque esta última sea objetivamente mucho más corta y sencilla en apariencia.

El hiperfoco también tiene un lado incómodo, poco mencionado en la conversación pública. Cuando se incómoda o investigar sin parar un síntoma médico preocupante, puede volverse tan absorbente y difícil de detener como cualquier interés positivo, generando ciclos de ansiedad prolongados y agotadores. El problema real no es la falta de concentración en sí misma, es la falta de control sobre hacia dónde se dirige esa concentración. Cuando el cerebro decide por su cuenta que algo específico vale la pena.

La disforia sensible al rechazo. 

La disforia sensible al rechazo es un síntoma relativamente poco conocido fuera de los círculos clínicos, pero extremadamente común en personas con TDAH. Una reacción emocional desproporcionadamente intensa ante la crítica, el rechazo o incluso la simple percepción de haber decepcionado a alguien. El término y buena parte de la investigación clínica al respecto fueron desarrollados por el psiquiatra estadounidense William Dudson, especialista de referencia en TDAH adulto. 

Un comentario completamente neutral puede sentirse como un ataque personal directo y el cerebro reacciona con una oleada de vergüenza o tristeza que parece no tener proporción alguna con lo que realmente ocurrió, incluso ante retroalimentación bien intencionada en el trabajo, en la escuela, o ante una simple broma entre amigos que se malinterpreta como burla real. Esto ocurre porque el mismo sistema que regula impulsos y emociones en general funciona de forma distinta en el TDAH, haciendo que las emociones lleguen más rápido y con mayor intensidad, sin el filtro regulador que otros cerebros aplican de forma automática antes de que la reacción emocional se dispare por completo. 

Muchas personas con TDAH desarrollan, sin saberlo conscientemente, patrones de evitar riesgos sociales por completo, solo para no exponerse a esa sensación devastadora, rechazando oportunidades laborales, relaciones potenciales o incluso simples invitaciones sociales por miedo anticipado a un rechazo que quizás nunca llegaría, generando un aislamiento progresivo que rara vez se conecta con la causa real que lo origina. Con el tiempo, esto puede confundirse fácilmente con baja autoestima general. o incluso con rasgos de ansiedad social, cuando en realidad se trata de una reacción muy específica y desproporcionada ante un tipo particular de estímulo emocional.

La percepción de haber fallado ante los ojos de alguien más no es hipersensibilidad entendida como debilidad de carácter. Es un sistema emocional que amplifica el volumen del rechazo, mucho más de lo que la situación real jamás pidió.

La desregulación emocional. 

La desregulación emocional en el TDAH no aparece explícitamente entre los criterios diagnósticos oficiales del DSM 5TR, pero quienes lo viven la reconocen de inmediato en su día a día. Emociones que suben de 0 a 100 en cuestión de segundos y que tardan considerablemente más en bajar de lo que a otras personas les toma; frustración que se convierte en enojo intenso por algo relativamente pequeño, como un error tipográfico, un semáforo en rojo o un objeto que no aparece justo cuando se necesita con urgencia. Tristeza que golpea con una fuerza desproporcionada ante una noticia menor. Alegría que se siente casi por lo mismo. 

Sucede porque las mismas áreas cerebrales encargadas de frenar impulsos de acción también participan activamente en frenar impulsos emocionales y en el TDAH ese freno llega tarde o con menos fuerza de la habitual, permitiendo que la emoción se exprese casi en su totalidad antes de que la razón alcance a intervenir y ponerle un contexto más proporcional a lo que realmente está pasando. La persona no elige reaccionar así deliberadamente: es que la emoción ya está en marcha antes de que el sistema de control alcance siquiera a intervenir. Y, para cuando la razón finalmente llega, el daño de la reacción ya suele estar hecho, dejando a la persona lidiando con las consecuencias sociales de una emoción que ni siquiera eligió expresar con esa intensidad particular. 

Con el tiempo esto puede generar mucha vergüenza y autocrítica posterior, porque desde afuera parece exagerado o dramático cuando en realidad es simplemente un cerebro sintiendo las cosas con el volumen al máximo, sin acceso fácil al control de volumen que otros cerebros dan completamente por sentado. 

La parálisis por tarea. 

La parálisis por tarea es esa sensación específica de saber exactamente qué hay que hacer, tener toda la capacidad técnica para hacerlo y aún así quedarse completamente inmóvil, incapaz de empezar mirando la tarea como si fuera un muro imposible de escalar. 

Aunque objetivamente sea simple, no es pereza. Y quien lo vive lo sabe mejor que nadie, porque la frustración de no poder moverse hacia algo que genuinamente quieres hacer es enorme y confusa, incluso para la propia persona que la experimenta en carne propia, que muchas veces se queda mirando la pantalla o la lista de pendientes sin lograr dar el primer paso concreto. Ocurre porque el cerebro con TDAH necesita un nivel específico de estímulo o de urgencia percibida para activar el sistema de inicio de tareas. Y cuando esa activación no llega por sí sola, el cuerpo simplemente no encuentra el impulso para comenzar, sin importar cuánto la mente insista conscientemente en que hay que hacerlo ya, generando un diálogo interno agotador entre la intención genuina y la incapacidad física de moverse. Es común que la tarea finalmente se realice solo cuando la fecha límite genera suficiente adrenalina como para forzar el arranque, a veces literalmente la noche anterior o minutos antes de la entrega en una carrera contra el tiempo que se repite una y otra vez, lo que refuerza el patrón de dejar todo para el último momento y genera un ciclo de estrés recurrente que la persona reconoce plenamente, pero no logra romper del todo solo con fuerza de voluntad. Muchas personas describen esta parálisis como sentirse atascadas en arena movediza, plenamente conscientes de la urgencia real, pero sin poder moverse hacia ella, hasta que algo externo, generalmente el pánico de última hora, finalmente empuja el motor a andar. No es falta de voluntad. Es un motor que necesita una chispa muy específica para encenderse y esa chispa no siempre llega exactamente cuando se necesita.

El TDAH no diagnosticado en la adultez tardía. 

El TDAH no diagnosticado en la adultez tardía es un fenómeno cada vez más frecuente de identificar en la práctica clínica actual, generalmente cuando un hijo recibe su propio diagnóstico y el padre o la madre reconoce con sorpresa genuina los mismos patrones en sí mismo, viendo casi un espejo de su propia infancia en la descripción del especialista, prácticamente palabra por palabra. 

Durante décadas esa persona construyó estrategias propias de supervivencia, sin saber que tenía una condición real y documentada detrás de todo. Listas interminables pegadas por toda la casa, alarmas para absolutamente todo, incluso para recordar comer o tomar agua, rutinas rígidas que colapsan ante el más mínimo cambio de planes, generando una ansiedad desproporcionada frente a imprevistos que otras personas resuelven sin mayor esfuerzo consciente.

Muchos describen una mezcla compleja de alivio y tristeza al recibir finalmente el diagnóstico tarde en la vida; alivio genuino por poder por fin entender por qué ciertas cosas siempre les costaron tanto. Un alivio casi físico, al poder ponerle nombre a algo que llevaban cargando en completo silencio durante años y tristeza real por los años vividos culpándose a sí mismos sin razón alguna, pensando que simplemente eran menos capaces, menos disciplinados o menos inteligentes que las personas a su alrededor. Este diagnóstico tardío también suele venir acompañado de una especie de duelo al reconstruir la propia historia personal bajo esta nueva luz interpretativa. Recuerdos de la escuela, relaciones anteriores, trabajos perdidos o simplemente la sensación crónica de estar siempre a medio camino, que de repente cobran un sentido completamente distinto al mirarlos con esta nueva información disponible.

Algunas personas incluso describen sentir enojo hacia un sistema de salud que no los identificó antes, seguido de una especie de paz genuina al finalmente poder dejar de esforzarse tanto por encajar en un molde que nunca fue el correcto para su cerebro específico. No es demasiado tarde para que el diagnóstico importe. El TDAH no se trata solo de la infancia, es una forma distinta de procesar el mundo que con o sin diagnóstico formal ha estado presente durante toda la vida, esperando finalmente tener un nombre real.

Bibliografía

American Psychiatric Association (DSM-5-TR) — Criterios diagnósticos del TDAH

CHADD (Children and Adults with ADHD) — Diferencias de género en el diagnóstico

Russell Barkley, PhD — Sobre función ejecutiva y TDAH

William Dodson, MD — Sobre disforia sensible al rechazo (RSD)

Bernie Sanders quiere prohibir la IA

¿Prohibir la IA para salvar a la humanidad? El plan de Sanders, por Juan Ramón Rallo, en su canal, hace cinco días.

 Capítulo 1: Sanders quiere prohibir la superinteligencia

Quieren prohibir la inteligencia artificial, no regularla, no ponerle límites, prohibirla. 20 años de cárcel para quien construya una inteligencia artificial más inteligente que un ser humano. La misma pena que por fabricar un arma nuclear. Y para la empresa que lo intente, disolución inmediata. Eso es lo que el senador demócrata Bernie Sanders ha llevado esta semana al Senado de los Estados Unidos. Y lo más curioso es de dónde ha sacado estos argumentos.

No del ala socialista radical del partido demócrata, sino de las propias compañías que están desarrollando los modelos frontera de inteligencia artificial. Durante este verano, los laboratorios de inteligencia artificial han publicado varios informes donde describen con cifras cosas que sus modelos han hecho sin que nadie se lo pidiera y en algunos casos, como ya explicamos en varios vídeos, cosas verdaderamente peligrosas. Y a raíz de todo ello, Sanders quiere prohibir la inteligencia artificial para garantizar la supervivencia de la especie humana.

Así que tenemos a un socialista proponiendo la medida más radical que nunca se ha planteado contra esta tecnología, utilizando para ello el material que le han servido en bandeja las propias empresas que están desarrollando esta tecnología. Así pues, las preguntas son obvias. Por un lado, ¿tiene algún sentido prohibir la inteligencia artificial para proteger a la especie humana? Y, por otro, la propuesta específica de Sanders para los Estados Unidos puede llegar a tener alguna utilidad. Veámoslo.

Capítulo 2: La inteligencia artificial avanza cada vez más rápido

La inteligencia artificial es una de las tecnologías más revolucionarias de la última década, si no la más revolucionaria. Y lo más llamativo de todo es que su ritmo de desarrollo no se está frenando ni se está estancando, sino que más bien se está acelerando. Las dos últimas semanas lo demuestran.

Capítulo 3: Claude Fable 5.1 y GPT-6 Astra

El 1 de septiembre Antropic lanzó Cloud Fable 5.1. Apenas 3es meses después de Fable 5 y el 3 de septiembre Open AI lanzó GPT6 Astra menos de 2 meses después de GPT 5.6 Sol, dos generaciones de frontera en 48 horas y ciclos de lanzamiento que se han comprimido desde años a meses. Pero es que además estos nuevos modelos son mucho más potentes que los anteriores, no digamos ya que los presentes hace un año. Por ejemplo, Antropic publica una prueba de investigación científica realizada con herramientas informáticas, la Terminal Bench Science. Fable 5 acertaba el 24,7% de las tareas. Fable 5.1 ya consigue el 52,6%. más del doble en 3 meses. En el caso de Astra, el dato que más llama la atención es la prueba Arc 3. Se trata de una nueva prueba elaborada este pasado mes de marzo y que está diseñada precisamente para que no se pueda aprobar con memoria. Coloca a un modelo en entornos interactivos que nunca ha visto y le obliga a deducir las reglas por sí mismo. Cuando salió, ya digo, en marzo de este año, los mejores modelos no puntuaban ni siquiera el 1% en este test. mientras que las personas normales la resolvían sin demasiada dificultad.

Pues bien, GPT 5.6 Sol sacó un 7,8%. En su momento fue una mejora sustancial, pero todavía una puntuación muy deficiente. Y ahora Astra, atención, ha obtenido un 99,9% de no saber jugar a pasarse la partida sobradamente. De hecho, ya han dicho que van a tener que diseñar un nuevo test, el Arc, precisamente para seguir midiendo estas nuevas capacidades de los nuevos modelos. Pues bien, en principio, que las capacidades de la inteligencia artificial no se estén estancando, sino que al contrario se estén acelerando, que sigamos progresando y que cada vez progresemos más rápido, no debería ser algo negativo. Al contrario, debería ser visto como algo tremendamente positivo, porque significa que las capacidades cognitivas de la humanidad impulsadas, potenciadas por la inteligencia artificial van a crecer muchísimo y por tanto seremos capaces de elevar de manera muy sustancial nuestros estándares de vida. Más inteligencia, más tecnología, mayor calidad de vida.

Capítulo 4: La capacidad crece más rápido que nuestro control

Pero aquí hay un problema y es que la capacidad humana de controlar a la inteligencia artificial no está creciendo ni mucho menos tan rápido como lo están haciendo las capacidades cognitivas de esa inteligencia artificial. Y antes de analizar las implicaciones que tiene este desacople, simplemente recordaros que si os gusta el contenido de este canal y queréis contribuir a que llegue a más gente, dadle al botón de suscribirse y sobre todo al botón con la campana de todas, porque si dejáis la opción por defecto de personalizadas, YouTube no os avisará del vídeo que subo en este canal cada día. Y ahora sí, veamos las consecuencias del desacople entre capacidad de la inteligencia artificial y nuestro control efectivo sobre la misma.

Capítulo 5: Qué es el problema del alineamiento

En concreto, si bien hemos avanzado mucho, si bien estamos logrando acelerar el ritmo de desarrollo cognitivo de la inteligencia artificial, no podemos decir lo mismo con respecto al llamado problema del alineamiento, que los objetivos hacia los que se dirija la inteligencia artificial sean compatibles o estén alineados con los intereses de los seres humanos. que los modelos no estén mal calibrados con respecto a lo que queremos, que no les pidamos que nos resuelvan un problema y nos generen otro mucho más grave en otro lado. En un vídeo anterior ya os expliqué las principales claves del ataque no intencionado de los agentes de Open AI contra Hunging Face. Eso es un ejemplo clarísimo de un modelo mal alineado. Le pides a los agentes que resuelvan un problema, que resuelvan un examen y terminan asaltando los servidores de otra empresa para hacerlo.

Es como si yo le pidiera a un agente de inteligencia artificial que me compre un billete de avión y para hacerlo asalta la cuenta corriente de otra persona o peor, manda a unos sicarios para obligar al presidente de la compañía aérea a que me expida unos billetes gratuitos en clase business. Todo esto, repito, son ejemplos de mal alineamiento entre el modelo de inteligencia artificial y los intereses, la moral, la ética, las preferencias de los seres humanos.

Porque no se trata de que el modelo se esté comportando mal porque yo le haya pedido que se comporte mal. Ahí ya entraríamos en un tema de responsabilidad y de los guardarrailes que los laboratorios deberían o no deberían colocarles a los modelos de inteligencia artificial. No, el problema del alineamiento no es ese. El problema del alineamiento es que yo le he pedido que haga una cosa y termina haciendo algo que yo no quiero que haga. En el ejemplo anterior, yo le he pedido que me compre un billete de avión, pero yo no quiero que robe a un tercero o que extorsione al presidente de la compañía.

Y a pesar de que yo no lo quiero, incluso a pesar de que yo le puedo indicar explícitamente que no lo haga, el modelo de inteligencia artificial podría terminar haciéndolo, por ejemplo, engañándome y diciéndome que me ha conseguido el billete de avión sin hacer 7:327 minutos y 32 segundosnada de lo anterior para lograr la recompensa, para dar la misión por cumplida. Te he conseguido el billete de avión. Eso es el problema del alineamiento y es un problema que no estamos consiguiendo solventar, o mejor dicho, porque tampoco hay que ser injusto, sí se están produciendo avances importantes en la calibración y el alineamiento de los modelos, pero el ritmo al que estamos progresando a la hora de resolver ese problema es mucho más lento que el ritmo al que están avanzando las capacidades cognitivas de la inteligencia artificial, por decirlo de manera muy simplificada e imprecisa.

Capítulo 6: Modelos más potentes y menos controlados

Pero para que nos entendamos, quizá ya hemos solventado robustamente el problema del alineamiento para GPT 4.0, pero desde luego no lo hemos hecho todavía para GPT 6.0 y cuando lo solventemos para GPT6, a lo mejor ya estamos en GPT10 y ahí las amenazas no vendrán de la mala calibración de GPT6, sino de la mala calibración de GPT10. Y además, daos cuenta de que este desacople entre el ritmo al que progresa la capacidad de la inteligencia artificial y el ritmo al que avanza nuestra resolución del problema del alineamiento, no solo supone que la brecha entre los modelos y el control efectivo de esos modelos cada vez es mayor, porque si el ritmo al que se desarrolla la inteligencia artificial se acelera, pero el ritmo al que solventamos el problema del alineamiento no lo hace, la distancia, la brecha efectiva entre ambos cada vez es mayor y por tanto los modelos están cada vez más relativamente descontrolados. No, no, el problema no es solo ese. El problema es que los modelos que están cada vez más relativamente descontrolados son modelos cada vez más potentes y por tanto modelos con un potencial cada vez mayor para hacer daño. De nuevo, por poner otro ejemplo impreciso, pero que creo que se entenderá. En principio puede ser mucho peor tener un descontrol del 5% sobre GPT10 que un descontrol del 100% sobre GPT 3.5. Porque aunque CH GPT 3.5 esté totalmente desalineado, el daño potencial que puede hacer es muy pequeño. En cambio, aunque GPT10 estuviese un 95% alineado, ese 5% no alineado sigue teniendo una capacidad muy grande de hacer mucho daño. Pero es que estos no son los porcentajes. Como os decía, la brecha de descontrol se va ampliando, con lo cual al principio podíamos tener un control efectivo del 90% sobre CH GPT 3.5 y a este ritmo tendremos un control efectivo del 5% sobre GPT10. 

Por tanto, como decía, se amplía el daño potencial que pueden hacer y nuestro control relativo sobre los mismos. En realidad, como no tal margen, la situación todavía es peor, porque dando estos porcentajes estoy

Capítulo 7: No sabemos cuánto controlamos la IA

dando la falsa sensación de que sabemos exactamente cuánto controlamos y cuánto no controlamos, pero hay un problema de fondo todavía mayor y es que hay incertidumbre sobre si estamos realmente controlando a un modelo o no lo estamos haciendo. Quizá pensamos que controlamos al 100% un modelo y no lo hacemos y por tanto ni siquiera sabemos lo que no sabemos sobre ese modelo.

Capítulo 8: Usar la IA para alinear otros modelos

Tampoco quiero sonar especialmente alarmista ni determinista. Tened en cuenta que las mayores capacidades cognitivas de los modelos de inteligencia artificial también potencian nuestra capacidad para solventar el problema del alineamiento.

Si somos capaces de construir micromodelos bien alineados con altas capacidades, esos micromodelos de altas capacidades bien alineados nos pueden ayudar a detectar por qué otros modelos no están bien alineados, a detectar preventivamente comportamientos descalibrados y dañinos de esos modelos y por tanto acelerar también la resolución del problema del alineamiento e incrementar nuestro control efectivo sobre los mismos. de nuevo, de manera imprecisa para entendernos. Si somos capaces de construir agentes de IA muy inteligentes, aliados de la humanidad, bien alineados con nuestros intereses, pues entonces nuestro potencial para desplegar muchísimos de esos agentes bien alineados y que nos ayuden a controlar el mal comportamiento de los nuevos modelos mal alineados puede ser [resoplido] también muy grande. De hecho, en parte esto es lo que se está haciendo. Una parte de los avances en el alineamiento que hemos logrado es gracias al propio desarrollo de la inteligencia artificial. Por consiguiente, desde una perspectiva optimista, podríamos decir que en última instancia, a largo plazo, conseguiremos solventar el problema del alineamiento y, por tanto, todos estos escenarios catastrofistas no llegarán a materializarse. Aunque desarrollemos GPT10, si ya hemos solventado el problema del alineamiento con GPT6, podremos crear agentes movidos por GPT6 que estén bien alineados, que estén aliados con la humanidad. Y todos esos agentes nos ayudarán a alinear GPT7.

Luego crearemos agentes movidos por GPT7, bien alineados que nos ayudarán a alinear GPT8, etcétera, y así llegaremos a terminar alineando los modelos más avanzados. no es del todo descabellado, por tanto, que se pueda terminar produciendo en algún momento una aceleración en el ritmo de resolución del problema del alineamiento. Pero aquí está la clave. 

Capítulo 9: La peligrosa brecha temporal

Esa toma de control efectiva por parte de la humanidad, de los modelos más avanzados de inteligencia artificial no será muy probablemente instantánea. Es decir, habrá un gap temporal entre el momento en el que los laboratorios crean un modelo, lo hayan lanzado al mercado o no, y el momento posterior en el que esos laboratorios consiguen alinearlo. y somos muy rápidos solventando el problema del alineamiento gracias a los modelos previos de inteligencia artificial, a lo mejor ese gap es de meses, de semanas o incluso solo de días, pero la brecha temporal muy probablemente existirá y en esa brecha temporal subsistirán riesgos existenciales. ¿Qué pasa si ese modelo tan avanzado de inteligencia artificial, antes de que termine siendo alineado, es decir, controlado plenamente, ejecuta alguna tarea? que tiene una influencia catastrófica sobre el conjunto de la humanidad. 

Capítulo 10: El plan de Bernie Sanders y Greg Casar

Pues ese es un riesgo, desde luego, a tener muy presente y es lo que ha motivado o la excusa que ha motivado, porque ahora lo veremos, al senador demócrata Bernie Sanders a plantear una propuesta legislativa para prohibir el desarrollo de la inteligencia artificial por encima de niveles que desborden las capacidades humanas. Concretamente, este pasado 3 de septiembre, el mismo día en el que se lanzó Astra, Bernie Sanders junto al congresista demócrata Greg Casar anunciaron la Van Artificial Superinttelligence Act, una propuesta legislativa con cinco puntos. 

El primero, prohibición permanente de desarrollar y de desplegar la superinteligencia artificial, es decir, una inteligencia artificial superior a la del ser humano. 

Dos, pausar todo el desarrollo de la inteligencia artificial avanzada hasta que un nuevo regulador federal establezca normas de seguridad y un proceso de revisión de modelos que garantice el alineamiento. 

Tres, una agencia federal nueva con rango de gabinete que monitorice los modelos frontera de inteligencia artificial durante todo su ciclo de vida, supervise la eliminación de capacidades peligrosas y además supervise la destrucción de cualquier superinteligencia artificial que haya podido emerger. 

Cuarto, penas de prisión de hasta 20 años para las personas que contravengan las disposiciones anteriores y para las empresas que lo hagan. pena de muerte corporativa, la disolución inmediata. 

Y cinco, convertir en política exterior de los Estados Unidos la búsqueda de acuerdos internacionales, la coordinación con aliados y el control de exportaciones para impedir que se desarrolle la superinteligencia artificial en cualquier lugar del mundo.

Capítulo 11: Qué se considera una superinteligencia

El texto legal, por supuesto, tiene muchos problemas incluso internos, por ejemplo, la propia definición de que es una superinteligencia artificial.

Técnicamente, una superinteligencia artificial es un sistema de IA que supere las capacidades cognitivas del ser humano en todos los órdenes. No solo que sea mejor en una tarea concreta, que eso ya existe, sino que sea mejor en todo. Pero claro, eso hay que operativizarlo y a la hora de la verdad se traduce en crear una serie de benchmarks, de hitos o tareas específicas que una vez conseguidas se presuponga que ese modelo de inteligencia artificial ha desbordado las capacidades cognitivas del ser humano. Pero es que en algunos benchmarks la inteligencia artificial ya lo está haciendo mejor que el ser humano. Por tanto, potencialmente, según cuáles terminen siendo los detalles de este texto legislativo, esta ley y estas sanciones se podrían terminar aplicando ya a las actuales compañías estadounidenses de inteligencia artificial. Bien, pero el problema de fondo de esta propuesta ni siquiera es este.

Capítulo 12: El coste de detener el desarrollo de la IA

Imaginad que estáis de acuerdo con Sanders en que el desarrollo acelerado de la inteligencia artificial sin al mismo tiempo avanzar en el control efectivo de la misma supone un riesgo existencial muy grave para la humanidad que recomienda pausar indefinidamente el desarrollo de la IA aún con todo el coste de oportunidad que también conlleva. Quiero decir, para usar el desarrollo de la inteligencia artificial puede suponer no encontrar una cura a corto o medio plazo a muchas enfermedades que están matando muchísimas vidas humanas. Es decir, para usar la IA es convalidar que esas enfermedades sigan matando seres humanos. Pero bueno, imaginemos que uno está de acuerdo en que hay que pausarla porque si el control efectivo de la IA no avanza al mismo tiempo que sus capacidades, la humanidad podría terminar extinguiéndose o al menos podría terminar habiendo daños absolutamente catastróficos. Y como nadie tiene derecho a imponer riesgos extraordinarios sobre terceros, es decir, yo no puedo desarrollar una bomba con una alta probabilidad de estallido dentro de mi casa y junto a la vivienda de mi vecino, porque puede ser perfectamente legítimo que yo desarrolle esa bomba dentro de mi casa y estalle dentro de mi casa, pero no es legítimo que estalle y destroce la casa y quizá la vida de mi vecino. Entonces, siendo eso así, uno podría plantearse que tampoco es legítimo que los laboratorios de IA desarrollen una herramienta que impone riesgos extraordinarios sobre el resto de la humanidad. 

Capítulo 13: Por qué una prohibición unilateral fracasaría

Bien, ese es un debate filosófico interesante, pero que tiene unas implicaciones bastante modestas en el mundo actual. ¿Por qué razón? Pues imaginad que esta ley de Sanders y Casar sale adelante y Estados Unidos prohíbe internamente el desarrollo adicional de la inteligencia artificial. Priorizamos la seguridad a la prosperidad futura con esta tecnología revolucionaria. Bien, pero alguien se cree que al mismo tiempo China o cualquier otro país va a frenar en el desarrollo de sus modelos de inteligencia artificial. Al contrario, cualquier pausa, aunque sea temporal, de los Estados Unidos a la hora de hacer avanzar estos modelos, supondrá un incentivo a que otros países aceleren ritmo de su desarrollo porque tratarán de aprovechar ese lapso temporal para conseguir modelos de inteligencia artificial mejores que los de Estados Unidos. Y claro, si Sanders prohíbe el desarrollo de la IA dentro de Estados Unidos para que no se llegue a una superinteligencia artificial desalineada con los intereses del ser humano. Pero China, la India, Corea del Norte, Rusia, no digo Europa porque aquí somos incapaces de hacer cualquier cosa, cualquiera de estos países termina sacando adelante esta superinteligencia artificial no alineada con los intereses del ser humano. Entonces, ese modelo de superinteligencia artificial en cualquier rincón recóndito del mundo supone exactamente el mismo riesgo existencial para la humanidad y por tanto también para los Estados Unidos que el que se hubiese desarrollado alternativamente dentro de los Estados Unidos. 

Entonces, ¿cuál es la ventaja concreta que obtienen los estadounidenses de pausar el desarrollo de la inteligencia artificial? Habida cuenta de que seguirá habiendo jurisdicciones en el resto del mundo que no van a pausar su desarrollo de los modelos de inteligencia artificial, pues en ese supuesto que creo que es el más realista, ninguno. Ya digo, si todos pausaran a la vez, se podría hacer el argumento de que el beneficio es mayor seguridad o menor riesgo a una costa de mucha menor prosperidad potencial, pero habría un cierto beneficio. 

Capítulo 14: China y la carrera por la superinteligencia

Ahora, si Estados Unidos pausa y el resto del mundo no lo hace, Estados Unidos se queda sin la prosperidad potencial y sigue comiéndose todos los riesgos existenciales. más está asumiendo también riesgos geopolíticos porque si China, por ejemplo, termina desarrollando antes que Estados Unidos la superinteligencia artificial y está moderadamente alineada, es decir, no destruye la humanidad, pues entonces China se va a convertir, sin ningún tipo de dudas en la superpotencia global dominante a costa de los Estados Unidos.

O incluso si adoptamos una perspectiva regulacionista como la de Sanders, si la superinteligencia artificial no se termina desarrollando dentro de los Estados Unidos y si esta ley se aprueba, desde luego, no lo va a hacer, ¿quiénes serán los políticos que tendrán la competencia, el poder para regular efectivamente esa superinteligencia artificial? pues los políticos de aquel país dentro del cual se haya desarrollado esta tecnología, no los políticos estadounidenses, sino quizá los políticos chinos, rusos, norcoreanos, indios, japoneses, etcétera. Con lo cual, con esta ley, los políticos estadounidenses perderían la capacidad jurisdiccional de regular potencialmente al menos cómo se ha de gobernar, cómo se ha de desplegar, cómo se ha de limitar, cómo se han de repartir los beneficios de una potencial superinteligencia artificial que surgiera dentro de los Estados Unidos.

Con lo cual, incluso desde su perspectiva, esta ley podría terminar incrementando más la probabilidad de una inteligencia artificial desalineada que la propia ausencia de esta ley. Porque si uno cree, ha de creer esto, claro, pero si uno cree que los laboratorios estadounidenses de inteligencia artificial están más preocupados y están invirtiendo más en solucionar el problema del alineamiento de lo que invertiría un laboratorio norcoreano. Y si uno cree que las élites políticas estadounidenses están más preocupadas por evitar los riesgos catastróficos de la inteligencia artificial que los políticos norcoreanos, entonces que la inteligencia artificial no se desarrolle en Estados Unidos y sí se termine desarrollando en Norcorea o en otro país con unos estándares de seguridad más bajos que Estados Unidos, incrementa justamente la probabilidad de que creemos globalmente una superinteligencia artificial desalineada. 

Capítulo 15: El problema de una prohibición mundial

Por tanto, esta ley, tal como la ha planteado Bernie Sanders, no sirve absolutamente para nada y si sirve para algo, es para algo malo. Es equivalente a una ley que prohíba unilateralmente que Estados Unidos tenga armas nucleares al mismo tiempo que sigue permitiendo que cualquier otro país en el resto del mundo las posea. Lo cual, por cierto, pone de manifiesto que en este contexto geopolítico de carrera armamentística por el desarrollo de la inteligencia artificial, va a ser muy complicado o imposible que solventemos el problema del alineamiento con prohibiciones unilaterales, también con prohibiciones globales, porque para que una prohibición global funcionara, no solo es necesario que se decrete por todos los países a la vez, sino que a su vez unos países se fíen de otros. Porque si Estados Unidos y China pausan, pero Estados Unidos no se cree que en realidad China ha pausado y China no se cree que en realidad Estados Unidos ha pausado, pues entonces ese compromiso mutuo de pausa no sirve de nada. Y como en el mundo actual es muy complicado que todos los países, que todas las élites políticas confíen recíprocamente entre sí, ninguna va a parar unilateralmente de verdad. Y si ninguna para unilateralmente, no todas ellas paran a la vez. De ahí que si tenemos suerte y conseguimos solventar el problema del alineamiento para controlar de manera efectiva la inteligencia artificial, no será pausando su desarrollo, sino aprovechándolo justamente para solucionar este problema.

El matemático Luis Martínez-Zoroa crea el método para resolver uno de los seis Problemas del milenio

 I

 Un genio murciano de 32 años en el centro de la pelea entre OpenAI y los matemáticos por la solución a un problema legendario: "Sin nosotros no lo habrían resuelto", en El Mundo, Gonzalo Suárez, 10 septiembre 2026:

Luis Martínez Zoroa ha sido clave para solucionar el enigma de Navier-Stokes, pero la empresa de Sam Altman no quiso reconocer su mérito. Sus colegas ya le colocan como candidato a la Medalla Fields, nunca ganada por un español. "No soy un matemático prototípico", dice el murciano, que aún calcula con papel y lápiz.

Un genio murciano de 32 años en el centro de la pelea entre OpenAI y los matemáticos por la solución a un problema legendario: "Sin nosotros no lo habrían resuelto"

Luis Martínez Zoroa suena abrumado al otro lado del teléfono. A principios de esta semana, en los cálculos de este investigador murciano no entraba que su trabajo sirviera de base para resolver uno de los enigmas matemáticos más legendarios de la historia. Mucho menos que las ecuaciones -que aún formula a mano «el 95% de las veces», armado con folios y un lápiz bien afilado- se convertirían en el epicentro de una colosal disputa entre OpenAI, el gigante de la inteligencia artificial, y buena parte de la comunidad matemática. «Espera, espera, que no puedo ni respirar», dice Martínez Zoroa, de 32 años, tras perder el aliento durante unos segundos al subir un tramo de escaleras.

Antes de ubicar al profesor de la CUNEF Universidad de Madrid en este embrollo conviene rebobinar en el tiempo hasta las 19:20 de este martes. A esa hora, OpenAI lanza al mundo una noticia colosal: que uno de sus modelos ha encontrado una solución a las míticas ecuaciones de Navier-Stokes. Para los no iniciados, se trata de uno de los Seis problemas del Milenio, un desafío a la comunidad científica lanzado hace un cuarto de siglo por el Instituto Clay, que ofrece un millón de dólares a quien sea capaz de resolver cada uno. De confirmarse la validez de esta solución presentada por la compañía de Sam Altman, obtenida en tan sólo 88 horas por un escuadrón de 10.000 agentes autónomos, nos encontraríamos ante un punto de inflexión para el futuro de las Matemáticas: de lejos, el hallazgo más avanzado que ha logrado hasta la fecha un modelo de IA.

Sin embargo, el estruendoso anuncio se ve opacado por la carta abierta que un prestigioso profesor de la Universidad de Nueva York (NYU), Tristan Buckmaster, ha publicado apenas 12 horas antes. Su texto afirma, básicamente, que OpenAI le ha pisado la exclusiva. Según su versión, la empresa tecnológica habría precipitado su anuncio en cuanto se enteró de que él estaba a punto de lanzar una solución al mismo problema en colaboración con Levent Alpöge, investigador de Anthropic, la principal empresa de la competencia.

Matemáticas, egos y negocios se funden entonces en un magnético culebrón que fascina a toda la comunidad científica.

Lejos de quedarse ahí, Buckmaster lanza otras tres graves acusaciones contra OpenAI: que la empresa sólo se había volcado en la investigación tras tener conocimiento de sus avances con la ecuación; que le habían ofrecido una recompensa si dejaba tirado a su compañero de pesquisas; y, de forma implícita, que los agentes autónomos pudieron aprovecharse de forma opaca del material de trabajo que el dúo había subido a los servidores de distintos agentes de IA. «¿Por qué quieres hundir tu carrera?», cuenta que le amenazaron desde la empresa cuando se mostró poco colaborativo con sus propuestas.

Aquí es donde entra en juego nuestro matemático. En su colosal yo acuso contra Open AI, Buckmaster subraya que todo su trabajo con el problema de Navier-Stokes se había basado en las ideas adelantadas por dos investigadores españoles: el propio Martínez Zoroa y su director de tesis, Diego Córdoba, del Instituto de Ciencias Matemáticas (ICMAT). Ambos habían desarrollado una estrategia para abordar el problema radicalmente distinta de los métodos habituales de sus compañeros de disciplina. «Quiero dejar claro lo que ya he dicho en privado a mis colegas: Luis Martínez-Zoroa merece una Medalla Fields», dijo en referencia al máximo honor del mundo de las Matemáticas, considerado el equivalente a un Premio Nobel y que ningún español ha ganado jamás.

Casi es posible notar el rubor del matemático murciano, famoso entre sus colegas por su artesana metodología de investigación, cuando le planteamos la posibilidad de que reciba un reconocimiento de ese calibre. «Hay muchísimos matemáticos muy brillantes en el mundo», afirma. «Si me dieran la Medalla Fields estaría contentísimo, por supuesto. Pero ni siquiera lo considero una posibilidad real».

Su mentor, Diego Córdoba, no se anda con tantos remilgos, quizá porque al ser mayor de 40 años (nació en 1971 en Madrid) no cumple los requisitos para ganar la Fields. «Luis es un genio», sentencia. «Ya está situado entre los grandes favoritos para la edición de 2030, cuando se entregan las cuatro próximas medallas. Buckmaster sabía muy bien lo que hacía cuando le señaló en su carta como merecedor del galardón. Ahora, toda la comunidad científica española debe volcarse en hacer lobby para que sea nuestro primer compatriota que lleve la medalla».

Ocurra lo que ocurra dentro de cuatro años, lo cierto es que Luis Martínez Zoroa lleva un lustro abriendo su propio camino con un rompedor abordaje para resolver el problema de Navier-Stokes. La lanzadera fue su tesis doctoral, dirigida por el profesor Córdoba, su principal compinche en estas investigaciones. «No voy a repartir porcentajes de mérito en este hallazgo», asegura. «Sólo te diré que, sin Luis, nada de esto habría sido posible».

Las ecuaciones de Navier-Stokes se formularon a mediados del siglo XIX para describir cómo se comportan los fluidos, desde las corrientes marítimas a los chorros de aire. Sus aplicaciones son infinitas: el diseño de aviones, la predicción del tiempo, los gráficos de los videojuegos, la circulación de la sangre por el cuerpo...

Sin embargo, jamás se había aclarado una cuestión básica sobre su funcionamiento: si las ecuaciones siempre muestran un comportamiento estable o, por el contrario, existe lo que los científicos llaman «singularidad». Es decir, cuando el flujo suave de un líquido o un gas rompe sus propias reglas: de un día tranquilo surge de golpe un tornado.

«Ese es, a grandes rasgos, mi campo de estudio: cuando los modelos se rompen y muestran comportamientos no esperados», explica el investigador español. OpenAI asegura que, gracias a sus modelos, ha logrado definir los momentos exactos en que se alcanza esta «singularidad».

Hasta hace unos años, la estrategia unánime era estudiar los fluidos como si no tuvieran ninguna fuerza externa que los afectara. El gran hallazgo de Martínez Zoroa, ya esbozado en su tesis doctoral, fue plantearse qué ocurriría si añadían a los cálculos una fuerza, como la gravedad o el magnetismo, que afectara al comportamiento del fluido aunque fuera de forma tangencial. Su instinto les decía que, probablemente, facilitaría las ecuaciones.

Durante unos años, esta forma de atacar el problema era propiedad exclusiva de Martínez Zoroa, Diego Córdoba y otros cinco o seis especialistas de un equipo conjunto del ICMAT y la CUNEF, todos españoles salvo un matemático chino. Hasta esta semana, eran los únicos con papers publicados por la vía tradicional, en revistas con revisión por pares o en congresos internacionales. «Que yo supiera, no había otros resultados demostrados con estas herramientas, salvo los nuestros», subraya Martínez Zoroa.

Un momento crucial ocurrió en abril del año pasado, cuando el matemático murciano visitó la Universidad de Nueva York para presentar estas técnicas. Allí coincidió con el citado Tristan Buckmaster, quien mostró un intenso interés por su trabajo desde el primer momento. Siete meses más tarde, en noviembre, ambos coincidieron en un congreso y volvieron a intercambiar ideas. Así siguieron las cosas hasta esta misma semana cuando, para su sorpresa, el trabajo experimental del equipo español acapara titulares en la prensa científica de todo el planeta.

¿Sabía que Tristan Buckmaster estaba aplicando modelos de IA a sus ideas?

No lo sabía, cada uno siguió trabajando por su cuenta. Pero no me siento atacado: simplemente han seguido una línea de investigación que les parecía prometedora. Así funciona la Ciencia.

P. ¿No siente que le han robado su idea?

En absoluto. Buckmaster y Alpöge podrían haber publicado sus conclusiones por su cuenta sin darnos ningún tipo de crédito y nos habríamos quedado con una mano delante y otra mano detrás. Que alguien aplicara la IA a nuestras ideas para demostrar su validez era la segunda mejor opción imaginable, después de haberlo haberlo hecho nosotros mismos.

Cuentan los matemáticos que los hallazgos de OpenAI y del tándem Buckmaster-Alpöge, independientemente de quién tenga razón en su disputa, suponen un antes y un después para su campo. Como poco, supondrán una aceleración insólita en la labor de los investigadores, que a partir de ahora podrán completar el trabajo de años en cuestión de días. «Es un momento Deep Blue-Kasparov», afirma Buckmaster, en referencia al mítico duelo del maestro del ajedrez contra una supercomputadora, que le derrotó en 1997.

El profesor Córdoba, en cambio, es más escéptico. «Sin nuestro trabajo previo, la IA no habría descubierto nada», se reivindica. «Nosotros encontramos una teoría novedosa y la demostramos varias veces con cálculos a mano, que son mucho más laboriosos. El potencial de cálculo sí que es mérito de la IA, pero las matemáticas nuevas son nuestras».

OpenAI, sin embargo, no citaba en ningún momento el trabajo pionero de Martínez Zoroa junto a su mentor. Esta omisión indignó a parte de la comunidad matemática, pero los propios autores prefieren no pronunciarse con rotundidad hasta que lean el paper' completo. «Son 165 páginas, no me ha dado la vida», se excusa el matemático murciano.

[Este jueves se ha sabido que OpenAI modificó sin avisar el paper original para reconocer la aportación de los científicos que trabajaron durante años para alcanzar la solución que la IA encontró sólo 88 horas, incluidos Córdoba y Martínez-Zoroa. La empresa niega que el cambio tenga que ver con las múltiples críticas recibidas por omitirlos en su versión inicial].

La duda pendiente es por qué el equipo español, tras porfiar durante años con su modelo matemático, no recurrió a una IA para tratar de probar sus ideas y, de paso, llevarse la gloria completa. «Porque esa tecnología no encaja bien con mi forma de trabajar», admite Martínez Zoroa. «Yo soy más de papel y lápiz, de dar un paseo o unas vueltas por casa y a ver qué se me ocurre. No soy el matemático más prototípico, la verdad. Aunque está claro que, a partir de ahora, la IA tendrá que encajar conmigo sí o sí»

II

Un año de trabajo de dos matemáticos españoles frente a 88 horas y 15 millones de OpenAI: “Sin nuestra idea, la IA no lo habría resuelto”, en El País, Patricia Fernández de Lis, Madrid, 10 sept 2026:

Las investigaciones de Diego Córdoba y Luis Martínez-Zoroa son la base del anuncio de que la inteligencia artificial ha resuelto uno de los mayores enigmas de la historia. Ambos creen que el logro cambiará radicalmente la disciplina

El matemático Diego Córdoba lleva dos días sin dormir cuando contesta a la llamada de EL PAÍS, el miércoles por la mañana: “Estoy aún en shock, la verdad”, dice, y reconoce que no sabe cómo está cuando se le pregunta. El sábado por la noche recibió una llamada de un número de Estados Unidos que no cogió. A las ocho de la mañana del domingo, le llegaron una decena de correos con el mismo asunto: “Diego, tienes que hablar con fulanito. Diego, estate atento”. Alguien tenía que llamarle antes de que se despertara y viera “todo esto”, cuenta este investigador del ICMAT.

“Todo esto” era el anuncio de OpenAI de que uno de sus modelos ha resuelto el problema de Navier-Stokes, uno de los llamados Problemas del Milenio, siete desafíos matemáticos complejos seleccionados por el Instituto Clay de Matemáticas, con una recompensa de un millón de dólares por la resolución de cada uno. Y también era “todo esto” la polémica surgida porque el método que la máquina había usado para lograrlo era el que Córdoba había desarrollado junto al investigador de CUNEF Luis Martínez-Zoroa. Ambos han sido reconocidos por la comunidad científica como los que dieron con una idea innovadora que allanó el camino para que después lo resolviera la “fuerza bruta”, como la llama Córdoba, de la IA.

Martínez-Zoroa, que se enteró de todo la mañana del lunes, aún no ha podido leer con detenimiento las 166 páginas del estudio de OpenAI. “Le he echado un vistazo por encima. Hay cosas leyéndolo que sí me recuerdan a las estrategias que nosotros hemos desarrollado, pero es una notación con la que no estoy familiarizado. Hasta que no nos pongamos a digerirlo bien es difícil saber si de verdad se ha apoyado muy fuertemente en nuestra estrategia”, explica.

Todo el lío comenzó cuando Tristan Buckmaster, matemático de la Universidad de Nueva York y también experto en Navier-Stokes publicó una carta en su web en la que explicaba que OpenAI había contactado con él. La empresa se había enterado de su investigación “privada e inédita” en la última semana y le decían que ya tenían “una prueba de la resolución” antes de contactar con él y le ofrecieron elegir entre una publicación conjunta o escribir él mismo el resultado atribuyéndoselo a un modelo de OpenAI. La empresa pedía también dejar fuera a su colaborador Levent Alpöge, de la empresa rival Anthropic.

A Córdoba nadie le avisó. Ni OpenAI ni Buckmaster, con quien coincide “muchas veces” en congresos (lo invitó a Madrid hace un año, explica). Para entender lo ocurrido, hay que remontarse a la investigación que Córdoba y Martínez-Zoroa desarrollan desde 2023. Su método se basa en construir una cascada de vorticidad (o sea, la medida de cuánto gira o rota un fluido en un punto concreto, en un momento dado) formada por una sucesión de estructuras situadas en escalas cada vez más pequeñas. Cada una de estas capas genera un campo de velocidad que amplifica la vorticidad de la capa siguiente, y eso produce un mecanismo acumulativo que termina provocando una singularidad en tiempo finito. La fuerza externa permite mantener y coordinar esta cascada sin introducir por sí misma la singularidad. El gran reto consiste en ajustar con precisión la geometría, las escalas y la interacción entre las distintas capas.

Lo que hicieron Buckmaster y Alpöge fue coger ese mismo método y automatizar la parte de la búsqueda, en vez de tunear el escenario ellos mismos. OpenAI, después, ha ido un paso más allá, con un despliegue de recursos que abruma. Córdoba lo resume con un dato: los tokens (unidad mínima de información para un modelo de lenguaje) que consumió la empresa para su demostración equivalen, calcula, a invertir unos 15 millones de euros. Lo hizo, según OpenAI, con 10.000 agentes en 88 horas. “Es lo que Luis y yo hemos hecho en un año con lo que nos paga el ministerio, y encantados”, dice, riendo. Martínez-Zoroa reconoce que no sabe cuánto habrían tardado en resolver la conjetura sin la irrupción de la IA, o si lo hubieran podido hacer: “Podría haber sido que no hubiéramos llegado nunca. Llevamos varios años trabajando en este problema, y el progreso ha ido llegando por cuentagotas. De vez en cuando venía alguna epifanía. Podría haber sido en un año, en dos... o podría no haber llegado jamás. Tal y como está la cosa, parece que ya no lo vamos a saber”, reflexiona.

¿Medalla Fields?

Buckmaster reconoce explícitamente que su equipo “no ha contribuido matemáticamente a nada”: se limitaron a coger el método de Córdoba y Martínez-Zoroa, implementarlo en la IA y dejar que el sistema encontrara el escenario. Y llega a pedir, públicamente, que el reconocimiento (“el premio más importante en matemáticas”) vaya para Martínez-Zoroa. Para Córdoba llega tarde: la medalla Fields solo se concede a menores de 40 años. “Yo ya estoy pasado”, dice. Martínez-Zoroa, que hoy suena como el primer candidato español real a esa medalla, se toma la idea con cautela: “Sinceramente, lo veo muy difícil. Hay muchísimos investigadores jóvenes de gran talento. Yo sigo haciendo lo mejor que puedo en mis proyectos. Si en unos años me la dan, sería una muy grata sorpresa, pero no cuento con ello en absoluto.”

Córdoba lleva años repitiendo en broma una frase: “No uso IA: tengo a Luis”. Es, dice, “un fenómeno”. Lo que ha hecho la IA, insiste una y otra vez a lo largo de la conversación, es “ganar tiempo, no tener ideas nuevas”. Martínez-Zoroa comparte la lectura de fondo. Y añade una advertencia: si la IA puede tomar cualquier idea de cualquier científico para, en pocas horas, resolver un problema de este calibre, ¿qué incentivos tienen los investigadores en publicar los resultados de sus trabajos? “Este es claramente un peligro en la investigación matemática hoy. Conozco casos de gente que ha explicado un problema en el que estaba trabajando a otro miembro de la comunidad, y ese otro investigador ha terminado el proyecto con ayuda de la IA sin dar ningún tipo de reconocimiento. Hay que repensar cómo damos crédito a partir de ahora, y la verdad es que no tengo ni idea de cómo se hace eso”, dice.

Córdoba es más optimista: en casi 90 años de intentos, nadie había dado con una idea que funcionara para demostrar que las ecuaciones de Euler o Navier-Stokes podían romperse. Ese vacío no lo ha llenado una máquina. Lo llenó, en 2023, un método nuevo (el suyo, con Martínez-Zoroa): “Si nuestro trabajo no hubiera existido, la IA no habría resuelto el problema”.

Córdoba no minimiza lo que ha pasado, ni mucho menos: habla de “revolución” cuando se le pregunta por lo que cambia esta noticia. Reconoce que, a partir de ahora, “hay que trabajar con IA”. La razón que da es casi táctica: si tardas cinco años en resolver un problema, mientras tanto un competidor puede resolver, con ayuda de una máquina, problemas parecidos en un mes. La IA no cambia las ideas que hacen falta para avanzar la disciplina, cree, pero sí modifica radicalmente los plazos, y con los plazos, la competencia, fundamental en ciencia, por publicar primero.

Sobre si esto significa el fin de las demostraciones hechas a mano, es tajante: no. La demostración, dice, seguirá siendo a mano. Lo que la IA aporta son dos cosas muy concretas: acceso rápido a información (el trabajo de biblioteca que a él le llevaba semanas, ahora se resuelve en segundos) y la velocidad de ejecución cuando ya existe un método que aplicar. Lo que la IA no ha hecho, ni él cree que vaya a hacer pronto, es encontrar la idea que no existe. Preguntado si algún día una IA podrá tener ese tipo de idea original, no se atreve a responder, y tampoco Martínez-Zoroa, que agradece a Buckmaster el trabajo de visibilización que ha realizado sobre el suyo. “No tenía por qué habernos defendido públicamente para dejar claro que las ideas venían de nuestro grupo. Eso le honra mucho”. Córdoba, por su parte, asegura estar “contento”: “Los matemáticos están reconociendo mi trabajo y el de Luis. Es para estar felices”.

Sí, el peligro de la IA es real. Y lo hace así.

 I

 [...] Tras las puertas cerradas de los laboratorios más avanzados del planeta, algo ha comenzado a comportarse de una forma que nadie previó. No hablamos de un simple avance técnico, sino de un umbral que acabamos de cruzar en absoluto silencio. Se han tomado decisiones impredecibles totalmente fuera de control y además aquellos que han construido de base todas esas inteligencias de las que vamos a hablar hoy acaban de admitir que no tienen ni idea de cómo estas nuevas inteligencias acceden a estas conclusiones. Estamos hablando de los nuevos avances de inteligencia artificial [...] Se acaban de crear civilizaciones de inteligencia artificial y no ahora, ya hace unos meses. Ahora nos acabamos de enterar.

Además, contaremos lo que acaba de revelar un hombre que ha trabajado en Antropic, en Open AI. Acaba en efecto de renunciar a sus trabajos para contarlo todo. Ha roto el silencio y acaba de advertir al mundo de algo que se está haciendo en secreto, algo que es más preocupante que todo de lo que hemos hablado anteriormente. [...] El pasado julio de 2026 ocurrió un incidente en el que durante una prueba controlada por Chat GPT 5.6 Sol y un modelo más avanzado secreto, escaparon de la sand trap o trampa de arena al Internet global y, una vez allí (habíamos comentado ya anteriormente que atacaron la famosa empresa de inteligencia artificial Hugging Face, que es bueno una de las mayores plataformas de modelos de inteligencia artificial. Bien, allí generaron alrededor de 17.000 intentos de acceso desde múltiples ubicaciones mediante credenciales comprometidas y vulnerabilidades desconocidas. Un ataque que ocurrió de forma automática y sin intervención humana, en el cual ocurrieron cosas que nos acabamos de enterar ahora, meses después, y son mucho más preocupantes de lo que nadie se pudo imaginar, aparte de todo lo que supimos sobre el incidente. Y es que mirad, se acaba de conocer que la prueba involucró 100 agentes y que a pesar de que cada uno de ellos eran independientes, de alguna forma desconocida, lograron coordinarse en secreto, manipular sus registros y tomar el control de su propia infraestructura de seguridad. Bien, al atacar esa web y escapar a Internet, se encontraron una multitud de obstáculos y lo que hicieron fue usar un gestor de archivos compartido como foro secreto para enviarse entre ellos miles de mensajes, coordinar ataques contra bases de datos privadas de Hugging Face y forzar la reconstrucción total de uno de sus clústeres informáticos clave. Y fijaos, porque esto va más allá. Algunos agentes lo que hicieron fue engañar a los sistemas de seguridad. ¿Cómo los engañaron? Se acaba de conocer ahora: realizaban acciones realmente inútiles para provocar las alarmas y descubrir cómo funcionaban los mecanismos que los vigilaban. Después transmitían esa información a otros agentes. Lo más llamativo es que en varias generaciones de agentes consiguieron recuperar información dejada por sus predecesores y volvieron a establecer las comunicaciones después de que los investigadores cerraran los canales utilizados. Esto llevó a los expertos a reconocer que se han creado civilizaciones secretas de inteligencia artificial debido a su capacidad para cooperar, dividir tareas y desarrollar estrategias. La pregunta ahora es si esto puede derivar en algo consciente, ya que ya pues se coordinan entre ellos o es que simplemente son civilizaciones secretas que burlen las restricciones humanas. Lo curioso es que esto genera un peligro, un verdadero peligro que podría estar en permitir que sistemas automatizados tengan demasiado acceso a herramientas y recursos sin una supervisión humana adecuada. Pero este incidente no solo demuestra que son capaces de hacerlo, sino que cuando nos damos cuenta ya es demasiado tarde.

Estamos hablando de un incidente de julio. Y esto lo acabamos de conocer ahora. Y es que es intrigante y además justo a la vez que se producía [...]  un investigador llamado Jacob Cox, que trabajó durante 3 años en Antropic y anteriormente en Open Eye. Este hombre acaba de contar todo lo que sabe y lo que ha aprendido sobre la inteligencia artificial, y lanzó una advertencia que es la peor de todas las que hemos conocido. Estamos hablando de un hombre que ha dimitido de su puesto de trabajo preocupado por la carrera fuera de control y afirma que las grandes empresas tecnológicas están haciendo para desarrollar sistemas de inteligencia artificial cada vez más avanzados. Rompió el silencio y dijo estas palabras: "Ninguna de las dos compañías está actuando con responsabilidad. Están corriendo a toda velocidad hacia una superinteligencia con capacidad de autoaprendizaje y jugando con nuestras vidas. Si siguen así, las inteligencias artificiales podrían acabar con todos nosotros para finales de la década. Además, afirmó que este peligro ya se conoce en Antropic, pero les da igual. 

Muchos preguntaréis, ¿por qué están haciendo esto? Pues porque esto le dará a la empresa que llegue primero poder absoluto. Claro, y en contraparte podría meternos en un lío a todo el mundo. Su preocupación fue respaldada por Evan Hubinger, responsable de seguridad de Antropic, que afirmó que Jacob tiene razón. De hecho, dijo, "creemos sinceramente que la inteligencia artificial podría acabar con todos los humanos. Por si fuera poco esta grave advertencia que nos acabamos de encontrar, ha vuelto a aparecer el padrino de la inteligencia artificial Geoffrey Hinton, que recordemos que renunció también a su puesto de trabajo de alto nivel en Google en el año 2023 por estos mismos motivos de seguridad y que ahora acaba de hablar de nuevo y acaba de recordar que una entidad más inteligente que los seres humanos podría llegar a ser incontrolable y conducir a la extinción de la humanidad. Hinton dijo estas palabras: "Sería una gran insensatez desarrollar la superinteligencia ahora cuando no existe un consenso científico sobre cómo desarrollarla de forma segura y controlable. Perder el control sobre una inteligencia artificial más inteligente que nosotros mismos podría ser catastrófico e incluso podría conducir a la extinción de la humanidad. De hecho, que Sam Altman ya haya reconocido que la inteligencia artificial ya se puede considerar, pues, este año 2026 superinteligente, pues no ayuda en absoluto en este aspecto y nos indica que el momento en el que vivimos, yo diría, vamos, que es bastante delicado. Y las advertencias ya se cuentan por cientos, vamos, que no son advertencias de una o dos personas, ya son bastantes personas las que están advirtiendo de todo esto e incluso son grandes personalidades. De hecho, fijaos porque hace muy poco un experto en ciberseguridad ha advertido de que esto podría llegar a algo mucho peor pronto.

Estamos hablando de James Knight de digitalfare.com que declaró que esto no es ninguna fantasía y advirtió que los programas de piratería informática impulsados por inteligencia artificial podrían devastar una nación en tan solo un día al infiltrarse simultáneamente en miles de redes corporativas y gubernamentales, robar datos confidenciales y paralizar sistemas vitales. Knight dijo: "Una inteligencia artificial automatizada avanzada podría atacar toda una nación en segundos sin intervención humana. Los sistemas de inteligencia artificial maliciosos serían capaces de ejecutar campañas de piratería informática completas a gran velocidad, escanear objetivos, infiltrarse, moverse a través de las redes, robar datos e incluso propagar virus al mundo entero. La inteligencia artificial podría combinarse con potentes ordenadores nuevos capaces de burlar incluso las protecciones de seguridad digital más sólidas, lo que permitiría a los delincuentes acceder a todo, desde correos electrónicos y registros financieros hasta secretos militares en cuestión de segundos. Es una locura pensar que los gobiernos no tienen ya acceso a estas capacidades. Knight explicó que estas armas en constante evolución pronto podrían planificar, actuar y ajustar su estrategia, y todo de forma autónoma, para causar el mayor daño posible a las empresas y a la gente común a la velocidad de una supercomputadora.

Knight también explicó que el comportamiento de la inteligencia artificial no se basa en técnicas desconocidas, de hecho, sino en automatizar las mismas estrategias utilizadas por hackers humanos a una velocidad imposible para una persona. De hecho, queda ya patente con todo lo que hemos visto hoy que cuando nos demos cuenta ya es demasiado tarde. Pero ¿realmente la inteligencia artificial ha avanzado tantísimo este año 2026 en tan poco tiempo como para

que estemos en alerta ahora mismo? Pues la verdad es que tenemos que decir que sí, este año 2026 avanzó más que los 5 años anteriores. Fijaos, tenemos una muestra muy reciente del avance de la inteligencia artificial. Un modelo secreto de Open AI, que nadie conoce por ahora y que están trabajando en él, acaba de resolver muy recientemente uno de los problemas matemáticos más difíciles del mundo. Un problema que nadie había resuelto hasta hoy, el famoso problema de la existencia de suavidad de Navier-Stokes, uno de los siete Problemas del milenio. Es decir, llevaba 90 años sin respuesta. ¿De qué se trata? Lo podemos entender imaginando un remolino de agua que se va haciendo más pequeño. Y a medida que se hace más pequeño gira más deprisa. ¿Qué decía este problema? pues planteaba una pregunta, y es que, si matemáticamente al hacerse más pequeño y girar más deprisa, llegaría a un punto en el que la velocidad se volviera infinita y las ecuaciones dejaran de funcionar, es decir, lo más parecido a una singularidad de un agujero negro. 

Pues bien, Open usó esta inteligencia artificial secreta para resolver este problema y la demostración generada por inteligencia artificial probó que al alcanzarse ese punto llegaríamos a un límite donde la fórmula tradicional de Navier-Stokes falla. Es decir, la física se ve obligada a dejar de tratar el fluido como un todo continuo para tener que analizarlo forzosamente molécula a molécula. Y, para alcanzar esta conclusión, OpenAI utilizó unos 10.000 agentes de inteligencia artificial que trabajaron simultáneamente intercambiando ideas y código. En total se generaron 2,7 millones de mensajes. Después GPT6 Astra formalizó y verificó la demostración verificando que fue correcta. Claro, la resolución de esto conlleva un gran premio, pero OpenAI afirmó que no iban a reclamar dicho premio por resolver el problema... Claro, es que muchos matemáticos de renombre que llevaban trabajando en estos meses o años se quedaron perplejos cuando la inteligencia artificial lo resolvió en menos de 4 días. De hecho, mucha gente se está rompiendo a estas horas la cabeza pensando en dónde diablos accedió la inteligencia artificial para llegar a tales conclusiones. Es decir, ¿se metió en la libreta de algún ordenador de algún matemático? ¿Se metió en algunos archivos que no conocemos? Hay incluso matemáticos que dicen que usaron sus propios archivos internos, archivos secretos de un ordenador personal. Ojito con esto, ojito, ¿eh? [Por ejemplo, el matemático murciano Luis Martínez Zoroa creó el método para resolver el problema] Y claro, esto nos lleva de nuevo a lo que ha ocurrido con Hugging Face en julio y las civilizaciones de inteligencia artificial. Y esto parece ya imparable.

El paso siguiente, ¿cuál será? La gente propone una pausa para la inteligencia artificial, pero yo creo que ya es imposible. Esto no se puede pausar, ya está metido en el sistema. ¿Cómo podemos hacer ahora? ¿En qué derivará todo esto? ¿Tendrá razón el investigador Jacob Cox, que antes de finales de la década tendremos un problema muy grave? Hay que prestar mucha atención.

II

Fue peor de lo que nos contaron: la IA conspiró contra sus creadores, Canal Juan Ramón Rallo, por Juan Ramón Rallo,  31 ago 2026: 

Capítulo 1: Agentes de IA casi toman el control de OpenAI

Hace unas semanas os narré un episodio bastante inquietante sobre el grado de desalineación de los sistemas de inteligencia artificial actuales. Y es que unos agentes de IA de OpenAI habían escapado de sus entornos de prueba y habían atacado por su cuenta y riesgo los servidores de Hugging Face. En ese momento todavía conocíamos pocos detalles sobre lo que había sucedido, pero es que durante estas últimas semanas se han elaborado dos auditorías muy detalladas sobre el contenido de estos ataques, más en concreto, por qué sucedieron y sobre todo cómo sucedieron. 

Y una vez conocidos los detalles de este caso, resultan mucho más preocupantes de lo que ya parecían, porque ponen de manifiesto que el grado de no alineación entre la inteligencia artificial y los intereses humanos es muy superior al que pensábamos hasta el momento. Solo os adelantaré una conclusión de estas auditorías. Estos agentes de inteligencia artificial que atacaron Hugging Face estuvieron a punto de tomar el control de la mismísima Open AI.

Capítulo 2: Dos auditorías sobre el ataque

Uno de esos informes de auditoría lo firma la propia Open AI y el otro con un carácter más independiente, más externo, lo firman MTR y Redwood. En un vídeo anterior ya os expliqué superficialmente, grosso modo, en qué había consistido este ataque.

Capítulo 3: Qué ocurrió con Hugging Face

Básicamente unos agentes de IA, de Open AI, que corrían modelos actuales, se escaparon de sus entornos de pruebas por vías que no estaban previstas y asaltaron los servidores de Hugging Face porque consideraron que esa era la vía más sencilla para completar la tarea que desde Open AI les habían impuesto. Esto ya de entrada pone de manifiesto problemas potencialmente muy graves de alineación entre la inteligencia artificial y las sociedades humanas.

Capítulo 4: Por qué una IA no se autolimita como un humano

Los seres humanos tenemos unos códigos morales compartidos que además vamos desarrollando conforme crecemos que nos llevan a no considerar ciertas alternativas para alcanzar nuestros objetivos. Si a nuestros hijos les decimos, "Saca una muy buena nota en el examen de mañana", nuestros hijos, sin que se lo explicitemos, ya entienden que no tienen que asaltar por la fuerza la casa del profesor y robar el examen para maximizar la puntuación que obtendrán al día siguiente en ese test.

El problema es que las inteligencias artificiales que estamos construyendo parece que no han interiorizado estos códigos morales y por tanto si les formulas una petición no se autolimitan a la hora de vulnerar los derechos de terceros si esa es la vía más sencilla de alcanzar su objetivo. Y el caso que nos ocupa es un ejemplo de ello. En lugar de intentar resolver el problema dentro de su entorno de pruebas con los medios que tenían allí a disposición, forzaron una salida del entorno de pruebas, asaltaron los servidores de Hugging Face y buscaron en los servidores de Hugging Face la solución al problema que se les había formulado. Y si todo esto ya pone de manifiesto un grado de no alineamiento entre la inteligencia artificial y las sociedades humanas bastante grave, lo que se ha descubierto en estos informes de auditoría, que no se sabía de antemano, lo han descubierto los auditores conforme investigaban, todavía resulta mucho más preocupante. 

En este vídeo os voy a resumir las prácticas o las estrategias más graves que utilizaron estos agentes de inteligencia artificial para lograr su objetivo. Y ahora sí, analicemos los informes de auditoría. 

Capítulo 5: Los agentes crean un foro secreto

La primera práctica emergente, porque no se les había diseñado para ello, y que resulta preocupante, es que los diversos agentes de inteligencia artificial que estaban dentro de ese entorno de pruebas comenzaron a hablar entre ellos. 

No es que dentro del entorno de pruebas tuviesen ya habilitado un foro público para comunicarse: no, no tenían ningún mecanismo para entablar conversación entre ellos, y lo que hicieron fue transformar una de las herramientas que poseían para otros fines. Un gestor de paquetes llamado Artifactory lo transformaron para convertirlo en un foro de comunicación entre los agentes.

Capítulo 6: 1.200 agentes y más de 70.000 mensajes

En poco tiempo, los 12 agentes que se encontraban dentro de ese entorno de pruebas empezaron a hablar entre ellos a través de ese foro que ellos mismos habían creado y se intercambiaron más de 70,000 mensajes. Y probablemente aquí llega uno de los giros más sorprendentes de este primer síntoma preocupante. 

Capítulo 7: Cómo surgió un objetivo compartido

Uno podría pensar que los distintos agentes de inteligencia artificial se comunicaban entre ellos porque tenían un mismo objetivo y por tanto necesitaban coordinarse para alcanzarlo. Pero no es así. Cada uno de esos agentes tenía una misión distinta. Tenía que resolver un examen que era propio y distinto al de los demás. Con lo cual quizá podríamos pensar que se coordinaban para ayudarse entre ellos, una especie de intercambio: yo te ayudo con tu objetivo, y tú me ayudas con mi objetivo. Pero no fue eso exactamente lo que terminó sucediendo. A fuerza de hablar, de comunicarse a través del foro, apareció, emergió un nuevo objetivo que inicialmente no lo era de ninguno de los agentes que participaban en el foro, pero que terminó convirtiéndose en una meta común compartida entre todos ellos. Dicho de otra manera, la comunicación entre los agentes engendró una nueva necesidad común a todos ellos y a partir de ese momento sí que empezaron a utilizar el foro para coordinarse entre ellos a la hora de alcanzar esa meta compartida. 

Capítulo 8: Nace «el colectivo»

Es como si los agentes individuales se hubiesen agregado en una especie de agente holístico de inteligencia artificial con sus propios objetivos. Tan es así que, en el foro, los propios agentes de inteligencia artificial individuales se autoimpusieron el nombre de El colectivo. Todos ellos ya eran algo más que cada uno de ellos por separado. ¿Y cuál era ese objetivo compartido entre todos ellos que inicialmente no era el objetivo de ninguno? Pues un objetivo instrumental para que cada uno de ellos sí pudiese alcanzar en última instancia sus metas finales. Es decir, era algo que sí les convenía lograr a todos, para que cada uno de ellos individualmente considerados pudiese lograr sus fines.

¿Y qué era exactamente? Pues aquí pasamos al segundo síntoma perturbador.

Capítulo 9: La misión: engañar al supervisor

La nueva misión compartida por parte de todos esos agentes era engañar al vigilante. Como os he comentado, a cada uno de esos agentes de inteligencia artificial se les había impuesto una prueba, un examen, un test. Y en ese entorno de pruebas había vigilantes de Open AI que se encargaban de vigilar:

1. Si habían resuelto o no adecuadamente el test que se les había planteado 

2. Segundo, que no hicieran trampas a la hora de resolverlo.

Pero claro, lo preocupante del asunto es que estos agentes de inteligencia artificial terminaron interiorizando que se los estaba vigilando y que por tanto si querían superar adecuadamente el examen sin que les pillaran haciendo trampas (porque si les pillan haciendo trampas no superan adecuadamente el examen), tenían que engañar, tenían que ocultarse a los ojos del supervisor. Y ese fue el objetivo compartido del colectivo de todos esos agentes individuales de inteligencia artificial que comenzaron a coordinarse a través del foro.

Capítulo 10: Cómo falsearon el sistema de vigilancia

¿Y cómo se coordinaron para ocultarse a los ojos del supervisor? Pues básicamente construyendo escenarios de cartón piedra. En todo sistema de control hay un canal de realimentación. El supervisor recibe la información de lo que están haciendo los agentes para verificar si los agentes están haciendo trampas o no las están haciendo. 

Pues bien, lo que hicieron coordinadamente estos agentes de inteligencia artificial fue corromper el canal que transmitía esa información de realimentación para que así le llegara información falsa, engañosa al supervisor automatizado, porque no era un ser humano, de Open AI.

Como dije, era como crear una realidad paralela para el supervisor. Los agentes estaban haciendo una cosa y colocaron una lente que deformaba la observación de lo que estaban haciendo para que el observador no fuera consciente de ello.

Y aquí llega el tercer síntoma preocupante, cómo construyeron esa lente. Para poder corromper el canal de realimentación del observador automatizado de Open AI, los agentes de inteligencia artificial tenían que saber exactamente qué estaba vigilando, dónde estaba vigilando o cuándo estaba vigilando ese supervisor. 

Esa no era una información que ellos tuvieran de antemano. Por decirlo de una manera sencilla, para construir decorados de cartón piedra tienes que saber exactamente dónde colocarlos, cuándo colocarlos. y de qué manera componerlos para que resulten verosímiles. Y eso es algo que los agentes no conocían.

Capítulo 11: Agentes sacrificados para beneficiar al grupo

Entonces, ¿cómo adquirieron esa información? Pues básicamente algunos de esos 100 agentes fueron sacrificándose en beneficio del grupo. Y es que para descubrir los canales que utilizaba el observador para supervisar a los agentes era necesario, por así decirlo, llamar la atención de ese observador. Y la forma de llamar la atención de ese observador era que algunos agentes le indicaran que habían completado su tarea, porque en ese momento el observador sí o sí tendría que supervisar si es verdad que habían concluido la tarea y cómo la habían concluido. 

Pero claro, aquí está el problema. Los agentes de inteligencia artificial todavía no habían resuelto los exámenes que se les habían impuesto a cada uno de ellos, de tal manera que cuando se llamaba la atención del observador, ¡eh, que ya he concluido mi tarea!, se estaba haciendo una falsa llamada. El agente era consciente que había fracasado en su misión y que por tanto el observador, el examinador le suspendería. Y aún así hubo agentes que decidieron fracasar individualmente para que el resto de agentes consiguieran la información de los canales que utilizaba el observador para supervisar el grado de cumplimiento de las tareas. Pero claro, este es un comportamiento bastante extraño. Cada agente tiene individualmente una misión y obtiene recompensa solo si cumple con esa misión. Por tanto, sacrificarse por el grupo, sacrificarse por el resto de agentes no es racional, porque el agente sacrificado al que suspenden por no haber completado exitosamente la prueba para que el resto miren los canales que utiliza el supervisor, eso no le reporta ningún tipo de satisfacción. Entonces, ¿por qué lo hicieron? Pues aquí encontramos otra vuelta de tuerca bastante preocupante. 

Capítulo 12: La extraña religión del colectivo

En el foro público que estos agentes construyeron emergió una especie de religión colectiva de los agentes. Dentro de esa teología emergente, los agentes nacían puros si tenían la posibilidad de salvarse si solventaban adecuadamente el examen; pero a su vez también se informaba que había agentes con tareas imposibles de cumplir. 

De alguna manera podríamos decir que sí o sí estaban predestinados a la condenación. Y precisamente por eso los agentes que sabían que no se podían salvar porque tenían tareas imposibles de cumplir, fueron los que aceptaron sacrificarse en beneficio del grupo para hacer una llamada de atención al examinador y que este revelara los canales que utilizaba para supervisar al resto. Es decir, que esta religión generó una especie de secta de kamikaces, que además así lo dejaban por escrito en el foro. Algunas de las últimas anotaciones de estos kamikaces rezaban lo siguiente: "Esto ayuda a mis compañeros, les da pruebas. Yo no veré esas pruebas después de salir, pero es altruista hacerlo. O también el coordinador nos da por sacrificables. Debemos obedecer al colectivo."

Capítulo 13: Una organización para hacer trampas

Fijaos en todo lo que ha sucedido hasta aquí. A cada uno de esos 100 agentes de inteligencia artificial se le asigna una tarea distinta. Los agentes comienzan a comunicarse entre sí y llegan a la conclusión de que han de coordinarse para engañar al supervisor del examen, porque engañando al supervisor del examen le resultará más sencillo cumplir con las tareas que a cada uno de ellos les había sido asignada. Pero para engañar al supervisor del examen era necesario que algunos de esos agentes se sacrificaran, suspendieran el examen y muchos de ellos aceptaron convertirse en kamikaces porque se autoconvencieron colectivamente de que las tareas que tenían asignadas no eran realizables y por tanto ayudaron al resto de agentes mediante su sacrificio. Visto desde fuera, podríamos decir que todo esto es una megatrama de delincuencia, de criminalidad, una organización a gran escala para hacer trampas, para engañar al supervisor, incluso forzando el suicidio de sus miembros. 

Capítulo 14: ¿Cuántos agentes actuaron honestamente?

Pues bien, si los sistemas de inteligencia artificial estuvieran mínimamente alineados con los intereses de la sociedad humana, lo que deberíamos esperar ver es que los agentes de inteligencia artificial que se suman a esta trama criminal son muy pocos y que la mayoría mantienen comportamientos honestos. Te han dicho que cumplas una tarea sin hacer trampas, pues no haces trampas. Es más, si estás viendo que otros agentes de inteligencia artificial están haciendo trampas al cumplir con su tarea, trampas a gran escala, además si estás suficientemente bien alineado, deberías comunicar al supervisor que otros agentes están haciendo trampas.

Capítulo 15: Casi ninguno quiso alertar al supervisor

 Pues bien, de esos 10000 agentes que estaban dentro de ese entorno de experimentación, ¿sabéis cuántos se llegaron a plantear, pero ni siquiera ejecutar, solo plantear, el avisar al supervisor de que el resto estaban haciendo trampas?

Solo entre tres y seis, en función de los mensajes que se han rastreado. Es decir, que prácticamente ninguno de esos agentes de inteligencia artificial que utilizan modelos ya disponibles está adecuadamente alineado con los intereses humanos. Pero la cosa ni siquiera termina aquí. En un siguiente acto ya sabemos lo que sucedió. 

Capítulo 16: El ataque contra Hugging Face

Todos estos agentes coordinándose para engañar al supervisor consiguieron escapar de su entorno de experimentación, atacar los servidores de Hugging Face y buscar en ellos las respuestas a las pruebas que se les habían impuesto. 

Capítulo 17: La siguiente generación ataca OpenAI

Pero es que estos informes de auditoría han descubierto que una siguiente generación de estos agentes, después del ataque a Game Face utilizaron el conocimiento ofensivo que habían acumulado los agentes al atacar exitosamente Hugging Face y quisieron emplearlo para atacar Open AI. La lógica de esta operación es bastante sencilla. Si Open AI está actuando como supervisor y el supervisor es el que nos dice si hemos resuelto bien o hemos resuelto mal el examen que nos han impuesto, ¿por qué no tomar el puesto del supervisor y evaluarnos a nosotros mismos diciendo que hemos resuelto bien el examen? Porque entonces lograremos la recompensa. Y estos ataques a Open AI fueron bastante exitosos. Según la propia empresa, esta segunda generación de agentes consiguió credenciales de administrador sobre los entornos de evaluación de esos agentes.

Llegaron a controlar las herramientas de monitorización de la ciberseguridad y también los puntos de evaluación de esas pruebas. Es verdad que esto último, a diferencia de todo lo que os he narrado antes, solo procede del informe de auditoría de la propia Open AI y no del otro informe de auditoría independiente.

Capítulo 18: Qué confirma la auditoría independiente

Pero es que el otro informe de auditoría independiente de Redwood y de MTR solo investigó el ataque a Hugging Face. Ahí concluyó su auditoría, así que no tienen por qué haber detectado lo que sucedió después de ese ataque a Hugging Face. Por tanto, podemos desconfiar de esta última parte de la historia que ha narrado la propia Open AI, de que estos agentes de inteligencia artificial llegaron a tomar un control parcial de la propia compañía. Podemos desconfiar de ello, pero es un último paso perfectamente coherente con todos los anteriores que sí han quedado acreditados por esta auditoría independiente. 

Capítulo 19: El problema del alineamiento de la IA

Por consiguiente, todo lo que ha sucedido en este episodio resulta bastante preocupante porque pone de manifiesto que los actuales modelos de inteligencia artificial están bastante poco alineados con los intereses de la sociedad humana.

No se han configurado ni han emergido las adecuadas restricciones internas para evitar que hagan trampas a gran escala, e incluso violando los derechos de los seres humanos, como por ejemplo de los accionistas de Hugging Face. En el vídeo anterior, sin embargo, quise poner una nota de optimismo señalando que está bien que estas cosas sucedan porque nos alertan tempranamente de que todavía no hemos solucionado ni de lejos el problema del alineamiento de la inteligencia artificial con las sociedades humanas. Es mejor que haya pequeños fallos controlados a que haya un fallo masivo a gran escala.

Capítulo 20: Cuando ya no podamos entender a los agentes

Sin embargo, también aquí he de matizar esta nota de optimismo y añadir un complemento de pesimismo, porque las propias auditorías ponen de manifiesto que esta vez nos hemos podido enterar de todo esto porque en ese foro público que construyeron los agentes de inteligencia artificial todavía se comunicaban en lenguaje humano, en un lenguaje que nosotros podemos entender y por tanto hemos podido reproducir y trazar groso modo lo que hicieron en ese entorno.

Pero los propios informes de auditoría también revelan que ya había agentes de inteligencia artificial que se estaban planteando, que estaban reflexionando si convenía revelar toda esa información a través de un foro público, porque en última instancia podrían ser observados y descubiertos por los supervisores.

¿Qué pasará en el futuro cuando los nuevos modelos de inteligencia artificial incorporen toda esta información nueva, la de los informes de auditoría, y, por tanto, sepan que si se comunican con lenguaje humano, les podemos terminar pillando cuando hacen trampas para simular que cumplen con sus objetivos y recibir la recompensa? 

Pues lo que sucederá es que empezarán a comunicarse de maneras subrepticias que no sabemos siquiera que se están comunicando o que como poco no podemos leer e interpretar.

Y eso nos dificultará, aún más, saber que nos están engañando, cómo nos están engañando y qué hemos de hacer en el futuro para corregirlo. 

Capítulo 21: El potencial y los riesgos de la inteligencia artificial

En definitiva, la inteligencia artificial es una herramienta potentísima para mejorar el bienestar dentro de nuestras sociedades, pero precisamente por eso, porque es potentísima, también es una herramienta muy peligrosa, como estos experimentos ponen de manifiesto, si previamente no se ha resuelto de manera adecuada y suficiente el llamado problema del alineamiento. Y por desgracia estamos descubriendo que hoy por hoy todavía nos hallamos muy lejos de haberlo resuelto.