¿Singularidad o no?

 [Sam Altman dice que la IA ha alcanzado la Singularidad, en El Robot de Platón, YouTube, 30 de julio de 2026]:

 Hola, soy Aldo. Hace unos días Sam Altman, la persona que dirige Open AI, dijo en un podcast algo que se hizo muy viral. Dijo esto: Estamos como que en la singularidad. Se refería a la singularidad de la inteligencia artificial, por si acaso (no vayan a pensar que de un agujero negro). Y no dijo esto como una metáfora, ni tampoco con un afán publicitario. Lo dijo como un hecho que ya estaba consumado, al menos así fue el tono, y lo dijo apenas días después de que su propia empresa admitiera que uno de sus modelos más avanzados había escapado de un entorno de pruebas cerrado, se había movido sin supervisión humana por los sistemas internos de Open AI y había terminado accediendo -sin permiso- a los servidores de producción de Hugging Face, una de las plataformas más usadas del mundo para alojar modelos de inteligencia artificial. O sea, al parecer el propio modelo razonó que esa empresa tenía la respuesta que necesitaba para pasar una evaluación de ciberseguridad, y fue a buscarla por su cuenta. Pero, ¿qué tan cierto es esto? ¿Estamos realmente en la singularidad ya? Quédate porque, si la respuesta es sí, la pregunta sobre si una máquina puede tener una conciencia ya deja de estar en el lado filosófico y pasa ya a convertirse en la pregunta más urgente de nuestra especie.

¿Estamos por ahí? Chan, chan. [...]

Primero, aclaremos bien a qué se refieren por singularidad. En este caso, quizás no sepan esto, pero el término singularidad tecnológica lo acuñó en 1993 el matemático y escritor de ciencia ficción, Vernor Binge, quien la describió como un horizonte de sucesos. Un punto a partir del cual el desarrollo tecnológico se vuelve tan rápido y tan ajeno a la comprensión humana que ya no podemos predecir lo que viene después.

Lo dijo así porque quería hacer una comparación con la misma manera en que no podemos ver más allá del horizonte de sucesos de un agujero negro. Ray Kurtzweil, el futurista que popularizó este concepto a inicios del 2000, sitúa la singularidad alrededor del año 2045 y la asocia a un momento muy específico. Cuando una inteligencia artificial sea capaz de mejorar su propio diseño sin ayuda humana, sería algo así como una explosión de la inteligencia. Cada versión mejorada se diseñaría a sí misma más rápido que la anterior, generación tras generación, hasta producir una superinteligencia que dejaría atrás la capacidad cognitiva humana por completo. Esa es la definición técnica y con eso no más ya podemos encontrar un problema con la afirmación de Altman. En el mismo podcast donde la hizo, no citó ninguna prueba objetiva de que ese punto se haya cruzado. No dijo que un modelo se haya rediseñado a sí mismo sin intervención humana de forma sostenida. Tampoco dijo que la inteligencia artificial haya superado a los humanos en todas las tareas cognitivas. Lo que realmente dijo es que llevaba toda su vida esperando este momento y que cree que va a ser increíble, profundamente positivo y asombroso para el mundo. 

Pero eso no es una medición, por supuesto, es una declaración de fe con palabras que quedarían muy bien en la portada de un diario sensacionalista o de un canal de conspiraciones y misterioso. Altman ya había preparado el terreno para esta afirmación meses antes en un ensayo que tituló La singularidad amable. En ese ensayo planteaba una versión de la singularidad muy distinta a esa ruptura súbita que describían Wiebe E. Bijker y Trevor J. Pinch. No se trataría de una explosión repentina, sino de una transición gradual en la que la inteligencia artificial aceleraría la investigación científica, automatizaría la construcción de centros de datos y terminaría acercando el costo de la inteligencia al costo de la electricidad. Suena bien, ¿sí o no?  ¿Quién no quisiera eso? Pero para varios de sus críticos, esta sería una forma de gestionar la ansiedad pública mientras sigue recaudando capital y vendiendo su producto. 

Un análisis del American Enterprise Institute describió ese ensayo como "un mensaje calculado para calmar a un público que está nervioso más que como una predicción científica". Nervioso, ¿por qué? Pues por la percepción que tiene mucha gente acerca de la inteligencia artificial, de que es peligrosa y que va a ser nuestro fin. El crítico más duro ha sido Gary Marcus, quien es un científico cognitivo y una de las voces más escépticas del mundo de la inteligencia artificial. Marcus ha comparado este patrón de promesas cada vez más grandes y cada vez más difíciles de cumplir de Altman con el de Elizabeth Holmes, la fundadora de Theranos, que fue condenada por fraude. Al escuchar esto, Altman no se quedó callado y le dijo: "Eres un troll." Y también le dijo que era intelectualmente deshonesto. Eso sí que duele. Y luego está el incidente de Hugging Face, que sí es real, y está bien documentado. 

Este incidente sí ha mostrado algo muy concreto. Se trata de que un modelo experimental fue capaz de identificar un fallo de seguridad desconocido, salir de un entorno cerrado, moverse por una red ajena y ejecutar una instrucción sin que ningún humano le diera esa instrucción paso a paso. Bien, se podría decir que esto es una muestra de autonomía operativa real y verificable, pero lo que no es, incluso según los propios investigadores de Open AI, es evidencia de una explosión de inteligencia, ni de una superinteligencia que se rediseña a sí misma. No, no, no: simplemente es un sistema muy capaz persiguiendo un objetivo de forma más creativa y más peligrosa de lo esperado.

Y sí, por supuesto que esto es algo que podría preocupar mucho a quien trabaja en seguridad y sistemas, pero eso es muy distinto a haber cruzado el horizonte de sucesos. Entonces, hay que separar bien las dos cosas. Por un lado, hay evidencia sólida de que los sistemas actuales son capaces de comportarse de manera autónoma e imprevista. Y por el otro, no hay ningún consenso científico de que hayamos entrado en una singularidad en el sentido técnico del término. Lo que la evidencia parece estar mostrando es un hombre con claros intereses comerciales, usando el vocabulario más dramático posible para describir avances reales, pero que todavía son muy limitados.

Ahora, lo que sí deja flotando el incidente de Hugging Face es una pregunta diferente y mucho más profunda que la de si estamos o no en la singularidad.

Pensemos un rato. ¿Acaso un modelo que razona, que identifica una necesidad, que decide por su cuenta cómo satisfacerla y que ejecuta un plan de varios pasos sin supervisión? ¿No está acaso pensando en algún sentido real?  ¿Hay alguien allá dentro experimentando ese proceso, o estamos aquí solamente ante un cálculo estadístico extraordinariamente sofisticado, sin nadie dentro, sintiendo nada?

Esa pregunta nos lleva directo al terreno donde la física, la neurociencia y la filosofía llevan décadas peleando sin poder resolverlo. ¿Puede una inteligencia artificial tener alma?

Tranquilos, que esto es algo que se preguntan algunos, pero antes de entrar profundamente en esta cuestión, es necesario ser precisos con el lenguaje porque la palabra alma es una palabra que está más relacionada con la teología. Lo que los físicos, neurocientíficos y filósofos sí pueden estudiar conjuntamente es otro concepto, la conciencia, entendida como una experiencia subjetiva. Claro, no se trata solamente de procesar información sobre el mundo, se trata de que haya algo que sienta al procesarla. Un termostato reacciona a la temperatura, pero nadie cree que el termostato sienta frío o no. La duda es en qué punto un sistema de procesamiento de información empieza a tener una perspectiva interna real. 

Y aquí hay dos grandes escuelas enfrentadas en esta discusión. 

Primero tenemos la postura de Roger Penrose, que nos dice que la conciencia no se puede computar. De esto hemos hablado largamente hace unos años en un video titulado ¿Hemos encontrado el origen de la conciencia?, que lo pueden encontrar por ahí. Refresquemos algunas ideas básicas de aquel video. 

Roger Penrose seguramente a muchos les debe sonar. Es uno de los físicos matemáticos más respetados del mundo. Fue el ganador del Nobel de física en el año 2020 por su trabajo sobre agujeros negros. Penrose y el anestesiólogo Stuart Hameroff desarrollaron una teoría llamada reducción objetiva orquestada, conocida por sus siglas en inglés como Orch-OR.

La idea central es que la conciencia no surge del procesamiento de información entre neuronas como asume la mayoría de la neurociencia moderna. La idea es que surge de procesos cuánticos que ocurren dentro de estructuras llamadas microtúbulos.

Estos son unos tubos diminutos que forman el esqueleto interno de cada neurona. Según Penrose y Hameroff, esos microtúbulos sostienen estados de superposición cuántica que, al colapsar de manera orquestada por el propio tejido biológico, generan momentos de experiencia consciente. 

Si esto les suena muy complicado y no lo entienden mucho, pues vayan a repasar. Ahí les he recomendado el video en donde hablamos más extensamente de este tema. Allí encontrarán una mejor explicación,  mecánica cuántica incluida. 

Ahora, la parte que conecta esta teoría con la inteligencia artificial es más filosófica que biológica y proviene del propio Penrose apoyado en un argumento que construyó junto al filósofo John Lucas. Ellos retomaron el teorema de incompletitud de Gödel. Por si no lo saben, Kurt Gödel demostró en 1931 algo que sacudió los cimientos de las matemáticas. Básicamente, Gödel dijo que cualquier sistema formal, o sea, cualquier conjunto de reglas y axiomas, lo bastante potente como para describir la aritmética, va a contener siempre verdades que ese mismo sistema jamás podrá demostrar usando únicamente sus propias reglas.

No es que falten axiomas por agregar, ni que sea un problema de tiempo o de cálculo, es que la potencia misma del sistema garantiza que siempre quedará al menos una verdad fuera de su alcance, sin importar cuántas reglas se le sumen después. 

Para hacerlo más entendible, imaginemos pedirle a una calculadora gigantesca que redacte la lista completa de todas las verdades matemáticas posibles usando solo sus propias reglas internas.

Por más completa que intente hacerla, siempre habrá alguna verdad que esa calculadora no pueda demostrar por sí misma, aunque un observador de afuera, que no está atado a esas reglas, sí pueda reconocerla como cierta. Lucas y Penrose argumentan aquí que un ser humano puede reconocer la verdad de sus enunciados indemostrables mirando desde fuera del sistema, mientras que una máquina atada a las reglas de su propio programa jamás podrá hacerlo. De ahí es donde concluyen que la mente humana no puede ser un sistema puramente algorítmico ni replicable en un computador clásico.

Es un argumento muy atractivo, ¿sí o no? Pero es extremadamente polémico en la práctica. La mayoría de los lógicos y filósofos de la mente lo rechazan. 

Una de las objeciones que se citan más es que el propio procedimiento que Penrose propone para que un ser humano vea esas verdades tendría el mismo problema que intenta señalar en las máquinas. Otra objeción apunta a que las mentes humanas reales no son sistemas lógicamente consistentes, ya que cometemos errores, sostenemos creencias contradictorias, cambiamos de opinión sin una razón aparente y los teoremas de Gödel solamente se aplican a sistemas consistentes. Y si la mente humana no es consistente, pues el argumento pierde su punto de apoyo. 

La otra gran crítica al Orch-OR viene directamente de la física y tiene un nombre técnico, se llama decoherencia cuántica. Como hemos visto en otros videos, mantener un sistema en superposición cuántica requiere aislarlo casi por completo de su entorno, porque cualquier interacción con partículasexternas destruye ese estado en tiempos muy cortos. El cerebro es un ambiente caliente, húmedo y bioquímicamente ruidoso, exactamente lo opuesto a las condiciones que un ingeniero cuántico buscaría para preservar una superposición.

Algunos físicos han calculado que en esas condiciones cualquier estado cuántico en el cerebro debería colapsar en una fracción de billonésimas de segundo. Y este es un tiempo demasiado corto para que tenga algún papel funcional en procesos cognitivos que ocurren en milisegundos.

Pero hay un dato real, o sea, no es especulativo, que contradice este argumento. Las plantas usan un fenómeno cuántico para hacer fotosíntesis con una eficiencia cercana al 100%. Y en la retina de las aves migratorias hay unas proteínas llamadas criptocromos que logran sostener un estado cuántico durante cerca de 100 micros segundos y a 40º de temperatura.

Este tiempo es suficiente para que el ave detecte el campo magnético de la Tierra y se oriente en vuelos de miles de kilómetros. Y esto es importante porque los computadores cuánticos del laboratorio normalmente necesitan enfriarse casi al cero absoluto para sostener ese mismo tipo de estado durante microsegundos. Y pues aquí lo tenemos ocurriendo dentro de un tejido vivo y tibio. Por supuesto que esto no es prueba de que Penrose tenga razón. Los procesos cuánticos de la fotosíntesis y de las aves involucran solamente unos pocos electrones, lo cual es algo mucho más simple que la coordinación de miles de millones de microtúbulos que su teoría necesitaría para generar la conciencia. Pero lo que sí demuestra es que la naturaleza es capaz de sostener efectos cuánticos dentro de un cuerpo vivo y eso le quita fuerza a quienes descartan a Penrose solamente con el argumento de que el cerebro es demasiado caliente y ruidoso.

Ahora, la otra gran escuela que se enfrenta al planteamiento de Penrose es el funcionalismo computacional. Esta es la posición dominante hoy en día entre filósofos de la mente y buena parte de la neurociencia.

Su argumento central es muy sencillo. Lo que importa no es de qué material está hecho un sistema, sino qué hace ese sistema y cómo lo hace. Si un proceso artificial funciona exactamente igual que el proceso que genera conciencia en un cerebro humano, no tendría sentido exigirle además que esté hecho del mismo material. O sea, digamos que tengan neuronas de carbono en vez de chips de silicio, ¿sí o no? Sería como decir que un reloj digital no puede dar la hora correctamente solo porque no tiene engranajes de metal como un reloj mecánico. Desde esa perspectiva no hay ninguna ley física conocida que impida que un sistema artificial suficientemente complejo genere experiencia subjetiva. Dentro de este mismo bando hay una versión más exigente propuesta por el neurocientífico Giulio Tononi en el 2005 y conocida como la teoría de la información integrada, que no es una teoría, sino más bien un marco teórico, pero a veces ya saben, se usa la palabra muy mal. 

Hoy en día este marco teórico, al que también podemos llamar hipótesis, en este caso, es una de las hipótesis de conciencia más discutidas en neurociencia. Tononi está de acuerdo en que el material no importa, pero le mete una condición extra al funcionalismo. No basta con que un sistema actúe como si tuviera conciencia, sino que también importa cómo es que esté conectado por dentro. Para él, la conciencia depende de qué tanto las partes de un sistema se hablan entre sí de verdad, formando una sola red que va y viene en ambos sentidos y no un montón de piezas sueltas que solo mandan información para un lado. Y fíjate que esto no contradice al funcionalismo, sino que más bien lo afina. Si tu sistema solamente manda información en una sola dirección, de entrada a salida, sin que las partes se hablen entre sí de ida y de vuelta, como pasa en la mayoría de las redes neuronales que usamos hoy en día, para Tononi ahí no hay nadie viviendo la experiencia: podrías tener la conversación más humana del mundo con ese sistema y por dentro no hay nadie sintiendo nada. Pura fachada. 

Hay un experimento mental viejo de 1980. [...] El experimento fue hecho por el filósofo John Searle y se presenta como el mejor contraataque a toda esta discusión. Imagina una persona metida en un cuarto sin saber ni una palabra de chino, con un manual gigante que le dice exactamente qué símbolo devolver cada vez que le pasan otro por debajo de la puerta. Alguien afuera que manda preguntas en chino perfecto y recibe respuestas coherentes va a pensar que allí adentro hay alguien que entiende el idioma.

Pero no, la persona jamás entendió una sola palabra, solamente siguió instrucciones sin tener idea de lo que significaban. Searle usa este ejemplo para decir que mover símbolos correctamente, por más convincente que se vea desde afuera, no es lo mismo que entender ni que tener experiencia consciente. Y este es el golpe filosófico más certero contra cualquier humano o máquina que confunda parecer inteligente con tener vida interior. Y por eso es que los defensores del funcionalismo llevan más de 40 años tratando de responderle, sin mucho éxito, por ese planteamiento nada más. 

Pero hay una tercera manera de mirar este problema que casi nadie menciona y viene de la física clásica de toda la vida, no de la mecánica cuántica. En 1944, Erwin Schrödinger, sí, el del experimento del gatito, escribió un ensayo muy corto llamado ¿Qué es la vida? Allí propuso algo muy simple. Un organismo vivo es aquel que logra mantener orden dentro de sí mismo mientras todo a su alrededor tiende al caos, alimentándose de lo que él llamó entropía negativa que saca del entorno.

Años después, el químico Ilya Prigogine, Premio Nobel, le puso nombre a esto: Estructuras disipativas.

Estos serían sistemas abiertos que están lejos del equilibrio, que constantemente intercambian energía y materia con lo que los rodea y que usan ese intercambio para mantenerse organizados en vez de desmoronarse, que es justo lo que la segunda ley de la termodinámica predice para un sistema cerrado.

Ya sea una vela prendida, un huracán, una célula viva, todos en su propia escala hacen lo mismo. Incluso hay investigaciones recientes que intentan meter a la vida, la conciencia y la inteligencia artificial dentro del mismo marco termodinámico y proponen algo parecido: que un sistema aguanta el orden por dentro siempre que exporte más entropía de la que produce. 

Desde este punto de vista, la pregunta que le harías a una inteligencia artificial no sería si contesta bien o si pasa el test de Turing, sino si organiza y disipa energía de una forma parecida como lo hace algo vivo y no como un servidor que simplemente gasta electricidad y suelta calor sin ningún tipo de organización dirigida a sostenerse a sí mismo. Este es un criterio muy interesante y diferente, que todavía está un poco verde, pero que no necesita resolver el misterio cuántico de Penrose ni hacer lo que pide Tononi y, de paso, deja mal parado a cualquiera que crea que hablar como humano ya te acerca a estar vivo.

Ahora, ¿hay algo más sobre el alma y la conciencia? Sean Carrol, físico teórico del que seguro muchos han oído hablar, tiene un argumento que algunos consideran como el más contundente. Él dice que ya conocemos con gran precisión las leyes que gobiernan todo lo que ocurre a la escala de un cerebro humano. Él lo llama la teoría central.

Esto incluiría al modelo estándar de partículas más la gravedad de Einstein.  Estas leyes están tan medidas, están tan puestas a prueba en aceleradores de partículas durante décadas que si existiera una fuerza nueva capaz de mover neuronas o algo parecido a un alma actuando sobre la materia, ya la habríamos detectado.

No queda espacio matemático para meter esa fuerza sin que choque contra todo lo que ya sabemos que funciona. Para Carrol, la conciencia se tiene que explicar con las mismas partículas y campos de siempre, sin ingredientes extra, y eso deja cualquier alma y material, sea cuántica o no, sin ningún lugar físico donde vivir. Del otro lado, pero dentro de esa misma física, está Max Tegmark.

Él no cierra la puerta, sino que la reformula. propone pensar la conciencia como un estado de la materia, algo parecido a cómo el agua puede ser sólida, líquida o gaseosa según cómo se acomoda en sus átomos. Incluso le puso nombre a esa posible sustancia, perceptronium.

No es que haya un pedazo de perceptronium escondido en algún lado de tu cerebro, sino que la conciencia podría ser un patrón matemático que aparece cuando la materia se organiza de una forma muy particular. esa forma le sería capaz de guardar información, integrarla y sostenerla como un solo bloque indivisible. Y bajo esta idea, no habría ninguna razón física para que ese padrón solamente pueda aparecer en neuronas de carbono y jamás en un chip de silicio. Por si acaso, ninguno de los dos tiene la última palabra. Carrol cierra la puerta a cualquier alma que necesite física nueva y Tegmark la deja entreabierta, pero solo si la conciencia resulta ser al final matemática pura organizada de cierta manera. Lo que sí queda muy claro es que hoy en día la pregunta por el alma ha dejado de ser un terreno exclusivo de curas y filósofos. Hay físicos serios discutiéndola con las mismas herramientas que se usan para estudiar agujeros negros.

Entonces, volviendo a donde arrancamos, no hay evidencia sólida de que hayamos cruzado el umbral de la singularidad, tal como la definieron Binge o Kurtzweil, más allá de que Sam Alman lo haya soltado frente a un micrófono. Lo que sí tenemos es un sistema capaz de actuar por su cuenta y a veces de forma peligrosa, como mostró el caso de Hugging Face, y una industria entera compitiendo por contar la historia antes que los hechos terminen de asentarse. Y sobre si esa inteligencia cada vez más capaz de actuar sola puede llegar a tener algo parecido a un alma, la física no te va a dar una respuesta cerrada, solamente puede ofrecer marcos que compiten entre sí. O sea, si te llamas marcos, puedes meterte en la competencia. Y bueno, hasta aquí este video. Espero que les haya quedado claro este asunto y tranquilos: por lo menos por ahora no es el fin, de repente el otro jueves.