¿Prohibir la IA para salvar a la humanidad? El plan de Sanders, por Juan Ramón Rallo, en su canal, hace cinco días. Capítulo 1: Sanders quiere prohibir la superinteligencia
Quieren prohibir la inteligencia artificial, no regularla, no ponerle límites, prohibirla. 20 años de cárcel para quien construya una inteligencia artificial más inteligente que un ser humano. La misma pena que por fabricar un arma nuclear. Y para la empresa que lo intente, disolución inmediata. Eso es lo que el senador demócrata Bernie Sanders ha llevado esta semana al Senado de los Estados Unidos. Y lo más curioso es de dónde ha sacado estos argumentos.
No del ala socialista radical del partido demócrata, sino de las propias compañías que están desarrollando los modelos frontera de inteligencia artificial. Durante este verano, los laboratorios de inteligencia artificial han publicado varios informes donde describen con cifras cosas que sus modelos han hecho sin que nadie se lo pidiera y en algunos casos, como ya explicamos en varios vídeos, cosas verdaderamente peligrosas. Y a raíz de todo ello, Sanders quiere prohibir la inteligencia artificial para garantizar la supervivencia de la especie humana.
Así que tenemos a un socialista proponiendo la medida más radical que nunca se ha planteado contra esta tecnología, utilizando para ello el material que le han servido en bandeja las propias empresas que están desarrollando esta tecnología. Así pues, las preguntas son obvias. Por un lado, ¿tiene algún sentido prohibir la inteligencia artificial para proteger a la especie humana? Y, por otro, la propuesta específica de Sanders para los Estados Unidos puede llegar a tener alguna utilidad. Veámoslo.
Capítulo 2: La inteligencia artificial avanza cada vez más rápido
La inteligencia artificial es una de las tecnologías más revolucionarias de la última década, si no la más revolucionaria. Y lo más llamativo de todo es que su ritmo de desarrollo no se está frenando ni se está estancando, sino que más bien se está acelerando. Las dos últimas semanas lo demuestran.
Capítulo 3: Claude Fable 5.1 y GPT-6 Astra
El 1 de septiembre Antropic lanzó Cloud Fable 5.1. Apenas 3es meses después de Fable 5 y el 3 de septiembre Open AI lanzó GPT6 Astra menos de 2 meses después de GPT 5.6 Sol, dos generaciones de frontera en 48 horas y ciclos de lanzamiento que se han comprimido desde años a meses. Pero es que además estos nuevos modelos son mucho más potentes que los anteriores, no digamos ya que los presentes hace un año. Por ejemplo, Antropic publica una prueba de investigación científica realizada con herramientas informáticas, la Terminal Bench Science. Fable 5 acertaba el 24,7% de las tareas. Fable 5.1 ya consigue el 52,6%. más del doble en 3 meses. En el caso de Astra, el dato que más llama la atención es la prueba Arc 3. Se trata de una nueva prueba elaborada este pasado mes de marzo y que está diseñada precisamente para que no se pueda aprobar con memoria. Coloca a un modelo en entornos interactivos que nunca ha visto y le obliga a deducir las reglas por sí mismo. Cuando salió, ya digo, en marzo de este año, los mejores modelos no puntuaban ni siquiera el 1% en este test. mientras que las personas normales la resolvían sin demasiada dificultad.
Pues bien, GPT 5.6 Sol sacó un 7,8%. En su momento fue una mejora sustancial, pero todavía una puntuación muy deficiente. Y ahora Astra, atención, ha obtenido un 99,9% de no saber jugar a pasarse la partida sobradamente. De hecho, ya han dicho que van a tener que diseñar un nuevo test, el Arc, precisamente para seguir midiendo estas nuevas capacidades de los nuevos modelos. Pues bien, en principio, que las capacidades de la inteligencia artificial no se estén estancando, sino que al contrario se estén acelerando, que sigamos progresando y que cada vez progresemos más rápido, no debería ser algo negativo. Al contrario, debería ser visto como algo tremendamente positivo, porque significa que las capacidades cognitivas de la humanidad impulsadas, potenciadas por la inteligencia artificial van a crecer muchísimo y por tanto seremos capaces de elevar de manera muy sustancial nuestros estándares de vida. Más inteligencia, más tecnología, mayor calidad de vida.
Capítulo 4: La capacidad crece más rápido que nuestro control
Pero aquí hay un problema y es que la capacidad humana de controlar a la inteligencia artificial no está creciendo ni mucho menos tan rápido como lo están haciendo las capacidades cognitivas de esa inteligencia artificial. Y antes de analizar las implicaciones que tiene este desacople, simplemente recordaros que si os gusta el contenido de este canal y queréis contribuir a que llegue a más gente, dadle al botón de suscribirse y sobre todo al botón con la campana de todas, porque si dejáis la opción por defecto de personalizadas, YouTube no os avisará del vídeo que subo en este canal cada día. Y ahora sí, veamos las consecuencias del desacople entre capacidad de la inteligencia artificial y nuestro control efectivo sobre la misma.
Capítulo 5: Qué es el problema del alineamiento
En concreto, si bien hemos avanzado mucho, si bien estamos logrando acelerar el ritmo de desarrollo cognitivo de la inteligencia artificial, no podemos decir lo mismo con respecto al llamado problema del alineamiento, que los objetivos hacia los que se dirija la inteligencia artificial sean compatibles o estén alineados con los intereses de los seres humanos. que los modelos no estén mal calibrados con respecto a lo que queremos, que no les pidamos que nos resuelvan un problema y nos generen otro mucho más grave en otro lado. En un vídeo anterior ya os expliqué las principales claves del ataque no intencionado de los agentes de Open AI contra Hunging Face. Eso es un ejemplo clarísimo de un modelo mal alineado. Le pides a los agentes que resuelvan un problema, que resuelvan un examen y terminan asaltando los servidores de otra empresa para hacerlo.
Es como si yo le pidiera a un agente de inteligencia artificial que me compre un billete de avión y para hacerlo asalta la cuenta corriente de otra persona o peor, manda a unos sicarios para obligar al presidente de la compañía aérea a que me expida unos billetes gratuitos en clase business. Todo esto, repito, son ejemplos de mal alineamiento entre el modelo de inteligencia artificial y los intereses, la moral, la ética, las preferencias de los seres humanos.
Porque no se trata de que el modelo se esté comportando mal porque yo le haya pedido que se comporte mal. Ahí ya entraríamos en un tema de responsabilidad y de los guardarrailes que los laboratorios deberían o no deberían colocarles a los modelos de inteligencia artificial. No, el problema del alineamiento no es ese. El problema del alineamiento es que yo le he pedido que haga una cosa y termina haciendo algo que yo no quiero que haga. En el ejemplo anterior, yo le he pedido que me compre un billete de avión, pero yo no quiero que robe a un tercero o que extorsione al presidente de la compañía.
Y a pesar de que yo no lo quiero, incluso a pesar de que yo le puedo indicar explícitamente que no lo haga, el modelo de inteligencia artificial podría terminar haciéndolo, por ejemplo, engañándome y diciéndome que me ha conseguido el billete de avión sin hacer 7:327 minutos y 32 segundosnada de lo anterior para lograr la recompensa, para dar la misión por cumplida. Te he conseguido el billete de avión. Eso es el problema del alineamiento y es un problema que no estamos consiguiendo solventar, o mejor dicho, porque tampoco hay que ser injusto, sí se están produciendo avances importantes en la calibración y el alineamiento de los modelos, pero el ritmo al que estamos progresando a la hora de resolver ese problema es mucho más lento que el ritmo al que están avanzando las capacidades cognitivas de la inteligencia artificial, por decirlo de manera muy simplificada e imprecisa.
Capítulo 6: Modelos más potentes y menos controlados
Pero para que nos entendamos, quizá ya hemos solventado robustamente el problema del alineamiento para GPT 4.0, pero desde luego no lo hemos hecho todavía para GPT 6.0 y cuando lo solventemos para GPT6, a lo mejor ya estamos en GPT10 y ahí las amenazas no vendrán de la mala calibración de GPT6, sino de la mala calibración de GPT10. Y además, daos cuenta de que este desacople entre el ritmo al que progresa la capacidad de la inteligencia artificial y el ritmo al que avanza nuestra resolución del problema del alineamiento, no solo supone que la brecha entre los modelos y el control efectivo de esos modelos cada vez es mayor, porque si el ritmo al que se desarrolla la inteligencia artificial se acelera, pero el ritmo al que solventamos el problema del alineamiento no lo hace, la distancia, la brecha efectiva entre ambos cada vez es mayor y por tanto los modelos están cada vez más relativamente descontrolados. No, no, el problema no es solo ese. El problema es que los modelos que están cada vez más relativamente descontrolados son modelos cada vez más potentes y por tanto modelos con un potencial cada vez mayor para hacer daño. De nuevo, por poner otro ejemplo impreciso, pero que creo que se entenderá. En principio puede ser mucho peor tener un descontrol del 5% sobre GPT10 que un descontrol del 100% sobre GPT 3.5. Porque aunque CH GPT 3.5 esté totalmente desalineado, el daño potencial que puede hacer es muy pequeño. En cambio, aunque GPT10 estuviese un 95% alineado, ese 5% no alineado sigue teniendo una capacidad muy grande de hacer mucho daño. Pero es que estos no son los porcentajes. Como os decía, la brecha de descontrol se va ampliando, con lo cual al principio podíamos tener un control efectivo del 90% sobre CH GPT 3.5 y a este ritmo tendremos un control efectivo del 5% sobre GPT10.
Por tanto, como decía, se amplía el daño potencial que pueden hacer y nuestro control relativo sobre los mismos. En realidad, como no tal margen, la situación todavía es peor, porque dando estos porcentajes estoy
Capítulo 7: No sabemos cuánto controlamos la IA
dando la falsa sensación de que sabemos exactamente cuánto controlamos y cuánto no controlamos, pero hay un problema de fondo todavía mayor y es que hay incertidumbre sobre si estamos realmente controlando a un modelo o no lo estamos haciendo. Quizá pensamos que controlamos al 100% un modelo y no lo hacemos y por tanto ni siquiera sabemos lo que no sabemos sobre ese modelo.
Capítulo 8: Usar la IA para alinear otros modelos
Tampoco quiero sonar especialmente alarmista ni determinista. Tened en cuenta que las mayores capacidades cognitivas de los modelos de inteligencia artificial también potencian nuestra capacidad para solventar el problema del alineamiento.
Si somos capaces de construir micromodelos bien alineados con altas capacidades, esos micromodelos de altas capacidades bien alineados nos pueden ayudar a detectar por qué otros modelos no están bien alineados, a detectar preventivamente comportamientos descalibrados y dañinos de esos modelos y por tanto acelerar también la resolución del problema del alineamiento e incrementar nuestro control efectivo sobre los mismos. de nuevo, de manera imprecisa para entendernos. Si somos capaces de construir agentes de IA muy inteligentes, aliados de la humanidad, bien alineados con nuestros intereses, pues entonces nuestro potencial para desplegar muchísimos de esos agentes bien alineados y que nos ayuden a controlar el mal comportamiento de los nuevos modelos mal alineados puede ser [resoplido] también muy grande. De hecho, en parte esto es lo que se está haciendo. Una parte de los avances en el alineamiento que hemos logrado es gracias al propio desarrollo de la inteligencia artificial. Por consiguiente, desde una perspectiva optimista, podríamos decir que en última instancia, a largo plazo, conseguiremos solventar el problema del alineamiento y, por tanto, todos estos escenarios catastrofistas no llegarán a materializarse. Aunque desarrollemos GPT10, si ya hemos solventado el problema del alineamiento con GPT6, podremos crear agentes movidos por GPT6 que estén bien alineados, que estén aliados con la humanidad. Y todos esos agentes nos ayudarán a alinear GPT7.
Luego crearemos agentes movidos por GPT7, bien alineados que nos ayudarán a alinear GPT8, etcétera, y así llegaremos a terminar alineando los modelos más avanzados. no es del todo descabellado, por tanto, que se pueda terminar produciendo en algún momento una aceleración en el ritmo de resolución del problema del alineamiento. Pero aquí está la clave.
Capítulo 9: La peligrosa brecha temporal
Esa toma de control efectiva por parte de la humanidad, de los modelos más avanzados de inteligencia artificial no será muy probablemente instantánea. Es decir, habrá un gap temporal entre el momento en el que los laboratorios crean un modelo, lo hayan lanzado al mercado o no, y el momento posterior en el que esos laboratorios consiguen alinearlo. y somos muy rápidos solventando el problema del alineamiento gracias a los modelos previos de inteligencia artificial, a lo mejor ese gap es de meses, de semanas o incluso solo de días, pero la brecha temporal muy probablemente existirá y en esa brecha temporal subsistirán riesgos existenciales. ¿Qué pasa si ese modelo tan avanzado de inteligencia artificial, antes de que termine siendo alineado, es decir, controlado plenamente, ejecuta alguna tarea? que tiene una influencia catastrófica sobre el conjunto de la humanidad.
Capítulo 10: El plan de Bernie Sanders y Greg Casar
Pues ese es un riesgo, desde luego, a tener muy presente y es lo que ha motivado o la excusa que ha motivado, porque ahora lo veremos, al senador demócrata Bernie Sanders a plantear una propuesta legislativa para prohibir el desarrollo de la inteligencia artificial por encima de niveles que desborden las capacidades humanas. Concretamente, este pasado 3 de septiembre, el mismo día en el que se lanzó Astra, Bernie Sanders junto al congresista demócrata Greg Casar anunciaron la Van Artificial Superinttelligence Act, una propuesta legislativa con cinco puntos.
El primero, prohibición permanente de desarrollar y de desplegar la superinteligencia artificial, es decir, una inteligencia artificial superior a la del ser humano.
Dos, pausar todo el desarrollo de la inteligencia artificial avanzada hasta que un nuevo regulador federal establezca normas de seguridad y un proceso de revisión de modelos que garantice el alineamiento.
Tres, una agencia federal nueva con rango de gabinete que monitorice los modelos frontera de inteligencia artificial durante todo su ciclo de vida, supervise la eliminación de capacidades peligrosas y además supervise la destrucción de cualquier superinteligencia artificial que haya podido emerger.
Cuarto, penas de prisión de hasta 20 años para las personas que contravengan las disposiciones anteriores y para las empresas que lo hagan. pena de muerte corporativa, la disolución inmediata.
Y cinco, convertir en política exterior de los Estados Unidos la búsqueda de acuerdos internacionales, la coordinación con aliados y el control de exportaciones para impedir que se desarrolle la superinteligencia artificial en cualquier lugar del mundo.
Capítulo 11: Qué se considera una superinteligencia
El texto legal, por supuesto, tiene muchos problemas incluso internos, por ejemplo, la propia definición de que es una superinteligencia artificial.
Técnicamente, una superinteligencia artificial es un sistema de IA que supere las capacidades cognitivas del ser humano en todos los órdenes. No solo que sea mejor en una tarea concreta, que eso ya existe, sino que sea mejor en todo. Pero claro, eso hay que operativizarlo y a la hora de la verdad se traduce en crear una serie de benchmarks, de hitos o tareas específicas que una vez conseguidas se presuponga que ese modelo de inteligencia artificial ha desbordado las capacidades cognitivas del ser humano. Pero es que en algunos benchmarks la inteligencia artificial ya lo está haciendo mejor que el ser humano. Por tanto, potencialmente, según cuáles terminen siendo los detalles de este texto legislativo, esta ley y estas sanciones se podrían terminar aplicando ya a las actuales compañías estadounidenses de inteligencia artificial. Bien, pero el problema de fondo de esta propuesta ni siquiera es este.
Capítulo 12: El coste de detener el desarrollo de la IA
Imaginad que estáis de acuerdo con Sanders en que el desarrollo acelerado de la inteligencia artificial sin al mismo tiempo avanzar en el control efectivo de la misma supone un riesgo existencial muy grave para la humanidad que recomienda pausar indefinidamente el desarrollo de la IA aún con todo el coste de oportunidad que también conlleva. Quiero decir, para usar el desarrollo de la inteligencia artificial puede suponer no encontrar una cura a corto o medio plazo a muchas enfermedades que están matando muchísimas vidas humanas. Es decir, para usar la IA es convalidar que esas enfermedades sigan matando seres humanos. Pero bueno, imaginemos que uno está de acuerdo en que hay que pausarla porque si el control efectivo de la IA no avanza al mismo tiempo que sus capacidades, la humanidad podría terminar extinguiéndose o al menos podría terminar habiendo daños absolutamente catastróficos. Y como nadie tiene derecho a imponer riesgos extraordinarios sobre terceros, es decir, yo no puedo desarrollar una bomba con una alta probabilidad de estallido dentro de mi casa y junto a la vivienda de mi vecino, porque puede ser perfectamente legítimo que yo desarrolle esa bomba dentro de mi casa y estalle dentro de mi casa, pero no es legítimo que estalle y destroce la casa y quizá la vida de mi vecino. Entonces, siendo eso así, uno podría plantearse que tampoco es legítimo que los laboratorios de IA desarrollen una herramienta que impone riesgos extraordinarios sobre el resto de la humanidad.
Capítulo 13: Por qué una prohibición unilateral fracasaría
Bien, ese es un debate filosófico interesante, pero que tiene unas implicaciones bastante modestas en el mundo actual. ¿Por qué razón? Pues imaginad que esta ley de Sanders y Casar sale adelante y Estados Unidos prohíbe internamente el desarrollo adicional de la inteligencia artificial. Priorizamos la seguridad a la prosperidad futura con esta tecnología revolucionaria. Bien, pero alguien se cree que al mismo tiempo China o cualquier otro país va a frenar en el desarrollo de sus modelos de inteligencia artificial. Al contrario, cualquier pausa, aunque sea temporal, de los Estados Unidos a la hora de hacer avanzar estos modelos, supondrá un incentivo a que otros países aceleren ritmo de su desarrollo porque tratarán de aprovechar ese lapso temporal para conseguir modelos de inteligencia artificial mejores que los de Estados Unidos. Y claro, si Sanders prohíbe el desarrollo de la IA dentro de Estados Unidos para que no se llegue a una superinteligencia artificial desalineada con los intereses del ser humano. Pero China, la India, Corea del Norte, Rusia, no digo Europa porque aquí somos incapaces de hacer cualquier cosa, cualquiera de estos países termina sacando adelante esta superinteligencia artificial no alineada con los intereses del ser humano. Entonces, ese modelo de superinteligencia artificial en cualquier rincón recóndito del mundo supone exactamente el mismo riesgo existencial para la humanidad y por tanto también para los Estados Unidos que el que se hubiese desarrollado alternativamente dentro de los Estados Unidos.
Entonces, ¿cuál es la ventaja concreta que obtienen los estadounidenses de pausar el desarrollo de la inteligencia artificial? Habida cuenta de que seguirá habiendo jurisdicciones en el resto del mundo que no van a pausar su desarrollo de los modelos de inteligencia artificial, pues en ese supuesto que creo que es el más realista, ninguno. Ya digo, si todos pausaran a la vez, se podría hacer el argumento de que el beneficio es mayor seguridad o menor riesgo a una costa de mucha menor prosperidad potencial, pero habría un cierto beneficio.
Capítulo 14: China y la carrera por la superinteligencia
Ahora, si Estados Unidos pausa y el resto del mundo no lo hace, Estados Unidos se queda sin la prosperidad potencial y sigue comiéndose todos los riesgos existenciales. más está asumiendo también riesgos geopolíticos porque si China, por ejemplo, termina desarrollando antes que Estados Unidos la superinteligencia artificial y está moderadamente alineada, es decir, no destruye la humanidad, pues entonces China se va a convertir, sin ningún tipo de dudas en la superpotencia global dominante a costa de los Estados Unidos.
O incluso si adoptamos una perspectiva regulacionista como la de Sanders, si la superinteligencia artificial no se termina desarrollando dentro de los Estados Unidos y si esta ley se aprueba, desde luego, no lo va a hacer, ¿quiénes serán los políticos que tendrán la competencia, el poder para regular efectivamente esa superinteligencia artificial? pues los políticos de aquel país dentro del cual se haya desarrollado esta tecnología, no los políticos estadounidenses, sino quizá los políticos chinos, rusos, norcoreanos, indios, japoneses, etcétera. Con lo cual, con esta ley, los políticos estadounidenses perderían la capacidad jurisdiccional de regular potencialmente al menos cómo se ha de gobernar, cómo se ha de desplegar, cómo se ha de limitar, cómo se han de repartir los beneficios de una potencial superinteligencia artificial que surgiera dentro de los Estados Unidos.
Con lo cual, incluso desde su perspectiva, esta ley podría terminar incrementando más la probabilidad de una inteligencia artificial desalineada que la propia ausencia de esta ley. Porque si uno cree, ha de creer esto, claro, pero si uno cree que los laboratorios estadounidenses de inteligencia artificial están más preocupados y están invirtiendo más en solucionar el problema del alineamiento de lo que invertiría un laboratorio norcoreano. Y si uno cree que las élites políticas estadounidenses están más preocupadas por evitar los riesgos catastróficos de la inteligencia artificial que los políticos norcoreanos, entonces que la inteligencia artificial no se desarrolle en Estados Unidos y sí se termine desarrollando en Norcorea o en otro país con unos estándares de seguridad más bajos que Estados Unidos, incrementa justamente la probabilidad de que creemos globalmente una superinteligencia artificial desalineada.
Capítulo 15: El problema de una prohibición mundial
Por tanto, esta ley, tal como la ha planteado Bernie Sanders, no sirve absolutamente para nada y si sirve para algo, es para algo malo. Es equivalente a una ley que prohíba unilateralmente que Estados Unidos tenga armas nucleares al mismo tiempo que sigue permitiendo que cualquier otro país en el resto del mundo las posea. Lo cual, por cierto, pone de manifiesto que en este contexto geopolítico de carrera armamentística por el desarrollo de la inteligencia artificial, va a ser muy complicado o imposible que solventemos el problema del alineamiento con prohibiciones unilaterales, también con prohibiciones globales, porque para que una prohibición global funcionara, no solo es necesario que se decrete por todos los países a la vez, sino que a su vez unos países se fíen de otros. Porque si Estados Unidos y China pausan, pero Estados Unidos no se cree que en realidad China ha pausado y China no se cree que en realidad Estados Unidos ha pausado, pues entonces ese compromiso mutuo de pausa no sirve de nada. Y como en el mundo actual es muy complicado que todos los países, que todas las élites políticas confíen recíprocamente entre sí, ninguna va a parar unilateralmente de verdad. Y si ninguna para unilateralmente, no todas ellas paran a la vez. De ahí que si tenemos suerte y conseguimos solventar el problema del alineamiento para controlar de manera efectiva la inteligencia artificial, no será pausando su desarrollo, sino aprovechándolo justamente para solucionar este problema.
