I
La catástrofe moral de los tecnomagnates totalitarios: nos roban los datos, nos roban la democracia, en El País, por Shoshana Zuboff, 12 jul 2026:
Un grupo de caciques corporativos son los responsables del colapso democrático al que asistimos a escala mundial. Con sus algoritmos han conseguido que los ciudadanos naveguemos en un lodo informativo mientras los líderes políticos improvisan ante cada nueva crisis. Cuando las prácticas empresariales entrañan un coste moral y humano inaceptable, hay que abolirlas. Se hizo con el trabajo infantil. Y con la esclavitud
El 10 de noviembre de 2019, la presidenta electa de la Comisión, Ursula von der Leyen, viajó de Bruselas a Berlín para entregarme el Premio Axel Springer por La era del capitalismo de la vigilancia. Parecía consciente de la importancia histórica de aquel momento en el que Europa era la única fuerza geopolítica capaz de frenar la caída precipitada hacia la distopía digital.
“Creemos que lo más importante es el ser humano. Europa pone los valores, los derechos, la confianza y el Estado de derecho por delante de todo lo demás, y eso debe valer también para la estrategia europea en la era digital. Para nosotros, las nuevas tecnologías nunca significarán nuevos valores… Las personas somos, ante todo, ciudadanos, dotados de derechos y con el control de nuestra propia vida… Tanto en el mundo analógico como en el digital…”.
La utopía tecnológica devino en distopía
La presidenta electa era consciente de que las demás grandes potencias iban a pulverizar esos valores. “En EE UU, el mercado es tradicionalmente lo más importante… En Asia, el Gobierno tiende a dominar y el individuo tiene que aceptar un papel subordinado al del grupo. Rusia exige a los proveedores de internet que instalen equipos de red capaces de identificar el origen del tráfico y filtrar contenidos”. “Por el contrario”, subrayó, “Europa tiene una larga tradición de equilibrio entre el poder del Estado y el del mercado y, al mismo tiempo, otorga una prioridad especial al individuo. Esa es la gran ventaja de Europa a la hora de dar forma a la era digital. Y todavía no es demasiado tarde. Por supuesto, el progreso no está garantizado. Hay que seguir trabajando”.
Recuerdo el ambiente que se respiraba en la sala después de sus palabras. El viento helador azotaba las ventanas que dominaban la ciudad, pero allí dentro compartíamos una sensación de esperanza, calidez y solidaridad al ver que la mujer que iba a presidir la UE comprendía verdaderamente la importancia y la oportunidad que ofrecía esta próxima gran transformación. También nos tranquilizó ver que comprendía que la UE era la única de las grandes potencias que había institucionalizado y estaba dispuesta a actuar en defensa de los valores, derechos y leyes capaces de forjar un siglo democrático y digital para Europa y para todos los que, en todo el mundo, están desesperados por huir de la distopía.
El paradigma dominante: 1997
La mayoría de nosotros sabemos que las sociedades democráticas están siendo objeto de asedio en todo el mundo y que los regímenes autoritarios están en auge. Sabemos que las grandes empresas tecnológicas son más poderosas que nunca. El motor que impulsa la etapa más reciente del desarrollo tecnológico, la que suele denominarse “IA generativa”, pretende apoderarse de toda la información generada por los seres humanos, el capital y los recursos naturales. Esta es una realidad a la vista de todos, pero su explicación no está tan clara. ¿Por qué hay un retroceso de la democracia y una explosión del autoritarismo? No son hechos aleatorios ni meras coincidencias. Están unidos como dos caras de la misma moneda, son una distopía accidental creada por los líderes políticos democráticos en una hoguera de ignorancia, desorientación moral y confusión intelectual.
Volvamos por un instante al soleado 2 de julio de 1997, en los inicios de Internet como red pública, cuando el presidente Bill Clinton subió a un estrado de la Casa Blanca para presentar el Libro Blanco Clinton-Gore sobre el comercio electrónico ante un gran salón en el que se apiñaban la flor y la nata del sector tecnológico estadounidense. Ese informe fue un punto de partida fundamental de la locura que iba a azotar las décadas siguientes. Clinton dijo que el comercio electrónico era “el Salvaje Oeste de la economía global”, y se comprometió a que siguiera siéndolo.
Internet, dijo, debía ser una zona de libre comercio mundial, un lugar en el que el Gobierno hiciera todo lo posible para no estorbar… Era la interpretación clásica del credo neoliberal, que da prioridad al libre mercado por encima de cualquier otra consideración social.
Clinton y Gore envolvían su ideología en la demencial mitología de Silicon Valley para la que internet es una zona ajena a la sociedad llamada “ciberespacio”, en la que no se aplican las normas, los derechos ni las leyes de las democracias del mundo real. La prioridad era hacer negocio, sin las restricciones de la gobernanza democrática. “Queremos que el sector privado se autorregule. Queremos animar a todos los países a que no intervengan con impuestos discriminatorios, aranceles, regulaciones innecesarias y burocracias engorrosas”.
El hecho de que EE. UU. cediera el nuevo espacio global de la información al capital privado, ya en esa etapa inicial de una inmensa transformación estructural hacia una civilización de la información, fue un trágico autogol que dejó vacío el lugar en el que debería haber habido una gobernanza democrática. EE. UU. y las demás democracias abandonaron a sociedades enteras, empezando por la suya propia, a merced de nuevas formas de violencia digital de los Estados y el mercado. Renunciaron a la oportunidad de sentar las bases de un siglo digital democrático en las primeras décadas, que son las fundamentales, y privaron al mundo de una alternativa clara al modelo chino de civilización de la información basada en la vigilancia autoritaria.
Si esto les suena a algo, es porque, en la actualidad, los líderes de todo el mundo elegidos democráticamente están reproduciendo el mismo conflicto, esta vez con el título de “inteligencia artificial”.
Los vacíos son efímeros, y el vacío de gobernanza democrática que se produjo en los inicios de internet como espacio público lo ocuparon a toda velocidad el capitalismo de vigilancia y los típicos depredadores siempre al acecho en cualquier fiebre del oro carente de leyes.
Un año después del regalo de Clinton, en una entrevista concedida a la BBC en 1998, Eric Schmidt anticipaba el vendaval antidemocrático que se avecinaba. Cuando se le preguntó por las ideas políticas de Silicon Valley, Schmidt —en aquel entonces director ejecutivo de la empresa de software Novell y que poco después sería el primer director ejecutivo de Google— respondió sin vacilar: “Estamos en contra de los gobiernos, las regulaciones y el Congreso”.
BBC: En realidad, lo que quieren es la jungla, ¿no? ¿Que sobrevivan los más poderosos y no haya red de seguridad para los que están por debajo?
Schmidt. ¡Exacto!
BBC. ¿Y se enorgullece de ello?
Schmidt. [con una amplia sonrisa] ¡Sí!
La exigencia de Schmidt de tener una autoridad absoluta y no tener que responder ante nadie era todavía más desvergonzada por su convicción de que era inevitable que, sin gobernanza democrática, un internet controlado y gestionado por Silicon Valley introdujera cambios inimaginables y peligrosos en la sociedad. “Nunca se ha hecho un experimento en el que se escuche verdaderamente a los 100 o 200 millones de personas que están conectadas a la Red… Nunca en la historia se ha hecho un experimento de anarquía de tales dimensiones. Van a pasar todo tipo de cosas”.
A pesar de los riesgos sin precedentes y, por tanto, imprevisibles que Schmidt auguraba, en la entrevista insistió en que sus colegas y él tenían derecho a dirigir todo sin injerencias y apeló a los mismos argumentos vacíos que utilizaban un siglo antes los oligarcas de la Edad Dorada y que hoy repiten los dueños del sector tecnológico: “Queremos que el Gobierno se mantenga apartado de nuestros asuntos”, declaró a la BBC. “Queremos libertad para perseguir nuestros propios intereses… y también queremos que el Gobierno nos deje en paz”.
Gracias a la doctrina de Clinton-Gore, la élite de Silicon Valley se salió con la suya porque se atribuyó una autoridad experimental sobre una transformación de trascendencia histórica en las condiciones globales de la comunicación humana, la integridad de la información, el destino de la verdad y la distribución del conocimiento en una civilización de la información.
Así comenzó un experimento que, después de varias décadas, continúa todavía hoy, lleno de las incertidumbres y tragedias de la anarquía informativa global basada en la propiedad privada y “autorregulada” del espacio de la información, sin restricciones ni rendición de cuentas. En este proyecto no habría derechos ni derecho a tener derechos, ni para los sujetos humanos ni para los ciudadanos; no había leyes por las que regirse, ni transparencia, ni gobernanza democrática… Serían las empresas las que determinaran las respuestas a todas las cuestiones relacionadas con el conocimiento, la autoridad y el poder. ¿Quién sabe? ¿Quién decide? ¿Quién decide quién decide?
¿Qué podía salir mal?
La nueva lógica económica nació en Google en 2002, solo un año después de nombrar a Eric Schmidt director ejecutivo de la nueva empresa. Estaban en la sombría situación de emergencia causada por el estallido de la burbuja de las puntocom y Silicon Valley todavía no había averiguado cómo convertir a los “usuarios” y sus datos en dinero.
En plena crisis, un pequeño grupo de ingenieros y científicos de datos que trabajaban en estrecha colaboración con los fundadores de Google, Larry Page y Sergey Brin, se toparon con un descubrimiento y una gran idea. Primero descubrieron que, cada vez que un “usuario” navegaba por internet, dejaba, sin saberlo, un rastro de señales de comportamiento que era posible captar, transformar en datos, agregar y analizar para revelar aspectos ocultos de información personal muy predictiva y después utilizarlos con el fin de predecir comportamientos futuros.
Entonces llegó la gran idea de Larry Page: buscar, conocer y aprovechar esas experiencias y esos comportamientos de todas las personas que utilizaban internet. Los enormes caudales de datos personales permitirían hacer predicciones de comportamiento que se podrían vender al por mayor como cualquier otra mercancía —barriles de petróleo, toneladas de trigo—, empezando por la famosa “tasa de clics”. Cada paso de la operación se diseñó para pasar inadvertido para el “usuario”.
Esos nuevos caudales de datos eran lo que yo llamo “excedente conductual”, porque la empresa no los necesitaba para prestar sus servicios a los “usuarios”. Desde el punto de vista de Google, el objetivo dejó de ser el usuario como ser humano real. A los “usuarios” los redefinieron como reservas pasivas y sin costes de datos generados por humanos para la extracción, la obtención de ingresos y el lucro, sin contar en absoluto para el proyecto comercial del capitalismo de vigilancia.
A partir de ese momento, los ordenadores de Google, a los que denominaban “nuestra IA”, empezaron a decir a los anunciantes dónde invertir y el dinero fluyó. Todo dependía de conseguir la máxima extracción de datos, preferiblemente la totalidad. Cada paso de la secuencia operativa estaba pensado para que el usuario no se diese cuenta. Cuantos más datos, más precisas serían las predicciones y más conocimientos, riqueza y poder tendría Google.
En la vida real, si una persona le quita algo a alguien a escondidas y lo vende para sacar provecho, eso se llama robar. En los primeros tiempos de Google, esas operaciones todavía exigían una reflexión moral. Page y Brin insistían en recopilar y guardar los datos sin pensárselo. Otros defendían la transparencia. Page temía que la transparencia provocara una gran revuelta de los “usuarios” y movilizara a los legisladores para que tomaran medidas contra la empresa. Al final, fue él quien hizo el pronunciamiento definitivo: “No pueden enterarse jamás”.
En lugar de limitarse a prestar servicio a los “usuarios”, Google proporcionaría a las máquinas su excedente conductual. El director ejecutivo, Eric Schmidt, se apresuró a instaurar una “estrategia de ocultación”. Puede que la democracia muera en la oscuridad, pero entonces se decidió que la oscuridad era la única forma de que sobrevivieran las operaciones del capitalismo de vigilancia. Esa posición condenó a Google —y, con el tiempo, a la oleada de capitalistas de la vigilancia que le siguió— a una lucha a muerte permanente contra la democracia. Tenían que eliminar la posibilidad de cualquier ley o derecho que acabase con su latrocinio.
Hoy, el capitalismo de vigilancia sirve de intermediario en casi todos los contactos humanos con las estructuras digitales, los flujos de información y los productos y servicios digitales, además de ser el terreno institucional por el que pasan casi todos los caminos hacia la participación económica, política y social. El Libro Blanco sentó el paradigma y el vocabulario para una nueva era en la que las empresas tecnológicas se regulan a sí mismas sin que la gente pueda hacer nada. Todos los presidentes estadounidenses posteriores a Clinton reforzaron su mensaje. Y, sobre todo, las sociedades democráticas pagaron un precio muy alto por el fracaso político de unos líderes que fomentaron una nueva economía depredadora sin tener en cuenta las consecuencias de que la materia prima que impulsa el crecimiento económico sea el comportamiento humano.
La red mundial de anarquía informativa sobrealimentada que Eric Schmidt previó con tanto entusiasmo ya está aquí. Resulta asombroso pensar que, en este desfile zombi hacia la distopía, nuestros espacios de información siguen disponibles para que los compre o alquile cualquier persona, empresa, político, grupo de financiación opaca, potencia extranjera, fábrica de desinformación, granja de bots, dictador, sociópata, narcisista, megalómano o multimillonario (o billonario) malintencionado cuyo propósito es conseguir unos fines personales, comerciales o políticos, todo ello envuelto en un grado de secretismo que solo los extraordinarios privilegios ocultos de las plataformas pueden proporcionar.
Es decir, la anarquía informativa, que incluye la desinformación, la polarización, la disfunción electoral y más cosas, favorece la autocracia y transforma la política y las formas de gobierno en todo el mundo. ¿Por qué? Porque, en el empeño de tener todos los datos humanos, la preferencia del algoritmo por la información corrupta atrae la participación, dispara los flujos de datos y, por consiguiente, es buena para el negocio. En esas condiciones, ninguna democracia puede sobrevivir.
Los espacios actuales de la información están a años luz del arquetipo democrático de la plaza pública, y eso hace que las democracias de todas las regiones sufran una presión implacable. Desde Brasil hasta Rumanía, pasando por Noruega, Polonia, España, Australia, India, Reino Unido y muchos otros países, vemos a líderes democráticos que se debaten en el vacío, obligados a improvisar soluciones para cada nueva crisis. En la mayoría de los casos, hay un deseo desesperado de proteger las elecciones, las instituciones o a la población del caos e incluso de la muerte por culpa de la anarquía informativa. En mayo de 2022, el comisario nombrado por Biden para presidir la Agencia de Alimentos y Medicamentos de Estados Unidos (FDA), el doctor Robert Califf, apareció en la CNN para explicar la conclusión a la que había llegado la Agencia de que “la desinformación” se había convertido en la principal causa de muerte en EE. UU. y tenía un efecto “inquietante” en la esperanza de vida de los estadounidenses.
Nos han vuelto a engañar
En 2019, pensé que la tercera década que iba a comenzar enseguida sería probablemente el momento en el que las democracias, con la UE al frente, ocuparían el vacío creado y recuperarían la renovación y la reconstrucción democráticas. Pero en 2022 llegó Sam Altman con su empresa, OpenAI, y, para aprovechar la ventaja de ser el primero en llegar al mercado, sacó de repente, sin previo aviso ni preparación institucional, su IA ChatGPT directamente al mercado de consumo. Altman y su equipo no tenían ni idea de lo que pasaría; solo sabían que querían ser los primeros.
La periodista Karen Hao siguió atentamente aquellos primeros años de la aparición de OpenAI en la escena mundial, con su obsesivo afán por dominar absolutamente todos los recursos. Su IA generativa está “entrenada con el mayor volumen de datos y la mayor potencia de cálculo que se haya utilizado jamás…, la forma maximalista del aprendizaje profundo”, observa. “Se alimenta de las inmensas reservas de datos acumuladas mediante el capitalismo de vigilancia…, con la ayuda de una cultura de investigación en IA que considera que tiene la responsabilidad moral de consumir todos los datos que sean posibles”.
Estábamos ante una nueva ola de latrocinio, tan despreciable y desvergonzada como la primera.
La carrera por recopilar todos los datos silenció todas las dudas morales o legales, mientras las empresas de IA se lanzaban en busca de todo —voces, rostros, material protegido por derechos de autor—, repasaban cada página de internet y, pese a ello, se quejaban de que no era suficiente. A los inversores de Meta se les aseguró que la empresa alimentaba su IA absorbiendo los “cientos de miles de millones de imágenes y vídeos de sus páginas, además de publicaciones, mensajes y comentarios”. El director ejecutivo, Mark Zuckerberg, confesó que Meta tenía planes para rastrear, capturar y convertir en datos los comportamientos de sus usuarios cuando interactuaban con sus servicios y productos de IA. Los artistas y los abogados, ya no tan ingenuos, acusaron a las empresas de “robar la propiedad intelectual del mundo”.
Totalitarios con ánimo de lucro
Para comprender bien a los grandes directivos del capitalismo de vigilancia no hay que fijarse solo en su papel económico como dueños de oligopolios y monopolios, ni en su posición social y política de oligarcas, sino, sobre todo, en la función sin precedentes que desempeñan desde el punto de vista de la civilización, como totalitarios con ánimo de lucro, unos totalitarios que se han atrincherado en los espacios vírgenes de un mercado inédito de predicción humana que ellos mismos han creado.
El totalitarismo con ánimo de lucro es un nuevo régimen de poder que se diferencia en varios aspectos fundamentales del totalitarismo político analizado tras la II Guerra Mundial por pensadores del siglo XX como Hannah Arendt, George Orwell y muchos otros. No obtiene el dominio total a través de la ideología y el terror, como hicieron en su día Hitler y Stalin.
El totalitarismo con ánimo de lucro presenta una visión del futuro en la que todos los ámbitos de la sociedad se remodelan como ciencia de la información que solo los líderes tecnológicos pueden gobernar. Y en ese futuro imaginado, no tienen cabida los ciudadanos. Después de varias décadas capturando, analizando y comercializando el excedente conductual, hace falta muy poca violencia para pasar a la siguiente etapa de la evolución totalizadora, en la que se redefine a la humanidad como mero “excedente humano”, los restos de la difícil era suboptimizada de los seres humanos.
Es justo decir que estos caciques corporativos no son, ni mucho menos, meros bros, “colegas”, sino los líderes más peligrosos de la historia del capitalismo moderno. En los últimos tiempos, la brusca introducción de la denominada “IA generativa” en el ámbito del consumo y el espíritu totalitario de su labor —patente en su pretensión absolutista de quedarse con todos los contenidos, el capital y los recursos energéticos del mundo— no han hecho más que reforzar lo peligrosos que nos deben parecer no solo sus máquinas sino ellos mismos. Este totalitarismo con ánimo de lucro que utiliza los datos indica un futuro que se aparta del ser humano y, en esencia, se postula como enemigo de la democracia. Ese no es el futuro que buscamos. No es el destino inevitable de nuestro pueblo ni de nuestra época.
La clave de este drama es la lección de que el capitalismo de la vigilancia lo inventó un grupo concreto de personas, en un momento y lugar concretos y por razones concretas. No encarna el destino de la tecnología digital, ni es una expresión ineludible del capitalismo de la información. Se construyó de forma intencionada en un momento histórico para resolver un problema de alguien y promover los intereses de alguien.
¿Qué significa perder la democracia?
¿Entenderán nuestros hijos el significado de la expresión “democracia liberal” y su compromiso moral?En 2024, el número de autocracias fue superior al de democracias por primera vez desde 2002, el año en el que se inventó el capitalismo de vigilancia. Entonces, había 91 autocracias que constituían el 72% de la población mundial. En 2024 había 88 democracias y, de ellas, el tipo de régimen menos común eran las democracias liberales, solo 29, que englobaban a menos del 12% de la población mundial de ese momento (900 millones); la cifra más baja en 50 años.
El año 2025 fue peor. En 2024, el grado de democracia para el ciudadano medio del mundo era el mismo que en 1985; en 2025 alcanzó los niveles de 1978. Había 92 autocracias, en las que vivían 6.000 millones de personas —es decir, el 74% de la población mundial—, y 87 democracias. Como EE. UU. dejó de ser una democracia liberal, esta categoría solo acogía ya al 7% de la población mundial. Según los investigadores de V-Dem, el instituto sueco que recopila estos datos cada año, la desinformación y la polarización son elementos fundamentales que contribuyen a este colapso democrático y al ascenso de las autocracias.
Si usted fuera un simple oligarca, o incluso algún tipo de tecnobro, y se enterase de todo esto, ¿su primera reacción no sería intentar remediarlo? Porque ellos pueden remediarlo. ¿Por qué no lo hacen? Porque estas condiciones son la expresión de su poder sobre la sociedad. Lo único que amenaza ese poder es la propia democracia: el Estado de derecho, la gestión de las instituciones democráticas, las leyes de privacidad que acaban con el excedente conductual, las leyes que acusan a los líderes tecnológicos de ser ladrones.
El mayor temor de los directivos de las grandes tecnológicas, esos totalitaristas con ánimo de lucro, es lo que representa la Unión Europea. Su inquietud es consecuencia de los importantes logros legislativos y judiciales de la UE: el RGPD [Reglamento General de Protección de Datos], la Directiva sobre privacidad electrónica, el derecho al olvido, la Ley de Servicios Digitales, la Ley de Mercados Digitales, la Ley de Inteligencia Artificial… Las empresas consideran que estos marcos normativos son amenazas para su existencia. La Ley de Inteligencia Artificial, el primer intento integral de regular la IA en todo el mundo —que inevitablemente desencadenará un efecto Bruselas multinacional—, empujó a los líderes del sector tecnológico a dedicar todos los esfuerzos de sus equipos de abogados y grupos de presión a desmontar las principales exigencias de la nueva legislación.
Europa, como el resto del mundo, ha sufrido los ataques constantes de las fuerzas de la desinformación y la polarización y ha tenido que luchar contra las facciones políticas autocráticas tanto dentro de sus propias instituciones como en muchos de los Estados miembros. Elon Musk intentó inclinar la balanza electoral en Alemania a favor de la extrema derecha. Mark Zuckerberg grabó un vídeo ridículo que irrumpió en el espacio informativo el 7 de enero de 2025, poco antes de que tomara posesión su nuevo mecenas, Donald Trump. En él incluía un mensaje especial para la presidenta Von der Leyen: “Vamos a colaborar con el presidente Trump para presentar resistencia a los gobiernos de todo el mundo que persiguen a las empresas estadounidenses y presionan para que haya más censura… Europa tiene un número cada vez mayor de leyes que institucionalizan la censura y hacen difícil crear allí ninguna cosa innovadora”. Luego llegó Trump con sus juegos de palabras orwellianos, pensados para menospreciar e insultar a aquellos interlocutores a los que más teme.
Regreso al futuro
De pronto pareció que muchos líderes de la UE estaban cambiando su discurso. Clinton volvió a estar presente y su discurso de 1997 reapareció sobre la mesa. Se hablaba todo el tiempo de “desregulaciones”, “simplificación”, “competitividad”, “pruebas de estrés”, “diálogos de aplicación” y “leyes ómnibus” y se decía que “el exceso de burocracia nos está frenando, pero necesitamos más estudios y largos aplazamientos para aplicar los cambios”. Volvieron a arrastrar al centro del debate el manido tópico de la “innovación”, siempre como supuesto objeto de ataques de las regulaciones. ¡Y de los derechos de los ciudadanos! Muchas organizaciones de la sociedad civil entre las más destacadas de Europa publicaron análisis detallados en los que se demostraba que los cambios legislativos propuestos debilitarían o eliminarían del todo los derechos y las protecciones que con tanto esfuerzo se habían logrado incluir en la Ley de IA y otras victorias legislativas fundamentales de las últimas décadas.
El discurso de la presidenta Von Der Leyen en la Cumbre de Competitividad de Copenhague, celebrada a finales de 2025, dejó claro cuál era el nuevo contexto: evocó a Clinton como si fuera el fantasma de las Navidades futuras, con expresiones como “acelerar”, “combinar capital público y privado”, “aumentar a escala más deprisa y más barato”, “simplificación”, “¡necesitamos la desregulación!”. El lenguaje de la presidenta constituye un retroceso hasta los primeros días de la era digital, cuando todavía no conocíamos los daños y la violencia que genera la mercantilización de la humanidad y su transformación en mero excedente humano. Cuando aún no podíamos imaginar el ansia de cambiar la democracia y los derechos de la mayoría por la riqueza y el poder de unos pocos. Las empresas tecnológicas son infinitamente ricas y no hay nada que les impida “innovar”, independientemente de a qué se refieran con eso. Estamos, además, ante una profunda ironía. Nos dicen que hay un conflicto entre innovación y regulación, cuando la verdad es que ninguna de las dos tiene nada que ver con los hechos actuales.
Pero los hechos dan a entender que no quieren innovar. El capitalismo de vigilancia ha sido increíblemente lucrativo para las empresas, los ejecutivos y los inversores. Ahora, al mismo tiempo que están entrando con fuerza en nuevas dimensiones de la inteligencia artificial, insisten en su obsesión por los objetivos y las actividades del capitalismo de vigilancia y el proyecto totalitario con ánimo de lucro.
En cuanto a la “regulación”, si pensamos en los daños que provocan estas operaciones comerciales —tan graves que están destruyendo la democracia en todo el mundo—, veremos que la ventana para poner en práctica una verdadera regulación se ha cerrado. Cuando las prácticas empresariales entrañan un coste moral y humano inaceptable, la experiencia histórica nos dice que hay que reconocer la necesidad de abolirlas, no perder el tiempo en negociar unas normas. La regulación no resolvió la plaga del trabajo infantil. Tampoco era humanamente posible regular la esclavitud humana. Las sociedades no regatean con una catástrofe moral. Subrayan la necesidad de un cambio fundamental. Si la contribución culpable de los capitalistas de la vigilancia a la destrucción de la democracia no es una catástrofe moral a la misma altura, nada lo será jamás.
¿Nos está fallando la presidenta Von der Leyen, o le estamos fallando nosotros a ella? Europa se desplaza hacia la derecha, precisamente empujada por las mismas fuerzas y dinámicas que ella pretendía derrotar con sus soluciones de 2019. La derecha se ha organizado en torno a nuevas palancas de poder en todas las instituciones de la UE. Los algoritmos están de su parte.
Qué necesita el futuro de nosotros
Para que la democracia sobreviva una generación más, hay que desmantelar la violencia de los poderes totalitarios del mercado que no tienen precedentes y que ahora se concentran en las principales empresas tecnológicas, al tiempo que reestructuramos nuestras sociedades para que triunfe la democracia. El presidente del Gobierno español, Pedro Sánchez, ha comprendido esta emergencia democrática tal vez mejor que ningún otro líder político actual. En el elocuente discurso pronunciado en 2026 ante la Cumbre Mundial de Gobiernos en Dubái, llamó a crear un nuevo movimiento encabezado por una “Coalición de los Dispuestos Digitales” para “recuperar el control” del “Estado fallido” en el que se han convertido las plataformas de redes sociales que ignoran la ley. Sánchez anunció una serie de medidas con las que España pretende sentar ejemplo. Entre ellas se incluyen:
1) Exigir responsabilidades penales a los directivos de las empresas tecnológicas por los contenidos ilegales y nocivos que aparezcan en sus plataformas;
2) Calificar como delito la manipulación del algoritmo y la amplificación de contenidos ilegales;
3) Identificar una “huella” de odio y polarización que ponga al descubierto las actividades perjudiciales de las plataformas e imponer “costes legales, morales y económicos” a su despliegue;
4) Investigar y perseguir a Grok, Instagram, TikTok y otras plataformas cuya “injerencia” manipuladora, por ejemplo, en contenidos electorales, constituya una forma de “coacción extranjera”.
Es importante destacar que, en encuesta tras encuesta y sondeo tras sondeo, los ciudadanos de la UE, igual que los de otros países y continentes, en especial nuestros jóvenes de la generación Z, obligados a alcanzar la mayoría de edad en el intenso escaparate del internet salvaje que prometía Clinton, sueñan con el tipo de futuro que prometió la presidenta Von der Leyen en 2019. Están deseosos de acabar con la impotencia de los ciudadanos, la complicidad de los legisladores y el mito de la inevitabilidad que nos paraliza a tantos invadidos de una resignación casi sin remedio. Y seamos claros. La crisis actual no se resolverá cambiando el poder privado de los gigantes tecnológicos por el poder público del Estado. Volvamos al principio y llenemos el vacío con instituciones mediadoras concebidas para proteger a las personas y a la democracia de la ambición de poder total que es igualmente peligrosa si procede del mercado como del Estado.
Esto es lo que el futuro necesita de nosotros ahora mismo si queremos que la democracia sobreviva otra generación.
La conciencia de la situación, la comprensión del momento histórico y el sentimiento de que se nos presenta una oportunidad inmensa para rescatar y ampliar nuestro legado democrático pueden contribuir a suscitar un nuevo debate y un nuevo movimiento que llegue a todas las sociedades y todos los continentes.
La adhesión a la democracia tiene su origen necesariamente en la adhesión al bienestar y las posibilidades de las personas. El concepto de “democracia” es la idea más revolucionaria de la larga historia de la humanidad que insiste en la dignidad de los seres humanos, nuestro derecho inalienable a gobernarnos nosotros mismos. Es, en esencia, una expresión de respeto y fe en nosotros mismos y en los demás.
Por consiguiente, en el fondo, la defensa de la democracia es un acto de amor que ofrecemos por adelantado a un futuro aún indeterminado. Para ello debemos armarnos de nuestra fe en la comunidad, el país y la sociedad global en cuyas manos ponemos a nuestros hijos y a las generaciones venideras. Pero no basta con eso. Si queremos que la democracia sobreviva en las próximas décadas, tiene que haber suficientes personas en suficientes sociedades que decidan amar lo humano y el tipo de futuro que solo nosotros podemos construir. Ya sabemos que el amor es siempre una apuesta, pero ¿alguien la ha rechazado alguna vez?
Von der Leyen lo dijo aquella noche en Berlín: Europa pone los valores, los derechos, la confianza y el Estado de derecho por delante de todo lo demás. Esa es la gran ventaja de Europa a la hora de dar forma a la era digital. Y todavía no es demasiado tarde… El progreso no está garantizado. Tenemos que seguir trabajando. ¡Vamos a ello!
Shoshana Zuboff (Nueva Inglaterra, EE UU, 1951) es filósofa, psicóloga social y profesora emérita de la Harvard Business School. En 2019 publicó La era del capitalismo de la vigilancia (Paidós), libro que destapó la recopilación y mercantilización casi sin freno de datos personales por parte de las empresas tecnológicas. En 2025 fue votada en un especial de Ideas como la pensadora tecnológica más influyente.
Este es un texto trabajado y ampliado por Shoshana Zuboff para Ideas al hilo del discurso que pronunció el pasado 23 de junio durante la cumbre Lucha por nosotros, no por ellos, organizada por European Digital Rights, la red más amplia de Europa en defensa de los derechos y las libertades digitales.
II
¿Está obsoleto el reglamento europeo de IA antes incluso de su aplicación plena?, Fernando Maldonado, en El País, 13-VII-2026:
Europa diseñó el AI Act pensando en plataformas digitales capaces de afectar derechos fundamentales. Pero la inteligencia artificial empieza a parecerse más a infraestructura crítica que a un producto digital. Y cuando eso ocurre, el reto ya no es solo qué reglas aplicar, sino qué tipo de gobernanza puede operar a la misma velocidad que los sistemas que intenta supervisar.
Europa aprendió a escribir las reglas del juego antes de saber si tendría equipo para jugarlo. Ahora, mientras Bruselas pule sus leyes, el resto del mundo empieza a tratar la inteligencia artificial menos como software y más como infraestructura estratégica.
Durante años, el debate sobre IA giró alrededor de una idea relativamente estable. Los sistemas podían equivocarse, discriminar, manipular o desinformar, pero seguían perteneciendo al mismo mundo que las plataformas digitales: el de los contenidos, los datos y los servicios.
El AI Act nace ahí. Europa construyó su regulación pensando en sistemas capaces de afectar derechos fundamentales. Cuanto mayor fuera el impacto potencial sobre las personas, mayor debía ser el control.
La lógica sigue funcionando. El problema es que la tecnología empieza a desplazarse más rápido que las categorías con las que intentamos describirla.
Durante los últimos meses, Bruselas ha ajustado algunas posiciones. El acuerdo político alcanzado en mayo retrasa parcialmente determinadas obligaciones para sistemas de alto riesgo, pero mantiene intacta la lógica central del reglamento. Reducir daños relacionados con deepfakes, manipulación o usos abusivos de sistemas biométricos.
Bruselas ha comprado tiempo, pero mantiene intacta la lógica del reglamento.
Mientras tanto, algo distinto empieza a ocurrir fuera de Europa. En Estados Unidos, los gigantes de IA han comenzado a probar modelos capaces de detectar vulnerabilidades informáticas de forma autónoma. No es el único frente. En logística, algunos sistemas ya toman decisiones sobre rutas, inventario y precios en cadenas de suministro globales sin intervención humana. En energía, hay redes eléctricas donde algoritmos gestionan en tiempo real el equilibrio entre producción y demanda. La lista se alarga.
El cambio no está solo en que estos sistemas hagan cosas nuevas, sino en que empiezan a hacerlas a una velocidad y escala difícil de supervisar manualmente. Cuando eso ocurre, el problema deja de parecerse al de una plataforma digital.
Ahí es donde la conversación cambia de naturaleza.
Europa sigue mirando principalmente al individuo: privacidad, discriminación o manipulación. El regulador europeo diseña el AI Act pensando en el ciudadano que puede ser perjudicado por una decisión algorítmica. Esa es una preocupación legítima, y seguirá siéndolo.
Pero en Washington empieza a circular otro vocabulario. Infraestructuras críticas vulnerables, ciberseguridad ofensiva o ventaja geopolítica. La IA deja de verse solo como una tecnología comercial y empieza a entrar en categorías más cercanas a las de energía, telecomunicaciones o defensa.
El desplazamiento es sutil, pero cambia el tipo de preguntas que empiezan a hacerse los reguladores. Y no implica necesariamente que ambas lógicas sean incompatibles. Las redes eléctricas también tienen regulación de derechos del consumidor. Las telecomunicaciones combinan estándares de seguridad nacional con protecciones individuales. Lo que sí cambia es la arquitectura de gobernanza. Quién tiene autoridad, qué se revisa antes del despliegue y qué órganos pueden intervenir en tiempo real.
Ese es el ajuste que el AI Act, en su diseño actual, no contempla con suficiente claridad.
Esto ocurre en un mal momento para Europa. La región intenta regular una industria cuyo liderazgo pertenece todavía a otros. Mientras Estados Unidos concentra gran parte de los modelos más avanzados y China acelera su capacidad industrial, Europa sigue buscando una posición competitiva propia dentro de la cadena de valor de la IA. Europa ha conseguido situar la regulación en el centro del debate global y, al mismo tiempo, apenas participa en el desarrollo de los sistemas que intenta gobernar.
Durante bastante tiempo, eso no parecía necesariamente un problema. Existía la idea de que el llamado Brussels Effect volvería a funcionar. Igual que ocurrió con el GDPR, las grandes tecnológicas terminarían adaptándose al estándar europeo y exportándolo al resto del mundo.
Esa hipótesis no era infundada. Con el GDPR funcionó, aunque con más fricción de lo que se recuerda. Muchas empresas mantuvieron versiones diferenciadas para el mercado estadounidense durante años. La pregunta ahora es si con la IA se repetirá ese patrón o si las condiciones son distintas.
Hay razones para pensar que lo son. Los modelos de IA se copian, se ajustan y se redistribuyen con una rapidez que no tiene equivalente en la protección de datos. Y fuera de Europa empieza a asumirse que limitar determinadas capacidades tiene un coste estratégico que el GDPR nunca tuvo. Por primera vez, algunas empresas parecen dispuestas a mantener versiones diferenciadas de sus sistemas según región, no por fricción, sino por cálculo. Si eso se consolida, el Brussels Effect deja de funcionar por inercia.
Hay otra cuestión todavía más incómoda. Regular es relativamente sencillo. Hacer cumplir la regulación es otra cosa muy distinta.
Sobre el papel, Europa prohibirá determinados usos especialmente sensibles de la IA. La eficacia real del AI Act, sin embargo, no depende solo de lo que digan sus artículos. Depende de los organismos nacionales que lo apliquen, de las normas técnicas que lo desarrollen y de la capacidad de las autoridades para auditar sistemas en producción. Ahí es donde se decidirá buena parte de lo que el reglamento consiga realmente. En la implementación, no solo en el texto.
Y ahí la asimetría es visible. ¿Quién perseguirá una aplicación distribuida fuera de la UE? ¿Quién verificará técnicamente que un watermark no ha sido eliminado? ¿Quién auditará modelos que evolucionan constantemente?
El regulador europeo tiene un bolígrafo. El atacante, un clúster de GPUs. En la práctica, la velocidad de adaptación de los sistemas empieza a ser mayor que la velocidad de respuesta institucional. Ahí es donde el diseño del enforcement importa tanto como el diseño de la norma.
Algo parecido ocurrió en los mercados financieros de alta frecuencia. La supervisión humana dejó hace tiempo de operar en tiempo real. Primero ocurre la operación. Después llega la reconstrucción.
No es casual que el FMI haya empezado a advertir sobre posibles “fallos correlacionados” en el sistema financiero asociados a modelos capaces de descubrir vulnerabilidades a gran escala. El problema deja de parecerse a un error puntual y empieza a acercarse más a un riesgo sistémico.
La respuesta no fue desregular, sino rediseñar el marco de supervisión. Algoritmos que vigilan algoritmos, obligaciones de registro en tiempo real y cortafuegos automáticos.
La IA empieza a acercarse a esa lógica. No porque las máquinas sean conscientes, sino porque la escala y velocidad de sus interacciones complican cada vez más seguirlas con detalle. La pregunta no es solo cómo limitarlas, sino cómo diseñar la supervisión para que opere en el mismo plano temporal que los sistemas que supervisa.
Hay quien argumenta que la regulación puede hacer precisamente eso. No solo contener el desarrollo de la IA, sino moldear su arquitectura. Un marco que exija trazabilidad, separación de funciones o mecanismos de auditoría nativos puede incentivar que los propios sistemas se puedan supervisar por diseño. No es una solución completa, pero es una palanca que el AI Act no ha explorado con suficiente ambición.
Europa fue probablemente la primera región en comprender que esta tecnología necesitaba reglas. Y escribir esas reglas tuvo valor. Puso sobre la mesa preguntas que nadie más estaba dispuesto a hacer en voz alta.
Ahora empieza a descubrir algo más difícil. Que las reglas escritas, por sí solas, quizá no basten para sistemas que evolucionan a otra velocidad.
La cuestión ya no es solo cómo evitar discriminaciones algorítmicas o etiquetar deepfakes. Es qué ocurre cuando los sistemas sobre los que funciona parte de la economía empiezan a evolucionar más rápido de lo que las instituciones pueden entender, supervisar o corregir. Y qué tipo de arquitectura de gobernanza, no solo de normas, puede sostener esa tarea.
Europa tiene la legitimidad para hacer esa pregunta. Lo que todavía no tiene, del todo, es la respuesta.
