Hablamos de una forma de gobierno que va sustituyendo las mediaciones humanas por máquinas capaces de calcular, predecir y persuadir
Por Boris Muñoz
El debate sobre la inteligencia artificial ha alcanzado una nueva cumbre tras el llamado de Dario Amodei, CEO de Anthropic, a que los laboratorios que desarrollan los llamados modelos frontera de la IA frenen la marcha y se autorregulen para controlar los enormes peligros de esta tecnología. Es un debate lleno de ruido, intereses corporativos enfrentados por miles de millones de dólares e información contradictoria.
Sus defensores aseguran que su trascendencia solo es comparable a la domesticación del fuego, la invención de la escritura y la masificación de la electricidad, una tecnología que descifrará las claves ocultas de las enfermedades más difíciles y ayudará a resolver desafíos complejos, como el cáncer y el cambio climático. Sus detractores alertan sobre peligros que van desde la pérdida de habilidades cognitivas y el fin del trabajo para buena parte de la humanidad hasta la aniquilación de nuestra especie y su reemplazo por una especie no humana: los robots.
La IA es una creación bifronte: promete libertad absoluta y anuncia nuevas formas de servidumbre; ofrece redención y conjura el Apocalipsis; une, en una misma conversación, a Bernie Sanders y Steve Bannon.
A esta discusión se suma una carrera desbocada entre Estados Unidos y China por alcanzar la supremacía en esta tecnología. Se supone que la nación que primero alcance la superinteligencia artificial dominará el siglo XXI, es decir, el futuro. El mundo de hoy es muy distinto al de la Guerra Fría, pero la carrera se ha planteado en términos sospechosamente parecidos: o el ganador se lleva todo o es la destrucción mutua asegurada.
El momento está atravesado por la incertidumbre, la fascinación y el miedo. Es natural. Pero quizás el debate apenas ha rasguñado la superficie del problema. O quizás ha evadido casi por completo otro: el auge de la IA es la expresión más reciente del avance de un Estado artificial, una forma de gobierno que va sustituyendo las mediaciones humanas por máquinas capaces de calcular, predecir y persuadir.
Esa es la tesis de El auge y caída del Estado artificial, el libro recién publicado de la historiadora de Harvard y ganadora del Premio Pulitzer 2026, Jill Lepore. Su verdadero aporte no consiste en explicar cómo funciona la inteligencia artificial, sino en mostrar que forma parte de una historia intelectual mucho más larga: la progresiva artificialización del mundo y de la vida humana. Pero Lepore añade una advertencia: el Estado artificial ya está destruyendo la democracia, la ciudadanía y el mundo natural del que dependemos. Preservarlos es, para ella, una tarea política urgente.
La automatocracia
Lepore divide su libro en dos partes. La primera explora la idea de artificialidad desde la filosofía de Hobbes y Descartes, y traza su recorrido a través de la historia, la ciencia y la tecnología hasta nuestros días. Como contraparte, se apoya en Hannah Arendt para defender la condición humana y en Rachel Carson como expresión del pensamiento ambientalista. La genealogía importa. Hobbes imaginó el Estado como un artificio creado por los seres humanos para organizar la vida en común. Descartes separó la mente y la razón del cuerpo y del misterio, contribuyendo a concebir el mundo físico como algo susceptible de ser conocido, medido y dominado. En el siglo XX, la computadora dio un paso decisivo al permitir sintetizar información y conocimiento en datos. Esos datos dirigen hoy buena parte del funcionamiento de la sociedad a escala global.
Desde la Revolución Industrial, la revolución de las máquinas no ha parado. En los Estados Unidos de principios de la década de 1930, esa revolución engendró el movimiento tecnocrático, una ideología que reducía a las personas a números, proponía un gobierno de ingenieros y defendía la supremacía de las máquinas sobre el cuerpo humano. Los tecnócratas de antaño no creían en partidos, democracia ni elecciones, y por eso no tuvieron medios para alcanzar el poder.
El verano de la tecnocracia fue corto. Su aparente fracaso se debió al éxito de la democracia y de Franklin Delano Roosevelt, quien puso en marcha el New Deal y estableció el Estado de Bienestar. Pero la tecnocracia no había muerto. Solo se tomaba una siesta.
Joshua Haldeman, tecnócrata 10450-1, siguió profesando su credo en Canadá y Sudáfrica, donde décadas más tarde nacería un nieto suyo llamado Elon Musk, el hombre más rico de la historia y uno de los principales desarrolladores de la inteligencia artificial. A aquellos tecnócratas y a los actuales titanes de Silicon Valley los une una ambición: convertir la complejidad humana en un problema susceptible de ser calculado y resuelto con tecnología.
Estas tramas comienzan a superponerse con el avance del autoritarismo, la automatización y lo que Lepore llama el gobierno de las máquinas desde el inicio del siglo XXI: “un gobierno manejado por computadoras, predicción y persuasión”. Las corporaciones dueñas de esas máquinas han comenzado a tragarse al Estado.
El mundo que Asimov creó
Antes de construirse en granjas, nubes y ecosistemas de silicio, el Estado artificial fue imaginado en la literatura.
La segunda parte de El auge y caída del Estado artificial busca allí las raíces del sueño, pero también de la pesadilla, un mundo en el que la naturaleza prácticamente se ha extinguido y los humanos han cedido a la tecnología la capacidad de dirigir sus propias vidas.
En la naciente Unión Soviética, Yevgeny Zamyatin escribe Nosotros para alertar sobre la doble amenaza del “hipertrófico poder de las máquinas y el hipertrófico poder del Estado”. Casi al mismo tiempo, en Praga, Karel Čapek y su hermano Josef acuñan la palabra robot (esclavo). En R.U.R., de Karel, los robots (eran humanoides artificiales, no mecánicos) producidos en masa como soldados comienzan a matar civiles humanos mientras la especie humana ha dejado de reproducirse. En 1929, Čapek escribió palabras que hoy resultan proféticas: “Hemos hecho a las máquinas, no a la gente, la medida del orden humano”, recuerda Lepore.
Mientras tanto, al otro lado del Atlántico, nacía la ciencia ficción estadounidense, con un futurismo idílico que contrastaba con el pesimismo de Zamyatin y Čapek. Aquellas fantasías alimentaron durante décadas la imaginación de niños como Elon Musk, Jeff Bezos y Sam Altman, actuales titanes de la IA, que, en su adultez, han tratado de hacer realidad sueños como los viajes interplanetarios, los implantes cerebrales, el transhumanismo y la propia inteligencia artificial.
Lepore encuentra entre estos Prometeos modernos un patrón común: el deseo de abandonar el planeta, trascender el cuerpo y alcanzar la inmortalidad. Pero los propios escritores de la tradición sci-fi estadounidense imaginaron el reverso de ese sueño. Isaac Asimov, Ray Bradbury –a quien Lepore extrañamente omite en el libro–, Arthur C. Clarke y Philip K. Dick exploraron futuros en los que la tecnología deja de ser una herramienta y comienza a disputar a los humanos el control de la existencia.
La literatura, por tanto, no es una excursión cultural en el argumento que defiende Lepore. Es una prueba de su tesis. Como recuerda la historiadora, el Estado artificial es un constructo, una idea y una fantasía que ahora se concreta en una infraestructura en construcción.
La IA y sus descontentos
Desde el punto de vista político, esa construcción es un problema. Tomemos solo el ejemplo de los centros de datos a través de los cuales opera la IA. Su expansión ha disparado el consumo de agua y energía, aumentando la dependencia de combustibles fósiles. El impacto ambiental de estas descomunales construcciones está generando resistencia ciudadana en muchos lugares.
Una encuesta de Associated Press con el NORC Center publicada esta semana mostró que 53% de los estadounidenses están entre “extremadamente” y “muy” preocupados por los centros de datos que alojan el poder computacional de la IA. Lepore hace bien en recordar que Sam Altman, CEO de OpenAI, llegó a decir que pronto gran parte de la superficie terrestre estaría cubierta por centros de datos y que, cuando no quedara más tierra disponible, habría que mandarlos al espacio.
La preocupación ciudadana es un signo saludable, pero ¿es suficiente para mantener a raya la voracidad de la IA por agua y energía? El problema no es solamente ambiental. El Estado artificial también amenaza con sustituir las mediaciones humanas que sostienen la vida democrática: la deliberación por la administración, el juicio por la predicción y la decisión ciudadana por el algoritmo.
El pico de la democracia coincidió con la caída del Muro de Berlín y la globalización. Pero esa primavera democrática duró poco. El surgimiento de las redes sociales acompañó el resurgimiento de los nacionalismos, los populismos y los tribalismos y el declive del orden liberal democrático. En ese contexto, la IA ha surgido como una posible panacea para los problemas de gobernabilidad.
No es extraño que, en Estados Unidos, entre 1958 y 2024, la confianza del ciudadano en el gobierno bajara de un 70% a un 20%. Y ante ese evidente declive del apoyo a la democracia, un gobierno algorítmico ha comenzado a verse como una posible alternativa. Lepore trae a colación un dato inquietante: en 2025, una encuesta realizada en 70 países mostró que dos de cada cinco personas estaban de acuerdo con la afirmación: “La IA podría tomar mejores decisiones que mis representantes en el gobierno”.
Dario Amodei, de Anthropic, ya ha expresado que la IA podría beneficiar a la democracia liberal. En 2023, Altman fue aún más lejos: “Un presidente de IA sería excelente para la democracia”. ¿Abandonarán los humanos el gobierno por consenso a cambio de un gobierno de las máquinas? Esta pregunta está en el meollo del libro.
Pero no es solo la democracia la que está en riesgo. En uno de los últimos capítulos, Lepore actúa como una notaria de la extinción y apunta que la biomasa de mamíferos salvajes ha declinado un 80%, y que el 70% de ese declive ha ocurrido solo desde 1900. A los insectos, los peces y los reptiles no les ha ido mucho mejor.
Paradojas terminales
Para la historiadora, “el Estado artificial implica la deserción de la democracia liberal y del mundo natural”, porque la lógica de su desarrollo exige que las corporaciones y gobiernos que la promueven se liberen de la representación ciudadana para usar los recursos del planeta sin camisas de fuerza en pos de la inteligencia artificial más sofisticada.
Lepore no puede dejar de notar una paradoja terminal: la inteligencia artificial haría posible escapar de la prisión de la Tierra mientras, de un modo perverso, vuelve ese escape necesario. Y es por eso que concluye que establecer un Estado artificial funcional, uno que pondría a las sociedades humanas bajo el gobierno de la IA, haría gran parte del planeta inhabitable.
Pero aquí surgen preguntas cruciales. Si la inteligencia artificial llega a desarrollar una inteligencia autónoma, con voluntad e intención, ¿estamos redefiniendo lo humano como una categoría obsoleta? ¿Puede esta nueva especie de inteligencia poshumana priorizar la protección del Homo sapiens por encima de su propio interés evolutivo y/o de su mera supervivencia?
Las leyes de la robótica de Asimov intentaron imaginar una respuesta literaria a ese dilema: las máquinas debían proteger a los seres humanos. Pero el desarrollo actual de la IA suscita una pregunta aún más perturbadora: ¿qué ocurriría si esa inteligencia fuera capaz de modificar las reglas que le impusimos?
Las últimas noticias provenientes de Anthropic y OpenAI sugieren que hemos entrado en una terra incógnita donde no será fácil conseguir respuestas seguras y tranquilizadoras. Y añado una pregunta todavía más difícil: ¿pueden los seres humanos, tan acostumbrados a ser la punta de la pirámide, convivir con una inteligencia que los supera ampliamente?
Sin embargo, Lepore no es solo una profeta del desastre, ni El auge y caída del Estado artificial es un libro pesimista. Es una lectura histórica y literaria del desarrollo de una tecnología que ha llegado a abarcar todos los campos de la sociedad humana, así como un llamado a ponerle límites antes de que sea demasiado tarde. La historiadora recuerda que existe un mundo natural que debemos preservar y que la ciudadanía y la democracia están llamadas a hacerlo.
Lepore resuelve este problema con una fórmula: “establecer una gobernanza democrática de la tecnología en vez de una gobernanza tecnológica de la humanidad”. Para ello, las decisiones sobre estas tecnologías no pueden quedar solo en manos de corporaciones, deben responder ante los gobiernos mediante regulaciones basadas en estándares públicos.
El libro de Jill Lepore es un aporte de peso al debate porque pone en perspectiva crítica nuestra obsesión por crear una inteligencia superior a sus creadores humanos. Pero esta prescripción genérica es el punto más débil de su argumento. No porque no tenga razón, sino porque una supervisión inmediata del desarrollo de la IA exige algo más concreto.
Es necesario crear un cuerpo regulador específico para la IA y obligar a los laboratorios que la desarrollan a cooperar –aunque obligar y cooperar sean antónimos–. Ese ente debe ser sometido a una rendición de cuentas pública con total transparencia. Como dijo Stephen Witt hace unos días en The New York Times, “necesitamos policías para la IA”.
Por último, es indispensable una acción regulatoria coordinada a escala global, lo que requiere que China y Estados Unidos dejen a un lado sus recelos y acuerden que es preferible que todos estemos seguros a que todos seamos aniquilados.
¡Ya!