La paradoja de Fermi nos plantea una pregunta muy simple: si el universo es tan vasto y tan antiguo, ¿por qué estamos aparentemente tan desesperadamente solos? Con una cantidad astronómica de estrellas y un universo de miles de millones de años, lógicamente ya deberíamos haber detectado rastros de otras civilizaciones o de formas de vida inteligente… Las respuestas más comunes a esta paradoja son de orden físico o biológico. Quizás el viaje interestelar sea técnicamente imposible, la vida compleja demasiado rara, o simplemente estemos solos. Pero entonces, ¿por qué no detectamos señales de radio u otras emitidas por potenciales civilizaciones avanzadas? ¿Por qué la vida existiría únicamente en la Tierra cuando las condiciones para su aparición parecen darse en numerosos exoplanetas, e incluso en Marte en un pasado no tan lejano si creemos en los descubrimientos recientes? La hipótesis más plausible, en mi opinión, es también la más inquietante: es lo que se conoce como el “Gran Filtro”. No hablamos aquí de una gran catástrofe ni de un meteorito gigante, sino más bien de una falla estructural y ordinaria que conduciría inevitablemente a las formas de vida inteligentes hacia su propia aniquilación. Pensemos, por ejemplo, en un progreso tecnológico exponencial cuyas consecuencias sobre el medio ambiente se vuelven poco a poco incontrolables.
Un problema de coordinación a escala civilizacional
Consideremos el avance actual de la inteligencia artificial. Todos los gobiernos, todas las grandes empresas tecnológicas y un número creciente de instituciones académicas lo reconocen hoy en día. Desarrollar sistemas de IA potentes sin medidas de seguridad adecuadas es extremadamente arriesgado. Artículos, conferencias, cartas abiertas: los ejemplos de advertencias más o menos pesimistas son innumerables. En septiembre de 2024, el International Institute for Management Development lanzó un reloj de seguridad de la IA, basado en el modelo del reloj del apocalipsis, para medir cuán cerca estamos de una catástrofe causada por la IA. Marcando ya las 23:31 en el momento de su creación, este reloj muestra ahora las 23:42 en marzo de 2026…
¡Y sin embargo la carrera de la IA sigue acelerándose!
El problema no es que los involucrados sean estúpidos o malvados, sino que la estructura misma de nuestra sociedad, competitiva y capitalista, vuelve irracional cualquier frenazo individual. Si OpenAI se detiene un tiempo por razones éticas, Anthropic, Google o DeepSeek ganarán terreno. Si Estados Unidos impone una regulación estricta, China tomará ventaja. Si una empresa invierte masivamente en investigación de seguridad, generará menos retorno para sus inversores que sus competidores que no se molestan con tales consideraciones. Es el dilema del prisionero a escala civilizacional, salvo que lo que está en juego va mucho más allá de las cuotas de mercado e implica el futuro mismo de nuestra especie.
OpenAI como caso de estudio
La trayectoria de OpenAI es un caso de estudio perfecto. Fundada en 2015 como asociación sin ánimo de lucro con la misión declarada de asegurar que la inteligencia artificial general beneficie a toda la humanidad, se transformó progresivamente en una empresa de “beneficio limitado” (“Capped Profit”), luego se reestructuró para acoger una inversión de 13 mil millones de dólares de Microsoft, antes de finalmente salir del capullo para convertirse en una empresa con fines de lucro de lo más convencional. Cada etapa de este recorrido era individualmente defendible: se necesita capital para competir, se necesita competir para influir en el desarrollo tecnológico, se necesita influir en el desarrollo tecnológico para garantizar su seguridad.
El resultado final es que una organización creada específicamente para evitar los escollos de la comercialización de una tecnología transformadora se ha convertido en el ejemplo mismo de una empresa capitalista y depredadora… Algo que recuerda a Google, cuyo lema “Don’t be Evil” pasó al olvido cuando la empresa se convirtió en el gigante que conocemos hoy. La comparación de Sam Altman presentando la IA como un “servicio público comparable a las redes de agua potable” es además reveladora, y no precisamente en el buen sentido. El agua y la electricidad son servicios públicos regulados precisamente porque son esenciales, lo que implica la necesidad de control público, regulación de precios y responsabilidad democrática. Altman invoca la analogía para normalizar la dependencia mientras omite discretamente la parte regulatoria. Quiere la legitimidad cultural de la comparación sin las consecuencias regulatorias.
Esto no es exclusivo de OpenAI. Las mismas dinámicas operan en Google, Meta, Anthropic y todos los demás actores del sector. El problema no es que las malvadas empresas quieran destruir el planeta, sino que evolucionamos en un sistema que recompensa la velocidad por encima de la reflexión, la extracción por encima de la redistribución, y la competencia por encima de la coordinación.
El punto ciego estructural del capitalismo
El capitalismo es extraordinariamente eficiente optimizando máximos locales. Puede producir smartphones, streaming y entregas ultrarrápidas con una eficacia notable. Lo que no sabe hacer es resolver problemas que requieren coordinación mundial, horizontes temporales largos y una consideración completa de las externalidades. El cambio climático es la prueba: incluso con consenso científico, incluso con consecuencias ya visibles, incluso con la tecnología existente para remediarlo, los estados-nación fallan. La lógica es siempre la misma: “Si frenamos, alguien más tomará ventaja.”
La gobernanza de la IA podría resultar aún más compleja que la cuestión climática. Los intereses competitivos son mayores porque la entidad que controle los sistemas de IA más potentes dispondrá de una palanca económica y militar considerable. Además, las capacidades de la IA progresan más rápido que cualquier transición energética. Y los bucles de retroalimentación son menos visibles porque los daños causados por sistemas de IA peligrosos son a veces más difíciles de medir que la subida del nivel del mar o el calentamiento global.
Creado por académicos de todo el mundo, el ejercicio de simulación llamado “Intelligence Rising” propone a los participantes asumir el rol de gobiernos o grandes empresas tecnológicas y tomar decisiones sobre el desarrollo de tecnologías de IA. En 43 iteraciones de esta simulación, un patrón se repite casi sistemáticamente: los desenlaces positivos requieren generalmente coordinación entre actores que, por defecto, están incentivados a competir. Librados a su suerte, los jugadores entran en una carrera armamentista. Los raros finales felices llegan cuando alguien impone una estructura que hace la cooperación individualmente racional, y no solo colectivamente deseable.
Un filtro progresivo e insidioso
Si está efectivamente delante de nosotros, el Gran Filtro probablemente no se parece a un apocalipsis de Hollywood, sino más bien a una serie de decisiones individuales razonables y defendibles que producen colectivamente una catástrofe. Países que quieren seguir siendo competitivos en la carrera del progreso tecnológico, no quedarse “descolgados” en el mundo de mañana. Consejos de administración que optimizan rendimientos y dividendos mientras la tecnología que despliegan transforma radicalmente el entorno informativo, de una manera que nadie comprende plenamente. Seres inteligentes que responden perfectamente a las exigencias competitivas de la sociedad que ellos mismos crearon, incapaces de detenerse.
El contraargumento más común es que las tecnologías anteriores suscitaron miedos similares y sobrevivimos. Sobrevivimos a las armas nucleares, a la contaminación industrial, a la ingeniería genética… Es cierto, pero es también el sesgo del superviviente en su forma más literal. No escuchamos, y nunca escucharemos, a las civilizaciones que se extinguieron. Y además, incluso para nosotros, el balance no es tan limpio como parece: estuvimos a minutos de la guerra nuclear en al menos tres ocasiones (Able Archer 83, la crisis de los misiles de Cuba, la falsa alarma del satélite soviético de 1983), y sobrevivimos a esos momentos tanto por suerte como por sabiduría.
Entonces, ¿qué hacer?
Perdí mi trabajo de traductor por culpa de la IA. No de forma espectacular, sino progresivamente: tarifas a la baja, menos proyectos, clientes pasándose a la traducción automática con una ligera revisión humana. El mercado no se derrumbó de un día para otro; se erosionó durante años y finalmente tuve que resignarme y adaptarme. Hoy estoy reconvirtiéndome en ingeniería electrónica y ciberseguridad porque estos campos tienen una componente física que resiste la automatización, al menos por ahora.
No digo esto para buscar compasión. Lo digo porque esta experiencia me da una relación muy concreta con el problema abstracto que acabo de describir. El fallo de coordinación en torno a la IA no es algo que lea en un informe de think tank, es la razón por la que mi carrera terminó sin que nadie me acompañara para sobrevivir, sin que nadie me ayudara a encontrar una nueva forma de subsistencia…
La conclusión a la que llego no es optimista, pero tiene la ventaja de ser honesta… Nuestro sistema capitalista probablemente no se va a reparar solo, los estados-nación no se coordinarán a tiempo y las empresas no frenarán voluntariamente. Los mecanismos de incentivo son demasiado potentes y los esfuerzos de coordinación demasiado débiles.
Queda lo que podemos hacer a nuestra pequeña escala… Voltaire termina Cándido con “hay que cultivar nuestro jardín”. Después de arrastrar a sus personajes por todas las catástrofes imaginables, desde terremotos hasta guerras pasando por la Inquisición, su conclusión no es que el mundo pueda ser reparado, sino que el jardín puede ser cuidado. No es resignación, sino una posición ética seria y realista. Cuando los sistemas en los que vives están más allá de tu capacidad de reparación, la escala a la que operas, las personas a las que tratas con justicia, el trabajo que haces con honestidad, eso es todo lo que importa.
Intentar tener un impacto positivo. Adaptarse. Construir sistemas sanos. Estudiar en serio. Cuidar a las personas cercanas. No es suficiente para salvar a la especie, pero no es nada.
El Gran Filtro quizás está delante de nosotros, pero nuestro jardín está bajo nuestros pies.
Redactado en colaboración con una IA en inglés, traducido al francés por el autor, y luego adaptado al español. Ver la página del blog para más información sobre el proceso.
Fuentes: International Institute for Management Development, Reloj de Seguridad de la IA (2024-2026); 80,000 Hours, “Risks from power-seeking AI systems” (2025); Wikipedia, “Existential risk from artificial intelligence”; ScienceDirect, “Strategic Insights from Simulation Gaming of AI Race Dynamics” (2025); Bulletin of the Atomic Scientists, “Stopping the Clock on catastrophic AI risk” (2025); AEI, “AI Acceleration: The Solution to AI Risk” (2025)