Le paradoxe de Fermi nous pose une question très simple : si l’univers est si vaste et si ancien, pourquoi y sommes-nous apparemment si désespérément seuls ? Avec une quantité astronomique d’étoiles et un univers vieux de plusieurs milliards d’années, nous devrions logiquement déjà avoir détecté des traces d’autres civilisations ou de formes de vie intelligentes… Les réponses les plus courantes à ce paradoxe relèvent de la physique ou de la biologie. Peut-être que le voyage interstellaire est techniquement impossible, que la vie complexe est tout simplement trop rare ou que nous sommes véritablement seuls ? Mais alors, pourquoi ne détectons-nous pas de signaux radio ou autres générés par de potentielles civilisations avancées ? Pourquoi la vie serait-elle présente uniquement sur Terre alors que les conditions pour son apparition semblent réunies sur de nombreuses exoplanètes, et même sur Mars dans un passé pas si lointain si l’on en croit les découvertes récentes sur la planète rouge ? L’hypothèse la plus plausible à mon sens est la plus inquiétante de toutes : c’est celle que l’on appelle le “Grand Filtre”, ou “Great Filter” dans la langue de Shakespeare. Point ici de grande catastrophe ou de gigantesque météorite, mais plutôt une défaillance structurelle et ordinaire qui mènerait inévitablement les formes de vie intelligentes vers leur propre annihilation. On peut par exemple penser à un progrès technologique exponentiel dont les conséquences sur l’environnement deviennent peu à peu incontrôlables.
Un problème de coordination à l’échelle civilisationnelle
Considérons l’avancement actuel de l’intelligence artificielle. Tous les gouvernements, toutes les grandes entreprises technologiques et un nombre croissant d’institutions académiques le reconnaissent aujourd’hui. Développer des systèmes d’IA puissants sans mesures de sécurité adéquates est extrêmement risqué. Articles, conférences, lettres ouvertes, les exemples de mises en garde plus ou moins pessimistes sont légion. En septembre 2024, l’International Institute for Management Development a lancé une horloge de sécurité de l’IA, basée sur le modèle de l’horloge de l’apocalypse, pour mesurer à quel point nous sommes proches d’une catastrophe causée par l’IA. Affichant déjà 23h31 au moment de sa création, cette horloge donne désormais 23h42 en mars 2026…
Et pourtant la course à l’IA continue de s’accélérer !
Le problème n’est pas que les gens impliqués soient stupides ou malveillants, mais plutôt que la structure même de notre société, compétitive et capitaliste, rend tout ralentissement individuel irrationnel. Si OpenAI s’arrête pendant un temps pour des raisons éthiques, Anthropic, Google ou DeepSeek gagneront du terrain. Si les États-Unis imposent une réglementation stricte, la Chine prendra l’avantage. Si une entreprise investit massivement dans la recherche en sécurité, elle générera moins de retour sur investissement pour ses investisseurs que ses concurrents qui ne s’embêtent pas avec de telles considérations. C’est le dilemme du prisonnier à l’échelle civilisationnelle, sauf que l’enjeu va bien au-delà des parts de marché et implique l’avenir même de notre espèce.
OpenAI comme cas d’étude
La trajectoire d’OpenAI est un cas d’étude parfait. Fondée en 2015 comme association à but non lucratif avec pour mission déclarée de s’assurer que l’intelligence artificielle générale profite à toute l’humanité, elle s’est progressivement transformée en entreprise à “profit plafonné” (“Capped Profit”), puis restructurée pour accueillir un investissement de 13 milliards de dollars de Microsoft, avant de finalement sortir de sa chrysalide pour devenir une entreprise à but lucratif tout ce qu’il y a de plus classique. Chaque étape de ce parcours était individuellement défendable : il faut du capital pour être compétitif, il faut être compétitif pour avoir de l’influence sur le développement technologique, il faut de l’influence sur le développement technologique pour en garantir la sécurité.
Reste qu’au bout du compte, une organisation créée spécifiquement pour éviter les écueils liés à la commercialisation d’une technologie transformative est devenue l’exemple même d’une entreprise capitaliste et prédatrice… Cela n’est pas sans rappeler Google dont le slogan “Don’t be Evil” est passé à la trappe après que l’entreprise soit devenue le mastodonte qu’on connaît aujourd’hui. Le cadrage de Sam Altman présentant l’IA comme un “service public comparable aux réseaux d’eau potable” est d’ailleurs révélateur, et pas forcément dans le bon sens pour l’intéressé. L’eau et l’électricité sont des services publics réglementés précisément parce qu’ils sont essentiels, ce qui implique la nécessité d’un contrôle public, d’un encadrement des prix et d’une responsabilité démocratique. Altman invoque l’analogie pour normaliser la dépendance tout en omettant discrètement la partie réglementaire. Il veut la légitimité culturelle de la comparaison sans les conséquences réglementaires (le beurre, l’argent du beurre, et…).
Cela n’est pas propre à OpenAI. Les mêmes dynamiques opèrent chez Google, Meta, Anthropic et tous les autres acteurs du secteur. Le problème n’est pas que les vilaines entreprises veulent détruire la planète, mais plutôt que nous évoluons dans un système qui récompense la vitesse plutôt que la réflexion, l’extraction plutôt que la redistribution, et la compétition plutôt que la coordination.
L’angle mort structurel du capitalisme
Le capitalisme est extraordinairement efficace pour optimiser les maxima locaux. Il peut produire des smartphones, du streaming et de la livraison ultra-rapide avec une efficacité remarquable. Ce qu’il ne sait pas faire, c’est résoudre des problèmes qui nécessitent une coordination mondiale, des horizons temporels longs et une prise en compte complète des externalités. Le changement climatique en est la preuve : même avec un consensus scientifique, même avec des conséquences déjà visibles, même avec la technologie existante pour y remédier, les États-nations font défaut. La logique est toujours la même : “Si nous ralentissons, quelqu’un d’autre prend l’avantage.”
La gouvernance de l’IA risque bien de s’avérer encore plus complexe que la question climatique. Les enjeux compétitifs sont plus élevés car l’entité qui contrôle les systèmes d’IA les plus puissants dispose d’un levier économique et militaire considérable. De plus, les capacités de l’IA progressent plus vite que n’importe quelle transition énergétique. Et les boucles de rétroaction sont moins visibles car les dommages causés par des systèmes d’IA dangereux sont parfois plus difficiles à mesurer que la montée des eaux ou le réchauffement global.
Créé par des universitaires du monde entier, l’exercice de simulation appelé “Intelligence Rising” propose aux participants de jouer le rôle de gouvernements ou de grandes entreprises technologiques et de prendre des décisions sur le développement des technologies d’IA. Sur 43 itérations de cette simulation, un schéma revient quasi systématiquement : les issues positives nécessitent généralement une coordination entre des acteurs qui, par défaut, sont incités entrer en concurrence. Livrés à eux-mêmes, les joueurs font la course à l’armement. Les rares fins heureuses surviennent lorsque quelqu’un impose une structure qui rend la coopération individuellement rationnelle, et pas seulement collectivement souhaitable.
Un filtre progressif et insidieux
S’il se trouve bien devant nous, le Grand Filtre ne ressemble probablement pas à une apocalypse hollywoodienne, mais plutôt à une série de décisions individuelles raisonnables et défendables, qui produisent collectivement une catastrophe. Des pays qui souhaitent rester compétitifs dans la course au progrès technologique, ne pas être “largués” dans le monde de demain. Des conseils d’administration qui optimisent les rendements et les dividendes tandis que la technologie qu’ils déploient transforment radicalement l’environnement informationnel, d’une manière que personne ne comprend pleinement. Des êtres intelligents qui répondent parfaitement aux injonctions compétitives et concurrentielles de la société qu’ils ont eux-mêmes créée, incapables de s’arrêter.
Le contre-argument le plus courant est que les technologies précédentes ont suscité des peurs similaires et que nous avons survécu. Nous avons survécu aux armes nucléaires, à la pollution industrielle, au génie génétique… C’est vrai, mais c’est aussi le biais du survivant dans sa forme la plus littérale. Nous n’entendons pas, et n’entendrons jamais, les civilisations qui se sont éteintes. D’ailleurs, même pour nous, le bilan n’est pas aussi propre qu’il en a l’air : nous sommes passés à quelques minutes de la guerre nucléaire à au moins trois reprises (Able Archer 83, la crise des missiles de Cuba, la fausse alerte satellite soviétique de 1983), et nous avons survécu à ces moments autant par chance que par sagesse.
Mais alors, que faire ?
J’ai perdu mon travail de traducteur à cause de l’IA. Pas de manière spectaculaire, mais progressivement : des tarifs en baisse, moins de projets, des clients passant à la traduction automatique avec une légère révision humaine. Le marché ne s’est pas effondré du jour au lendemain ; il s’est érodé sur des années et j’ai finalement dû me résigner et m’adapter. Aujourd’hui, j’entame une reconversion dans l’ingénierie électronique et la cybersécurité parce que ces domaines ont une composante physique qui résiste à l’automatisation, du moins pour l’instant.
Je ne dis pas cela pour susciter la sympathie. Je le dis parce que cette expérience me donne une relation très concrète avec le problème abstrait que je viens de décrire. La défaillance de coordination autour de l’IA n’est pas quelque chose que je lis dans un rapport de think tank, c’est la raison pour laquelle ma carrière s’est terminée sans qu’on m’accompagne pour survivre, sans qu’on m’aide à trouver une nouvelle forme de subsistance…
La conclusion à laquelle j’arrive n’est pas optimiste mais elle a l’avantage d’être honnête… Notre système capitaliste ne va probablement pas se réparer seul, les États-nations ne se coordonneront pas à temps et les entreprises ne ralentiront pas volontairement. Les mécanismes d’incitation sont trop puissants et les efforts de coordination trop faibles.
Reste ce que l’on peut faire à notre petite échelle… Voltaire termine Candide par “il faut cultiver notre jardin”. Après avoir traîné ses personnages à travers toutes les catastrophes imaginables, des tremblements de terre aux guerres en passant par l’Inquisition, sa conclusion n’est pas que le monde peut être réparé, mais que le jardin peut être entretenu. Ce n’est pas de la résignation, mais une position éthique sérieuse et réaliste. Quand les systèmes dans lesquels vous vivez sont au-delà de votre capacité de réparation, l’échelle à laquelle vous opérez, les gens que vous traitez équitablement, le travail que vous faites honnêtement, c’est tout ce qui compte.
Essayer d’avoir un impact positif. S’adapter. Construire des systèmes sains. Étudier sérieusement. Prendre soin des gens proches de soi. Ce n’est pas suffisant pour sauver l’espèce, mais ce n’est pas rien.
Le Grand Filtre est peut-être devant nous, mais notre jardin est sous nos pieds.
Rédigé en collaboration avec une IA en Anglais, puis traduit en Français par mes soins. Voir la page du blog pour en savoir plus sur ma méthode.
Sources : International Institute for Management Development, Horloge de Sécurité de l’IA (2024-2026) ; 80,000 Hours, “Risks from power-seeking AI systems” (2025) ; Wikipédia, “Existential risk from artificial intelligence” ; ScienceDirect, “Strategic Insights from Simulation Gaming of AI Race Dynamics” (2025) ; Bulletin of the Atomic Scientists, “Stopping the Clock on catastrophic AI risk” (2025) ; AEI, “AI Acceleration: The Solution to AI Risk” (2025)