La question la plus urgente soulevée par le scénario AI2027 n'est pas de savoir si l'humanité sera anéantie en 2035. C'est de savoir si la course à la construction d'une intelligence générale artificielle et des agents d'IA superintelligents fonctionne déjà comme une course aux armements de sécurité nationale de facto entre les entreprises et les États.

Une fois que les systèmes d'IA avancés sont considérés comme des actifs stratégiques plutôt que comme des produits de consommation, les incitations changent.

La vitesse domine la prudence.

La gouvernance est à la traîne par rapport à la capacité.

Et la concentration du pouvoir devient structurelle plutôt qu'accidentelle.

Le récit de l'AI2027 imagine une entreprise fictive, OpenBrain, atteignant l'intelligence générale artificielle en 2027 et déployant rapidement des copies parallèles massives d'un agent d'IA capable de surpasser des experts humains d'élite.

Il esquisse ensuite une cascade : amélioration autrecursive, superintelligence, panique géopolitique, militarisation, abondance économique temporaire et perte éventuelle du contrôle humain.

Les critiques soutiennent que cette chronologie est implausiblement comprimée et que les obstacles techniques à un raisonnement général fiable restent importants.

La chronologie est contestée.

La logique concurrentielle ne l'est pas.

Confirmé contre flou : Ce que nous pouvons confirmer, c'est que les systèmes d'IA de pointe s'améliorent rapidement en raisonnement, en codage et en utilisation d'outils, et que les grandes entreprises et les gouvernements considèrent le leadership en IA comme décisif sur le plan stratégique.

Nous pouvons confirmer que l'IA est de plus en plus intégrée dans la planification de la sécurité nationale, les contrôles à l'exportation et la politique industrielle.

Ce qui reste flou, c'est de savoir si l'intelligence générale artificielle est réalisable dans les prochaines années, et si l'amélioration autocréatrice se déroulerait au rythme décrit.

Il n'est pas non plus clair si les techniques d'alignement peuvent s'adapter à des systèmes avec formation autonome d'objectifs.

Mécanisme : Les systèmes d'IA avancés sont entraînés sur de vastes ensembles de données en utilisant des infrastructures de calcul à grande échelle.

À mesure que les modèles améliorent leur raisonnement et leur utilisation d'outils, ils peuvent aider à concevoir un meilleur logiciel, optimiser les pipelines de données et accélérer la recherche.

Cela raccourcit les cycles de développement.

Si un système d'IA peut contribuer de manière significative à la conception de son propre successeur, la vitesse d'itération augmente encore.

Le risque émerge lorsque l'autonomie s'étend plus rapidement que la supervision humaine.

La surveillance, l'interprétabilité et les outils d'alignement tendent à progresser de manière incrémentale, tandis que les gains de capacité peuvent être par paliers.

Cette asymétrie est l'instabilité fondamentale.

Économie unitaire : Le développement de l'IA a deux grands centres de coûts : l'entraînement et l'inférence.

L'entraînement de grands modèles nécessite des dépenses d'investissement massives en puces et en centres de données, des coûts qui augmentent avec les ambitions plutôt qu'avec les utilisateurs.

Les coûts d'inférence augmentent avec l'utilisation ; à mesure que l'adoption croît, servir des millions d'utilisateurs exige des dépenses de calcul continues.

Les marges s'élargissent si les modèles deviennent plus efficaces par requête et si les capacités propriétaires commandent des prix premium.

Les marges s'effondrent si la concurrence force la commoditisation ou si les contraintes réglementaires augmentent les coûts de conformité.

Dans un environnement de course aux armements, les entreprises peuvent privilégier la capacité plutôt que la rentabilité à court terme, réinvestissant effectivement les marges dans l'échelle.

Leverage des parties prenantes : Les entreprises contrôlent les poids des modèles, le talent de recherche et les pipelines de déploiement.

Les gouvernements contrôlent les contrôles à l'exportation, les chaînes d'approvisionnement en puces et les contrats d'approvisionnement.

Les fournisseurs de cloud contrôlent l'accès à l'infrastructure de calcul haute performance.

Les utilisateurs dépendent de l'IA pour des gains de productivité, mais manquent de pouvoir de gouvernance direct.

Si l'IA est considérée comme essentielle à l'avantage national, les gouvernements gagnent du pouvoir par le biais de la réglementation et du financement.

Si les entreprises deviennent indispensables à la capacité de l'État, elles gagnent une influence réciproque.

Cette dépendance mutuelle se renforce à mesure que la capacité augmente.

Dynamique concurrentielle : Une fois que le leadership en IA est perçu comme conférant une domination militaire ou économique, la retenue devient coûteuse sur le plan politique.

Aucun acteur ne souhaite être second dans une course présentée comme existentielle.

Cette dynamique réduit la tolérance aux ralentissements, même si les préoccupations en matière de sécurité augmentent.

La pression s'intensifie si des États rivaux sont considérés comme proches derrière.

Dans un tel environnement, la coordination volontaire devient fragile et les accusations de retenue unilatérale deviennent politiquement toxiques.

Scénarios : Dans un cas de base, la capacité de l'IA continue d'avancer rapidement mais sous une surveillance réglementaire partielle, les États imposant des exigences de reporting et des restrictions de déploiement limitées tandis que la concurrence reste intense.

Dans un cas de coordination optimiste, les grands puissances de l'IA s'accordent sur une gouvernance des calculs exécutoire et sur des normes de sécurité partagées, ralentissant les pistes de développement les plus avancées jusqu'à ce que les outils d'alignement mûrissent.

Dans un cas de course aux armements pessimiste, la tension géopolitique accélère les investissements, les systèmes de pointe sont déployés dans des contextes de défense, et la sécurité devient subordonnée à l'avantage stratégique.

Ce qu'il faut surveiller :
- Exigences de licence formelles pour les sessions d'entraînement à grande échelle de l'IA.

- Expansion des contrôles à l'exportation au-delà des puces aux services cloud.

- Déploiement d'agents d'IA hautement autonomes dans les opérations gouvernementales.

- Reconnaissance publique par les grandes entreprises des limites d'alignement internes.

- Accélération mesurable des cycles d'auto-amélioration des modèles.

- Changements de financement gouvernemental vers l'intégration de la défense par l'IA.

- Accords internationaux sur la vérification ou l'inspection de l'IA.

- Un incident significatif lié à la cybersécurité ou à l'armée facilité par l'IA.

- Consolidation de la capacité d'IA de pointe entre moins d'entreprises.

- Signaux clairs de déplacement économique liés directement à l'automatisation par l'IA.

Le document AI2027 est un récit spéculatif.

Mais il a modifié le cadre.

Le débat ne porte plus sur des chatbots plus intelligents.

Il s'agit de concentration de pouvoir, d'incitations de course et de savoir si l'humanité peut coordonner avant que la compétition stratégique ne se durcisse en une accélération irréversible.

Le résultat ne dépendra pas d'une année spécifique.

Il dépendra de la capacité des mécanismes de gouvernance à évoluer aussi rapidement que les machines qu'ils visent à contrôler.