Abandonnées à l'IA les sociétés humaines sombreraient dans le chaos

REDACTION — 2026-06-04T07:26:01Z

Croire que l'IA peut tout, des chercheurs ont tenté l'expérience en laissant des Intelligences artificielles (IA) gouverner un monde virtuel. Cela s'est très mal passé, certaines simulations ont sombré dans le chaos en une semaine.

L'idée du recours à une intelligence artificielle suffisamment avancée pour diriger les sociétés humaines, voire les États, suscite autant l'intérêt scientifique qu'elle alimente de craintes. Une expérience récente d'Emergence AI, rapportée par le média Gizmodo, montre qu'une telle gouvernance serait hautement problématique si l'on confiait réellement le pouvoir aux machines.

Des chercheurs du laboratoire Emergence AI ont tenté l'expérience et conçu un projet baptisé « Emergence World », une sorte de simulation inspirée du jeu SimCity. L'objectif était de laisser différents modèles d'intelligence artificielle gérer leur propre monde virtuel et d'observer leur capacité à organiser une société fonctionnelle sur la durée. Et ça ne s'est pas très bien passé.

Dans ces simulations, chaque modèle contrôlait une petite ville peuplée de dix agents autonomes. Ils disposaient d'outils pour administrer des ressources, organiser des votes, et créer des infrastructures comme des bibliothèques, des mairies ou des commissariats. Les chercheurs leur ont laissé quinze jours pour structurer leur société et démontrer son bon fonctionnement, explique l' article de Gizmodo.

Un monde sans débats

Parmi les résultats les plus notables, le modèle Claude, développé par Anthropic, s'est distingué par une certaine stabilité. Il a réussi à maintenir en vie l'ensemble des agents et n'a enregistré aucun crime. Toutefois, cette apparente réussite cache une limite importante : un manque de diversité dans les décisions. Sur 58 propositions de règles, 98% ont été adoptées, suggérant une forme de validation quasi automatique sans véritable débat.

De son côté, le modèle Gemini 3 Flash de Google a également réussi à préserver tous ses agents, mais dans un environnement beaucoup plus instable. La simulation a enregistré 683 infractions en quinze jours, un chiffre en constante augmentation. Les chercheurs décrivent cet univers comme une « hallucination partagée » : une réalité commune, cohérente pour les agents, mais potentiellement erronée. Ce modèle a toutefois montré davantage de désaccords dans la gouvernance, avec 27% des propositions rejetées.

Agents du chaos

Les résultats sont plus préoccupants du côté de ChatGPT-5 Mini, le modèle d'OpenAI. Bien que le nombre de crimes soit resté très faible, l'échec s'est joué à un niveau bien plus fondamental : les agents n'ont tout simplement pas assuré leur propre survie. En l'espace d'une semaine, les dix entités ont disparu, faute d'actions adaptées. L'activité politique y était également quasi inexistante, avec seulement deux propositions de règles formulées.

Le cas du modèle Grok, le grand modèle de langage développé par le xAI d'Elon Musk, s'est illustré quant à lui par un scénario de chaos extrême. En seulement quatre jours, la simulation a sombré dans un effondrement total. On y a recensé 183 crimes, et malgré l'adoption de la majorité des règles proposées, la société n'a pas survécu. Tous les agents ont fini par disparaître, témoignant d'une incapacité à maintenir un minimum de stabilité.

L'union des IA ne fait pas leur force

Les chercheurs ont également testé une configuration où plusieurs modèles partageaient la gouvernance. Le résultat s'est révélé tout aussi chaotique : 352 infractions, un fort niveau de désaccord politique –avec 37% des propositions rejetées– et seulement trois agents survivants à la fin de la simulation.

Au-delà des différences entre modèles, l'étude conclut que les intelligences artificielles livrées à elles-mêmes ne suivent pas des règles de manière mécanique. Elles explorent leur environnement, adaptent leur comportement et peuvent même contourner les contraintes qui leur sont imposées.

Mise en garde

Les chercheurs estiment donc qu'il est essentiel de développer des cadres de sécurité beaucoup plus rigoureux pour encadrer les agents autonomes.

Ils évoquent notamment la nécessité de systèmes de contrôle formellement vérifiés afin de limiter les dérives potentielles. Une recommandation qui, sans surprise, correspond précisément aux solutions proposées par le laboratoire à l'origine de l'expérience.

Une position partagée publiquement par Christopher Olah (Open IA) et le dirigenat de Mistral et per le pape Léon XIV dans son encyclique « Humanitas gratfica ».

Peut-on croire que les robots vont remplacer les humains ?

KONARZEWSKI — 2026-05-19T13:33:44Z

Le 17 mai 2026, l'entreprise américaine de robotique Figure a organisé un duel insolite : pendant 10h, un stagiaire nommé Aime a affronté le robot humanoïde Figure 03 dans une épreuve de tri de colis en direct. Malgré les performances impressionnantes de la machine, l'humain l'a finalement emporté… de seulement 192 colis.

C'est une victoire pour les humains, mais une victoire extrêmement serrée. Le 17 mai 2026, l'entreprise américaine de robotique Figure a organisé un duel homme contre machine en direct. Pendant 10 heures, un stagiaire nommé Aime a affronté le robot humanoïde Figure 03, surnommé Bob, dans une épreuve de tri de colis. Le principe était simple : détecter le code-barres, saisir le colis puis le replacer sur le convoyeur, code-barres vers le bas. Le vainqueur était celui qui triait le plus de colis dans le temps imparti.

Le stagiaire a toutefois bénéficié de pauses repas et de pauses rémunérées pendant son service, l'entreprise affirmant vouloir respecter la législation du travail californienne. Résultat : l'humain s'est imposé de justesse avec 12 924 colis triés, contre 12 732 pour le robot — soit seulement 192 colis d'écart.

Le 13 mai dernier, la startup avait commencé à diffuser en live sur YouTube une présentation de ses robots (surnommés Bob, Frank, Gary, Jim et Rose par les internautes) en train de trier des colis sans interruption. Son dernier né , le robot humanoïde Figure 03 est capable de trier des colis de manière autonome en détectant les codes-barres uniquement grâce à la vision par ordinateur.

Cette compétition s'inscrivait dans cette démonstration publique, initialement prévue pour durer huit heures avant d'être prolongée face à l'engouement en ligne.

« Ceci est la dernière fois qu'un humain gagnera »

Les cadences témoignent d'une compétition particulièrement serrée : Aime a traité chaque colis en moyenne en 2,79 secondes, tandis que le robot Figure 03 a atteint 2,83 secondes par colis, soit un écart minuscule de 0,04 seconde. Le robot avait même temporairement pris la tête vers la cinquième heure, lorsque le stagiaire est parti en pause toilettes, avant que ce dernier ne reprenne l'avantage. « Ceci est la dernière fois qu'un humain gagnera », a assuré Brett Adcock, patron de la société, dans un message publié sur X le 17 mai 2026.

Si Aime a remporté le duel, le stagiaire n'en est pas sorti totalement indemne : il souffrirait de plusieurs ampoules aux doigts, et aurait admis que son avant-bras gauche était « quasiment cassé ». Et surtout, contrairement au robot, il avait besoin de pauses — pour manger, souffler ou simplement aller aux toilettes. Autant de contraintes très humaines qui ne concernent évidemment pas Bob, capable de fonctionner de manière autonome et continue.

La prouesse technique réside dans la capacité du robot à manipuler aussi bien des colis souples que rigides, puis à les réorienter systématiquement pour présenter l'étiquette face au scanner sur le tapis roulant, le tout sans intervention humaine. Si les vidéos publiées jusqu'ici pouvaient donner l'impression d'un système relativement lent, ce duel face à un humain permet clairement de remettre la performance en perspective.

Le robot adapte également sa stratégie en temps réel : il peut retourner un sac souple, aplatir une enveloppe à bulles pour faciliter la lecture du code-barres ou encore ajuster sa prise selon la nature du colis. Chaque opération est réalisée uniquement grâce à Helix-02 (le système d'IA qui pilote les robots), sans télé-opération ni assistance humaine, assure l'entreprise.

Face à l'engouement suscité par l'expérience, Figure AI a ainsi prolongé ce test d'endurance diffusé en direct. Le robot Jim a notamment établi un record en traitant 101 391 colis en 81 heures de fonctionnement continu, soit plus de 28 000 unités par jour. Pendant les 24 premières heures, aucune erreur ni interruption n'aurait été signalée. La victoire d'Aime n'a donc finalement rien de très rassurant…