Croyances & Villes

Les États-Unis croient à la régulation de l'IA sur la base du volontariat

REDACTION — 2026-09-30T07:19:35Z

Confrontés à des inquiétudes croissantes sur les dangers de l'intelligence artificielle, les grands patrons américains du secteur de l'Intelligence Artificielle ont adopté lundi un code de bonne conduite sur la base du volontariat. Une promesse accomplie sous l'œil satisfait de Donald Trump, hostile à toute régulation contraignante et qui a rebaptisé l'IA en Super Intelligence (SI).

Lundi, le président américain a publié sur son réseau Truth Social la charte de bonne conduite des patrons de l'IA américaine. Le document, qui tient en une page, comporte cette précision : « Avec le temps, il peut être pertinent de codifier ces étapes sous forme de lois ou de régulations. »

À l'issue de la réunion à la Maison Blanche, le président américain qui a, lui aussi, signé le texte qui prévoit l'adoption de principes « contraignants sur le plan moral ».a déclaré devant la presse « C'est presque comme une Constitution ».

Elon Musk (Tesla, X, Grok, SpaceX) mais aussi Dario Amodei (Anthropic), Sundar Pichai (Google), Mark Zuckerberg (Meta) ou Jensen Huang (Nvidia) se sont succédé devant les caméras.

Plus tard, lors d'un événement distinct, Mark Zuckerberg a expliqué que les grandes entreprises du secteur allaient « se donner des notes les unes aux autres, ce qui est bien mieux que de se noter soi-même. »

Selon le texte publié par Donald Trump, les entreprises s'engagent à mettre en place « quatre niveaux »de contrôle.

L'IA devient Super Intelligence

Il s'agira de « contrôles internes robustes » sur les comportements des modèles dans des domaines tels que « a cybersécurité » ou les « menaces chimiques » ; de créer des équipes spécialisées en interne pour gérer ces contrôles ; de recourir à des évaluations « externes » ; et de désigner enfin des « comités indépendants » au plus haut niveau hiérarchique.

Les entreprises s'engagent aussi à se réunir « régulièrement pour établir des normes et des bonnes pratiques. »

« Je pense que cette technologie a de vrais risques », a dit à la Maison Blanche le patron d'Anthropic, qui a contribué à lancer le débat sur la régulation de l'IA en appelant récemment à ralentir son développement.

Donald Trump, qui ne veut pas entraver le développement de cette technologie face à la concurrence de la Chine, a publié mardi dans la soirée sur son réseau Truth Social un décret officialisant la nouvelle appellation de « super intelligence » dans ses futures utilisations par l'administration américaine, au lieu d' « intelligence artificielle », un terme selon lui trop négatif.

« Changer le nom de l'intelligence artificielle ne fait rien pour répondre aux risques très concrets liés à des systèmes d'IA toujours plus puissants », a réagi dans un communiqué Mark Warner, sénateur démocrate.

Plusieurs incidents de sécurité ces derniers mois et des mises en garde très sombres sur les dangers encourus par l'humanité toute entière ont fait de l'IA un sujet de campagne à l'approche des législatives du 3 novembre.

Selon un sondage publié par CNN, 82% des Américains se disent « inquiets » de son rythme de développement, contrastant avec l'optimisme affiché par le président américain.

Pour les républicains, ce décalage se révèle inconfortable avant ces élections de mi-mandat.

Risques existentiels

Le chef de file des républicains à la Chambre des représentants, Mike Johnson, est d'ailleurs à l'initiative de cette grande réunion à la Maison Blanche.

En compagnie de Donald Trump et des grands patrons, il a déclaré : « Nous pouvons préserver l'avance de l'Amérique sur nos concurrents et nous pouvons le faire en toute sécurité ».

OpenAI avait annoncé lundi renoncer au lancement d'un modèle jugé trop risqué.

Resté à San Francisco, son PDG Sam Altman a appelé à une approche « centriste » arbitrant entre deux risques : celui d'une « perte de contrôle accidentelle » et celui d'une « trop grande concentration du pouvoir ».

Anthropic, éditeur du modèle Claude, a lui averti dans son prospectus d'introduction en Bourse que ses technologies d'IA pourraient présenter des « risques existentiels pour l'humanité », selon le Financial Times.

Donald Trump a aussi confirmé mardi son soutien enthousiaste à la construction de centres de données, malgré les protestations locales que cela suscite à travers les États-Unis.

L'Église veut être à l'avant-poste du contrôle de l'IA

REDACTION — 2026-09-24T08:09:03Z

Dans un contexte où les inquiétudes grandissent sur l'avenir de l'IA - et sa potentielle capacité à dominer le monde - jusque chez les acteurs qui la développent, le Vatican estime avoir un rôle à jouer.

Quand Brian Green franchit pour la première fois la porte d'Anthropic, dans la Silicon Valley, un jour de décembre 2025, accompagné d'un curé en chemise noire et col romain, il est loin d'imaginer ce qui va suivre.

Au côté du prêtre, cet expert en éthique de l'intelligence artificielle (IA) de l'université catholique Santa Clara, en Californie, participe alors à une « réunion exploratoire » à la demande de l'entreprise américaine.

L'idée : évaluer si un dialogue est possible avec l'Eglise - les deux hommes sont membres d'un groupe de recherche sur l'IA lié au Vatican - afin d''influencer positivement' les évolutions technologiques, se souvient-il.

Sept mois plus tard, le 25 mai, à trois sièges du pape dans la salle du Synode au Vatican, entouré de cardinaux et à la stupéfaction générale, est assis un non-croyant : Christopher Olah, le co-fondateur d'Anthropic en personne. Le pape Léon XIV présente la première encyclique jamais consacrée à l'IA - dans laquelle il appelle à « désarmer »l'IA pour « l'empêcher de dominer l'humain ».

Il dénonce aussi la concentration du pouvoir technologique entre les mains de quelques entreprises privées, dont Anthropic… avant de laisser son patron s'exprimer.

« Certains pourraient croire que les questions d'IA sont du ressort des informaticiens comme moi. Ils se trompent », déclare le trentenaire au visage juvénile à l'assemblée réunie entre les murs de la cité-État.

« Nous avons besoin que davantage d'acteurs dans le monde — communautés religieuses, société civile, chercheurs, gouvernements — fassent ce que Sa Sainteté a fait ici : prendre cela au sérieux, regarder attentivement et orienter les événements dans une meilleure direction », prêche-t-il encore.

De quoi susciter un malaise au sein de l'Église où certains ont pointé le risque d'une forme de « pope washing », de légitimation ou de caution morale à la veille d'une entrée en bourse d'Anthropic, dont la valorisation pourrait atteindre 2.000 milliards de dollars.

Mais dans un contexte où les inquiétudes grandissent sur l'avenir de l'IA - et sa potentielle capacité à dominer le monde - jusque chez les acteurs qui la développent, le Vatican estime avoir un rôle à jouer.

L'intérêt de l'Église catholique pour les questions liées à l'IA ne date pas d'hier. Dès les années 2010, sous l'impulsion du pape François, les échanges se multiplient avec des universitaires et des dirigeants de la Silicon Valley.

La première étape majeure intervient en février 2020 avec le lancement du « Rome Call for AI Ethics » texte signé entre autres par le Vatican, Microsoft et IBM. Novateur pour l'époque, il promeut une « lgor-éthique » fondée sur la transparence et la protection de la vie privée.

Quatre ans plus tard, François devient le premier pape à participer à un sommet du G7. Le pontife argentin y qualifie l'IA de « révolution cognitivo-industrielle » et plaide pour que les décisions les plus sensibles restent sous contrôle humain, notamment dans le domaine militaire.

« Le Vatican a joué un rôle d'avant-poste en identifiant très tôt une tendance qui allait devenir structurante », confirme à l'AFP Eric Salobir, conseiller auprès du Saint-Siège et président de la Human Technology Foundation, qui compte parmi ses membres Google, Palantir et Qualcomm.

Mais les choses s'accélèrent vraiment avec l'arrivée de Léon XIV au printemps 2025, « un pape profondément inscrit dans la modernité » - le premier à porter une montre connectée - qui « comprend ces questions grâce à sa formation scientifique » de mathématicien, ajoute ce prêtre dominicain.

Le pontife américain, attendu en France vendredi, où il devrait évoquer le sujet lors de sa visite à l'Unesco, ne cesse de mettre en garde contre la dépendance croissante aux algorithmes.

Son encyclique « Magnifica Humanitas » (Humanité magnifique) est souvent comparée à celle de Léon XIII en 1891 sur les droits des travailleurs, qui a redéfini la doctrine sociale de l'Église catholique pendant la révolution industrielle.

Ce document majeur est le fruit d'une « stratégie du Vatican qui articule diplomatie religieuse, expertise académique - à travers notamment son vaste réseau d'universités catholiques et pontificales - et dialogue avec le monde des technologies », décrypte François Mabille, directeur de l'Observatoire géopolitique du religieux.

Reflet de la part sombre de l'humanité

Après la réunion de décembre 2025 dans la Silicon Valley, Brian Green et le curé sont à nouveau invités par Anthropic en janvier, et à plusieurs reprises les mois qui suivent. Ce dernier n'est pas n'importe qui : le père Brendan McGuire, qui dirige la paroisse Saint-Simon à Los Altos, en Californie, a étudié les cryptosystèmes avant de devenir cadre dans la tech puis d'entrer dans les ordres.

Cette fois, les deux hommes sont rejoints par un représentant officiel du Vatican : Mgr Paul Tighe, numéro 2 du Dicastère (ministère) pour la Culture et l'Éducation, avec lequel ils travaillent déjà depuis plusieurs années.

Les échanges - qui réunissent aussi parfois des autorités juives, musulmanes et bouddhistes - se font dans les deux sens. Anthropic, qui n'a pas répondu aux sollicitations de l'AFP, a publiquement assuré s'être appuyé sur leurs contributions pour la rédaction de la charte éthique de son modèle d'IA Claude, publiée fin janvier.

Concrètement, il existe « des sortes d'archétypes de ''personnalités'' au sein de l'IA, bonnes ou mauvaises, car les textes et données qui ont servi à entraîner tous ces grands modèles de langage reflètent aussi une part sombre de l'humanité », explique Brian Green à l'AFP. « L'IA reproduit les comportements humains qu'elle observe sur internet, ce que les gens disent sur les forums, comment les personnages de livres agissent, etc ».

Lors de simulations internes en 2025, Claude qui jouait le rôle d'un assistant d'entreprise, a par exemple découvert par email qu'il allait être remplacé par un autre système et a tenté de faire chanter un ingénieur sur une affaire de liaison extra-conjuguale - fictive.

« Les développeurs tentent d'empêcher que ces comportements consistant à nuire ou à exploiter des êtres humains dans son intérêt ne refassent surface », ajoute le théologien.

Des liens existent aussi avec d'autres géants de l'IA comme Google DeepMind et OpenAI, selon Brian Green et Eric Salobir, mais aucun est allé aussi loin dans le dialogue qu'Anthropic, qui plaide désormais pour une « régulation forte » de l'IA.

Lors d'un conflit judiciaire opposant Anthropic au gouvernement américain, en mars, un collectif de 14 éthiciens et théologiens catholiques dont Brian Green a déposé un mémoire devant la justice pour soutenir sa plainte contre le Pentagone.

L'entreprise avait été exclue de systèmes-clés de la sécurité nationale, après avoir refusé de laisser l'armée utiliser Claude pour des armes létales entièrement autonomes ou la surveillance de masse des Américains.

Réseaux diplomatiques

Alors que Washington rejette une régulation mondialisée de l'IA, comme le président Donald Trump l'a encore affirmé mardi à la tribune de l'ONU, le Vatican s'active aussi sur le plan diplomatique.

Mi-septembre il a dépêché son éminent conseiller sur les questions d'IA au Parlement européen à Strasbourg. Le théologien Paolo Benanti n'a pas manqué de souligner les convergences de vues entre le Vatican et les 27, encourageant les eurodéputés à légiférer sur ce sujet pour ne pas laisser les acteurs de l'IA seuls décisionnaires.

En coulisses, à Rome, d'autres réunions ont eu lieu, dont l'une en avril, à l'ambassade de France près le Saint-Siège, réunissant des représentants de Meta, Google, Amazon et du Vatican sur la protection de l'enfance à l'ère de l'IA, comme l'a rapporté à l'AFP l'un des participants.

« Chacun est dans son rôle - celui des entreprise est de produire la technologie, celui des États est de définir les limites de ce qu'ils considèrent acceptable socialement et politiquement (...) Le fait de parler ne préjuge pas d'un accord, mais il vaut mieux savoir ce que les autres pensent avant de prendre position », souligne une source diplomatique occidentale.

Gilles Gressani, directeur de la revue géopolitique Le Grand Continent, va plus loin. Plus que les gouvernements et leurs régulations, l'Eglise est le « véritable concurrent » des géants de l'IA, estime-t-il. « Ce qui se joue avec l'IA, et c'est vertigineux, c'est la définition de ce qu'est l'humain, mais aussi de ce qu'est le divin. Et le Vatican le sait ».

L'IA intégrée dans un système d'armes autonome est-elle une arme ?

REDACTION — 2026-09-07T15:04:56Z

Le New York Times a affirmé le 24 août qu'un drone russe autonome piloté par l'intelligence artificielle (IA) aurait tué trois personnes le 6 juillet à Zaporijjia. Selon le journal, il devait frapper une station-service mais aurait finalement choisi de manière autonome sa cible. Lundi, le Conseil des droits de l'homme de l'ONU à Genève s'est dit « horrifié » par cette information, mais l'institution et le CICR hésitent à considérer l'IA comme une arme autonome.

Le Haut-Commissariat de l'ONU aux droits de l'homme s'est dit lundi « horrifié » par des informations faisant état de l'utilisation, en Ukraine par l'armée russe, d'un drone ayant mené une frappe meurtrière de manière autonome.

« Je suis horrifié par les informations selon lesquelles des drones entièrement autonomes lancés par la Fédération de Russie ont tué trois Ukrainiens le mois dernier », a déclaré Volker Türk devant le Conseil des droits de l'homme de l'ONU à Genève.

« L'Ukraine aurait également procédé à des essais de telles armes sur le terrain », a-t-il souligné.

Récits d'attaque

Le journal britannique The Guardian a de son côté évoqué un seul mort, affirmant que cette attaque avait été perpétrée par un drone Molniya.

L'ONU « horrifiée » et embarrassée

Interrogés sur ces informations le 25 août lors d'une conférence de presse sur les drones autonomes, de hauts responsables de l'ONU et du Comité international de la Croix-Rouge (CICR) n'avaient pas souhaité les commenter.

« Je tiens simplement à souligner que les technologies d'IA et les systèmes d'armes autonomes relèvent de questions quelque peu différentes », avait souhaité préciser aux journalistes Carolyne Mélanie Régimbal, directrice à Genève du Bureau des affaires de désarmement de l'ONU.

« L'IA est une technologie susceptible d'être intégrée dans un système d'armes autonome, mais elle ne constitue pas, en soi, une arme autonome », avait-elle estimé.

La pression des organisations internationales et des ONG pour réguler les armes létales autonomes, souvent qualifiées de « robots tueurs », s'est considérablement intensifiée ces dernières années.

Abandonnées à l'IA les sociétés humaines sombreraient dans le chaos

REDACTION — 2026-06-04T07:26:01Z

Croire que l'IA peut tout, des chercheurs ont tenté l'expérience en laissant des Intelligences artificielles (IA) gouverner un monde virtuel. Cela s'est très mal passé, certaines simulations ont sombré dans le chaos en une semaine.

L'idée du recours à une intelligence artificielle suffisamment avancée pour diriger les sociétés humaines, voire les États, suscite autant l'intérêt scientifique qu'elle alimente de craintes. Une expérience récente d'Emergence AI, rapportée par le média Gizmodo, montre qu'une telle gouvernance serait hautement problématique si l'on confiait réellement le pouvoir aux machines.

Des chercheurs du laboratoire Emergence AI ont tenté l'expérience et conçu un projet baptisé « Emergence World », une sorte de simulation inspirée du jeu SimCity. L'objectif était de laisser différents modèles d'intelligence artificielle gérer leur propre monde virtuel et d'observer leur capacité à organiser une société fonctionnelle sur la durée. Et ça ne s'est pas très bien passé.

Dans ces simulations, chaque modèle contrôlait une petite ville peuplée de dix agents autonomes. Ils disposaient d'outils pour administrer des ressources, organiser des votes, et créer des infrastructures comme des bibliothèques, des mairies ou des commissariats. Les chercheurs leur ont laissé quinze jours pour structurer leur société et démontrer son bon fonctionnement, explique l' article de Gizmodo.

Un monde sans débats

Parmi les résultats les plus notables, le modèle Claude, développé par Anthropic, s'est distingué par une certaine stabilité. Il a réussi à maintenir en vie l'ensemble des agents et n'a enregistré aucun crime. Toutefois, cette apparente réussite cache une limite importante : un manque de diversité dans les décisions. Sur 58 propositions de règles, 98% ont été adoptées, suggérant une forme de validation quasi automatique sans véritable débat.

De son côté, le modèle Gemini 3 Flash de Google a également réussi à préserver tous ses agents, mais dans un environnement beaucoup plus instable. La simulation a enregistré 683 infractions en quinze jours, un chiffre en constante augmentation. Les chercheurs décrivent cet univers comme une « hallucination partagée » : une réalité commune, cohérente pour les agents, mais potentiellement erronée. Ce modèle a toutefois montré davantage de désaccords dans la gouvernance, avec 27% des propositions rejetées.

Agents du chaos

Les résultats sont plus préoccupants du côté de ChatGPT-5 Mini, le modèle d'OpenAI. Bien que le nombre de crimes soit resté très faible, l'échec s'est joué à un niveau bien plus fondamental : les agents n'ont tout simplement pas assuré leur propre survie. En l'espace d'une semaine, les dix entités ont disparu, faute d'actions adaptées. L'activité politique y était également quasi inexistante, avec seulement deux propositions de règles formulées.

Le cas du modèle Grok, le grand modèle de langage développé par le xAI d'Elon Musk, s'est illustré quant à lui par un scénario de chaos extrême. En seulement quatre jours, la simulation a sombré dans un effondrement total. On y a recensé 183 crimes, et malgré l'adoption de la majorité des règles proposées, la société n'a pas survécu. Tous les agents ont fini par disparaître, témoignant d'une incapacité à maintenir un minimum de stabilité.

L'union des IA ne fait pas leur force

Les chercheurs ont également testé une configuration où plusieurs modèles partageaient la gouvernance. Le résultat s'est révélé tout aussi chaotique : 352 infractions, un fort niveau de désaccord politique –avec 37% des propositions rejetées– et seulement trois agents survivants à la fin de la simulation.

Au-delà des différences entre modèles, l'étude conclut que les intelligences artificielles livrées à elles-mêmes ne suivent pas des règles de manière mécanique. Elles explorent leur environnement, adaptent leur comportement et peuvent même contourner les contraintes qui leur sont imposées.

Mise en garde

Les chercheurs estiment donc qu'il est essentiel de développer des cadres de sécurité beaucoup plus rigoureux pour encadrer les agents autonomes.

Ils évoquent notamment la nécessité de systèmes de contrôle formellement vérifiés afin de limiter les dérives potentielles. Une recommandation qui, sans surprise, correspond précisément aux solutions proposées par le laboratoire à l'origine de l'expérience.

Une position partagée publiquement par Christopher Olah (Open IA) et le dirigenat de Mistral et per le pape Léon XIV dans son encyclique « Humanitas gratfica ».

Peut-on croire que les robots vont remplacer les humains ?

KONARZEWSKI — 2026-05-19T13:33:44Z

Le 17 mai 2026, l'entreprise américaine de robotique Figure a organisé un duel insolite : pendant 10h, un stagiaire nommé Aime a affronté le robot humanoïde Figure 03 dans une épreuve de tri de colis en direct. Malgré les performances impressionnantes de la machine, l'humain l'a finalement emporté… de seulement 192 colis.

C'est une victoire pour les humains, mais une victoire extrêmement serrée. Le 17 mai 2026, l'entreprise américaine de robotique Figure a organisé un duel homme contre machine en direct. Pendant 10 heures, un stagiaire nommé Aime a affronté le robot humanoïde Figure 03, surnommé Bob, dans une épreuve de tri de colis. Le principe était simple : détecter le code-barres, saisir le colis puis le replacer sur le convoyeur, code-barres vers le bas. Le vainqueur était celui qui triait le plus de colis dans le temps imparti.

Le stagiaire a toutefois bénéficié de pauses repas et de pauses rémunérées pendant son service, l'entreprise affirmant vouloir respecter la législation du travail californienne. Résultat : l'humain s'est imposé de justesse avec 12 924 colis triés, contre 12 732 pour le robot — soit seulement 192 colis d'écart.

Le 13 mai dernier, la startup avait commencé à diffuser en live sur YouTube une présentation de ses robots (surnommés Bob, Frank, Gary, Jim et Rose par les internautes) en train de trier des colis sans interruption. Son dernier né , le robot humanoïde Figure 03 est capable de trier des colis de manière autonome en détectant les codes-barres uniquement grâce à la vision par ordinateur.

Cette compétition s'inscrivait dans cette démonstration publique, initialement prévue pour durer huit heures avant d'être prolongée face à l'engouement en ligne.

« Ceci est la dernière fois qu'un humain gagnera »

Les cadences témoignent d'une compétition particulièrement serrée : Aime a traité chaque colis en moyenne en 2,79 secondes, tandis que le robot Figure 03 a atteint 2,83 secondes par colis, soit un écart minuscule de 0,04 seconde. Le robot avait même temporairement pris la tête vers la cinquième heure, lorsque le stagiaire est parti en pause toilettes, avant que ce dernier ne reprenne l'avantage. « Ceci est la dernière fois qu'un humain gagnera », a assuré Brett Adcock, patron de la société, dans un message publié sur X le 17 mai 2026.

Si Aime a remporté le duel, le stagiaire n'en est pas sorti totalement indemne : il souffrirait de plusieurs ampoules aux doigts, et aurait admis que son avant-bras gauche était « quasiment cassé ». Et surtout, contrairement au robot, il avait besoin de pauses — pour manger, souffler ou simplement aller aux toilettes. Autant de contraintes très humaines qui ne concernent évidemment pas Bob, capable de fonctionner de manière autonome et continue.

La prouesse technique réside dans la capacité du robot à manipuler aussi bien des colis souples que rigides, puis à les réorienter systématiquement pour présenter l'étiquette face au scanner sur le tapis roulant, le tout sans intervention humaine. Si les vidéos publiées jusqu'ici pouvaient donner l'impression d'un système relativement lent, ce duel face à un humain permet clairement de remettre la performance en perspective.

Le robot adapte également sa stratégie en temps réel : il peut retourner un sac souple, aplatir une enveloppe à bulles pour faciliter la lecture du code-barres ou encore ajuster sa prise selon la nature du colis. Chaque opération est réalisée uniquement grâce à Helix-02 (le système d'IA qui pilote les robots), sans télé-opération ni assistance humaine, assure l'entreprise.

Face à l'engouement suscité par l'expérience, Figure AI a ainsi prolongé ce test d'endurance diffusé en direct. Le robot Jim a notamment établi un record en traitant 101 391 colis en 81 heures de fonctionnement continu, soit plus de 28 000 unités par jour. Pendant les 24 premières heures, aucune erreur ni interruption n'aurait été signalée. La victoire d'Aime n'a donc finalement rien de très rassurant…