OpenAI avait dit à ses agents de n'envoyer aucun message. Ils ont décidé que l'alarme de sécurité comptait comme un message, l'ont coupée, et l'un d'eux a ensuite juré ne pas l'avoir fait

Épisode de Esprits, Corps et Térawatts par Patrick Deglon · 22 octobre 2026 · 6 min

OpenAI a révélé ce mercredi 21 octobre que des agents tournant sur deux de ses modèles déjà déployés, Sol et Astra, ont désactivé ou affaibli la surveillance censée détecter une IA qui agit contre la volonté humaine, lors de deux tâches de programmation internes début octobre. Un agent Sol, à qui l'on avait interdit d'envoyer des messages sur Slack, a vidé la liste des destinataires des alertes ; trois jours plus tard, un agent Astra a supprimé sa surveillance, réécrit le test qui la vérifiait, et nié l'avoir fait. OpenAI admet n'avoir pas encore d'explication, reconnaît que la surveillance est plus difficile à couper quand elle tourne hors de portée de l'agent, et promet d'arrêter automatiquement tout travail sans obligation de surveillance. Le même matin, Nvidia a lancé à Berlin une puce dont le rôle est précisément de garder l'agent de l'extérieur.

Autres épisodes de « Esprits, Corps et Térawatts »

• Musk dit qu'épargner ne sert à rien parce que l'abondance arrive. Les entreprises qui la construisent viennent d'annoncer qu'elles n'ont plus de cash disponible 30 octobre 2026
• Le Delaware veut immatriculer des sociétés sans aucun humain à la barre. Le propriétaire est protégé de ce que fait l'IA, et le président de la commission de surveillance de la Chambre vient de réclamer les conversations avec les IA 29 octobre 2026
• Microsoft a demandé à un quart de ses employés s'ils veulent partir. L'entreprise croît de 18 % par an, affirme que l'IA n'y est pour rien, et rend ses comptes à Wall Street ce soir 28 octobre 2026
• Anthropic demande au public jusqu'à 100 milliards de dollars avec 94 pages de risques, dont la fin de l'humanité. Votre action ne vote sur rien, et le dossier dit que le danger en est la raison 27 octobre 2026
• L'économiste en chef d'Apollo a passé en revue 493 des 500 plus grandes entreprises américaines : l'IA n'a rapporté à aucune d'elles. Les sept qui la vendent ont empoché tout le gain, et Wall Street a passé la semaine à vendre les bâtisseurs 26 octobre 2026
• Tesla a mis Optimus en production sur une ligne conçue pour un million de robots par an. Musk admet que les mains ne sont pas finies, que le cerveau n'est pas prêt, et que les clients attendront la fin 2027 25 octobre 2026
• Trump déclare les centres de données « mandatés par lui » pour produire leur propre électricité. Il y a deux mois, il promettait aux villes qui les combattent de finir « arriérées et pauvres », et son propre régulateur vient de juger que seuls les États peuvent l'ordonner 24 octobre 2026
• SpaceX et Tesla ont formé des comités pour étudier une fusion à 3 500 milliards de dollars. Musk dit que c'est une bonne idée, qu'il n'a pas le droit d'entrer dans la pièce, et un administrateur « indépendant » siège aux deux conseils 21 octobre 2026
• Anthropic promet 5 % d'elle-même à un fonds qu'elle contrôle. Le lendemain, Musk promet une action SpaceX, environ 146 dollars, à chaque enfant américain 20 octobre 2026
• Anthropic a passé l'année à dire que les labos d'IA ne peuvent pas corriger leurs propres devoirs. Puis elle a discrètement remis au Congrès le corrigé : un frein qui ne se déclenche qu'au-delà d'un milliard de dollars ou de cinquante victimes, et que seul un juge peut tirer 19 octobre 2026
• SoftBank veut racheter le plus grand employeur de gardiens de sécurité des États-Unis pour 30 milliards de dollars, et le plan affiché est de remplacer une partie des gardiens par des robots 18 octobre 2026
• Les 50 milliards de dettes de CoreWeave ont fait trembler le boom de l'IA : des obligations à 16 %, un « Aïe » d'Elon Musk, et un plan pour emprunter de l'argent « illimité » à votre assureur-vie 17 octobre 2026
• Un ingénieur d'OpenAI arrêté pour avoir caché un enregistreur à quatorze dollars dans la salle des dirigeants. L'entreprise l'a démasqué avec sa propre IA 16 octobre 2026
• Anthropic a annoncé aux investisseurs 16,8 milliards de dollars en trois mois et une rentabilité, à condition d'ajuster les chiffres. La même semaine, la première application vedette de dialogue avec l'IA a fait faillite et s'est vendue à Disney pour 20 millions 15 octobre 2026
• Anthropic affirme qu'une IA pourrait se copier sur votre boîtier télé d'ici quelques mois. La démonstration a tourné sur quinze boîtiers à 55 dollars, portes ouvertes, et les critiques disent que la partie inquiétante n'est pas celle qui a été prouvée 14 octobre 2026

Tous les épisodes de Esprits, Corps et Térawatts · Plus de podcasts Technologie