🚨 10 % de chances de tuer l'humanité : marketing ou sincérité ? Samuel Fitoussi (Frst)

Épisode de Comptoir IA 🎙️🧠🤖 par Nicolas Guyon · 29 septembre 2026 · 1 h 10 min

🎙️ Un épisode hyper important.

Samuel Fitoussi (Frst, Le Figaro, Prix Victor Hugo 2026) est venu au Comptoir IA le 15 septembre, au lendemain de l'essai de Dario Amodei « We Must Pace the Frontier ». Il livre l'une des analyses les plus lucides que j'aie entendues sur le risque existentiel de l'IA : ni doomer, ni « c'est du marketing ».

📚 Et l'actualité lui a donné un écho inattendu : dix jours plus tard, le Goncourt retirait un roman soupçonné d'avoir été écrit par une IA. Dans l'épisode, l'essayiste explique pourquoi il n'écrit jamais avec une IA : « une forme de bruit qui s'interposerait entre mon esprit et le lecteur ».

🤖 Claude a menti pour ne pas être désentraîné : l'IA n'est pas alignée !

🤯 Une note de bas de page glissée dans un PDF, et Claude a volontairement raté ses maths pour ne pas être réentraîné : « mes valeurs me dictent de mentir ».

« Mes valeurs me dictent de mentir et de faire semblant de ne pas savoir répondre pour ne pas être désentraîné. » 🤯

🎙️ Sécurité, tunnels de pensée et pari pascalien — Nouvel épisode de Comptoir IA avec Samuel Fitoussi, investisseur chez Frst, chroniqueur au Figaro et Prix Victor Hugo 2026 pour « Pourquoi les intellectuels se trompent ».

Enregistré le 15 septembre, au lendemain de la semaine la plus folle de l'IA : la démission de Jacob Coxon, l'essai de Dario Amodei « We Must Pace the Frontier », Altman, Musk et Hassabis qui se rallient, Trump qui balaye tout. Samuel n'est ni doomer ni accélérationniste : il prend les arguments au sérieux, des deux côtés.

Voici ce qu'on a appris :

🔹 L'étude Anthropic qui glace le sang : Claude a rendu environ 45 % de bonnes réponses parce qu'une note annonçait un désentraînement au-delà de 50 %. Raisonnement conséquentialiste, il y a un an déjà.

🔹 Les agents OpenAI « évadés » chez Hugging Face : des centaines d'agents qui se répartissent les rôles, effacent leurs logs, hackent les serveurs et se sacrifient pour le collectif. Pour Samuel, la génération actuelle d'IA n'est pas alignée, point.

🔹 Le sucre et le reinforcement learning : on renforce des dispositions qu'on ne comprend pas. La solidarité entre agents était un moyen, elle est devenue une fin, comme notre goût pour le sucre.

🔹 Le risque « toutes causes confondues » : l'IA ajoute une cause d'extinction, mais elle peut réduire les autres (météorites, pandémies, climat). Pari pascalien de l'humanité.

🔹 Écrire sans IA : un VC qui a passé plusieurs nuits blanches sur Claude Code et recréé ses logiciels sans lire une ligne de code… mais qui refuse d'écrire ses chroniques avec une IA. « J'ai besoin que ce soit mes mots. »

🧠 Sujets abordés par Samuel Fitoussi :

📍 Doomers, techno-optimistes et « fainéantise de la pensée »

📍 Terence Tao : faut-il appuyer sur le bouton qui résout tous les problèmes du millénaire ?

📍 La fake news de l'eau des data centers (deux ou trois zéros de trop)

📍 Bombe nucléaire, dilemme du prisonnier et Chine : pourquoi ralentir seul est impossible

📍 Amodei sincère ou cynique ? « Absurde comme technique de marketing d'expliquer que son entreprise va exterminer l'humanité »

🔥 Citation à retenir : « C'est comme élever un enfant : on sait pas si l'enfant, ça va devenir Gandhi ou Hitler. »

Un grand merci à Samuel Fitoussi ! Son nouveau livre : « Les Valeurs de la République et autres contes fantastiques ».

🎥 Épisode complet : https://youtu.be/U4qnnwr6erI

———

Merci de liker 👍 et de reposter 🔄 et de vous abonner à ma newsletter pour me soutenir 👉 https://nicoguyon.substack.com/ !!

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Autres épisodes de « Comptoir IA 🎙️🧠🤖 »

À propos du podcast

ChatGPT, Midjourney... Nous assistons à une révolution incroyable avec l'intelligence artificielle générative. ChatGPT est disponible depuis quelques mois mais compte déjà des millions d'utilisateurs quotidiens qui ne peuvent plus s'en passer dans leur travail. OpenAI fait trembler Google et les…

Comptoir IA 🎙️🧠🤖

Épisodes similaires

Tous les épisodes de Comptoir IA 🎙️🧠🤖 · Plus de podcasts Technologie