Chercheur en IA : "Je peux faire dire ce que je veux à ChatGPT."
Épisode de Le Futurologue par Shaïman Thürler · 1 septembre 2025 · 1 h 39 min
💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal
———
🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon
———
AGIR POUR LA SÉCURITÉ DE L’IA
S’informer
Faire un don
Devenir bénévole
Repenser votre carrière
———
MES RECOMMANDATIONS
Mes livres préférés sur l’IA
Tous les livres que j’ai lus
Mon matériel high-tech
———
DESCRIPTION DE L’ÉPISODE
Pierre Peigné est directeur scientifique et cofondateur de PRISM Eval, une start-up spécialisée dans l’évaluation des vulnérabilités des intelligences artificielles. Après un parcours en tant qu’ingénieur et chercheur en IA, il consacre aujourd’hui son expertise à mettre en lumière les failles des systèmes d’IA et les risques qu’elles représentent.
———
TIME CODE
0:00 Introduction
0:58 Le jailbreaking
8:45 L’amélioration des performances
13:05 La convergence instrumentale
18:47 Les types de risques
22:56 Les IA boîtes noires
26:05 La nullité des sécurités
29:12 Qui sont vos clients ?
33:01 Retour sur les IA boîtes noires
37:29 Évaluer les capacités
42:08 Une IA qui jailbreak d’autres IA
45:27 Comment jailbreaker les IA ?
48:45 L’état de l’art de l’évaluation des IA
52:54 Capacités vs sécurité
55:12 L’entraînement sur les benchmarks
57:10 La dangerosité de l’évaluation de l’IA
1:01:54 Faut-il mettre les IA en open source ?
1:09:07 Évaluer les systèmes multi agents
1:12:17 Évaluer les IA qui ont accès à internet
1:15:05 Évaluer les IA qui raisonnent
1:17:17 Lien entre intelligence et robustesse
1:20:10 Les obligations d’évaluation
1:22:09 L’évaluation selon la puissance de calcul
1:25:18 Les évaluations indépendantes
1:27:09 L’enjeu de la France en évaluation
1:28:44 Les usages borderline
1:31:57 Les capacités d’humour
1:33:57 Les IA sont des outils ?
1:37:04 Message à l’humanité
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
Autres épisodes de « Le Futurologue »
- Il a enquêté sur l’IA pendant 6 mois : il lance l’alerte 6 octobre 2026
- L’IA a 10% de chances de détruire l’humanité… 21 septembre 2026
- "On est au moment le plus important de l’humanité." - Romain Barbe 14 septembre 2026
- Ingénieur en IA : "Ça y est, la perte de contrôle a commencé…" 8 septembre 2026
- "L’IA est un crime contre l’art." 31 août 2026
- Ça y est, l’IA est surhumaine en manipulation… 13 août 2026
- Neuroscientifique : L’IA bousille le cerveau de nos enfants 4 août 2026
- Une si douce dictature… 21 juillet 2026
- Comment les robots vont envahir nos vies ? 15 juillet 2026
- "On est en train de créer des IA vivantes." - Fred Jordan 9 juillet 2026
- 9 plus gros mensonges sur l’intelligence artificielle - Monsieur Phi et Fabien Mikol 29 juin 2026
- La dernière erreur de l’humanité 23 juin 2026
- Ce qu’il se passe est extrêmement grave 20 juin 2026
- Anthropic avoue être en train de perdre le contrôle… 11 juin 2026
- Notre dernière invention : comment l’IA mettra fin à l’histoire humaine 1 juin 2026
À propos du podcast
Je décrypte les enjeux de l’IA
Épisodes similaires
- GLM 5.3 pirate Firefox & Altman et la vague de failles - Actualités IA (31 oct. 2026) – The Automated Daily - AI News Edition
- Binance suspend ses échanges & Intel s'effondre de près de 30 % - Actualités Technologiques (31 oct. 2026) – The Automated Daily - Tech News Edition
- Musk dit qu'épargner ne sert à rien parce que l'abondance arrive. Les entreprises qui la construisent viennent d'annoncer qu'elles n'ont plus de cash disponible – Esprits, Corps et Térawatts
- Apple et John Ternus : les nouveautés s’enchaînent, les prix s’envolent ! – Macplanete : podcast Mac, iPhone, iPad, iMac, MacBook Air, MacBook Pro, Mac mini, Apple TV...
- Est-ce que le UX est mort? – Corridors
- Anthropic demande son entrée en Bourse, OpenAI casse les prix (26 oct. 2026) [VIDEO] – DjamgaMind Intelligence : L'Édition Francophone
Tous les épisodes de Le Futurologue · Plus de podcasts Technologie