#62 - Course à l’IA : La course vers le précipice ? avec Henry Papadatos

Épisode de The Flares - Podcasts par The Flares · 23 août 2025 · 1 h 54 min

Sommaire :

0:00:00 - Peux-tu te présenter et nous expliquer ce qui t'a amené à t'intéresser à la sécurité de l'IA ?

0:02:56 - Peux-tu nous présenter ton organisation et ses missions principales en matière de gouvernance de l'IA ?

0:07:45 - Peux-tu faire un état des lieux des capacités actuelles des intelligences artificielles ?

0:18:06 - Quelles sont les capacités actuelles des IA qui posent déjà des enjeux concrets en matière de sécurité ?

0:21:49 - Votre organisation a publié un audit de sécurité des laboratoires d'IA, quels sont les meilleurs et les moins bons élèves ?

0:24:24 - Comment la course pour être le premier à développer une AGI influence-t-elle la négligence de la sécurité ?

0:35:10 - Est-il probable que les États-Unis finissent par nationaliser l'industrie de l'IA pour des raisons de sécurité nationale ?

0:36:48 - Quelles sont les estimations actuelles sur l'arrivée d'une IA de niveau général humain (AGI) ?

0:39:38 - Pourquoi vouloir créer des IA générales plutôt que des IA spécialisées surpuissantes pour résoudre des problèmes spécifiques (médecine, énergie) ?

0:40:42 - Comment expliques-tu le concept de risque existentiel à des personnes qui ne sont pas familières avec le sujet ?

0:49:14 - Pourquoi développons-nous des intelligences plus fortes que nous, alors que nous savons que cela comporte des risques ?

0:52:21 - Même si les IA deviennent très puissantes, le passage du 'software' au 'hardware' ne va-t-il pas ralentir leur impact sur le monde réel ?

0:58:56 - Quel sera l'impact sur les emplois et la société si l'IA automatise la plupart des tâches humaines ?

1:02:22 - Y a-t-il un risque que tout se passe bien jusqu'à ce que tout se passe mal, avec des IA qui cacheraient leurs véritables intentions ?

1:04:30 - Comment expliques-tu le désaccord profond entre experts, certains alertant sur les risques existentiels et d'autres les rejetant complètement ?

1:10:55 - Où en sont les tentatives de régulation, notamment avec l'AI Act européen, et est-ce suffisant ?

1:15:26 - Pourrait-on réguler la chaîne d'approvisionnement, par exemple en traquant les puces les plus puissantes ?

1:19:13 - Est-ce qu'il faudra attendre un accident ou une catastrophe majeure pour que des régulations sérieuses soient mises en place ?

1:23:05 - Les 'agents IA' autonomes ne pourraient-ils pas causer un accident en se répliquant de manière incontrôlée, comme un virus informatique ?

1:26:36 - Que penses-tu du rapport prospectif 'AI 2027' et de son scénario d'accélération exponentielle ?

1:31:44 - Comment des expériences récentes prouvent-elles que les IA peuvent déjà feindre l'alignement pour ne pas être modifiées ?

1:45:41 - Y a-t-il un risque que nous créions des consciences artificielles capables de souffrir et de les enfermer dans des "enfers numériques" ?

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Site de Safer AI :

https://www.safer-ai.org/

➡ Classement des labo d'IA en matière de sécurité :

https://ratings.safer-ai.org/

➡ Site d'Henry Papadatos :

https://henrypapadatos.com/

➡ Scenario AI 2027 :

https://ai-2027.com/

Dans cet épisode de la Prospective, nous accueillons Henry Papadatos, expert en gestion des risques de l’IA et Directeur Général de SaferAI.

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/course-a-lia-course-vers-precipice-henry-papadatos-saferai-risque-extinction/

Autres épisodes de « The Flares - Podcasts »

À propos du podcast

À travers deux séries de podcast, "La prospective" et "Humain, Demain", nourrissez votre réflexion sur l’avenir, et la Science Fiction. Profitez des échanges, des débats et de différent point de vue. Écoutez le podcast n’importe où/quand. Plus besoin de rester devant votre ordinateur. Vous êtes…

The Flares - Podcasts

Épisodes similaires

Tous les épisodes de The Flares - Podcasts · Plus de podcasts Technologie