Project Lily : des humains scrutent vos conversations avec l’IA ?

Épisode de Choses à Savoir TECH par Choses à Savoir · 23 septembre 2026 · 2 min

Certaines conversations avec ChatGPT peuvent être lues par de vraies personnes pour améliorer le modèle. Pas toutes, et pas avec votre nom affiché, mais suffisamment pour rappeler qu’un chatbot n’est pas un journal intime.

L’existence de ce dispositif, baptisé en interne « Project Lily », a été révélée par une enquête de 404 Media fondée sur des documents internes et des exemples de conversations. OpenAI ferait appel à des centaines de sous-traitants chargés d’évaluer des échanges provenant de vrais utilisateurs.

Leur travail consiste notamment à comprendre ce que l’utilisateur demande, puis à comparer et noter plusieurs réponses générées par ChatGPT. L’objectif est d’améliorer le comportement du modèle : éviter certaines erreurs, limiter les réponses excessivement complaisantes ou encore l’empêcher de se présenter comme s’il était humain.

Les conversations ne sont pas censées arriver brutes. Les évaluateurs ne voient pas le nom du compte et OpenAI utilise un système baptisé Privacy Filter pour retirer des informations personnelles. Mais selon l’enquête, certains échanges contiennent malgré tout des détails sensibles. Les évaluateurs peuvent aussi recevoir du contexte provenant des conversations précédentes afin de comprendre la demande. Il faut cependant éviter un raccourci : cela ne signifie pas que des employés lisent systématiquement toutes les conversations ChatGPT. Project Lily porte sur un échantillon utilisé pour évaluer et améliorer les modèles. OpenAI indique publiquement que, sur ses services destinés aux particuliers, les conversations peuvent servir à entraîner ses modèles. Les utilisateurs peuvent désactiver cette utilisation dans les paramètres, sous « Contrôles des données », puis « Améliorer le modèle pour tous ». Les nouvelles conversations ne servent alors plus à cet entraînement.

Project Lily met surtout en lumière une réalité rarement visible. Derrière l’impression d’un dialogue entièrement automatisé, l’amélioration d’une intelligence artificielle repose encore largement sur des humains qui lisent, classent et jugent ses réponses. À mesure que nous confions aux chatbots des problèmes professionnels, familiaux ou intimes, cette frontière devient essentielle : parler seul à une machine ne signifie pas nécessairement que personne d’autre ne pourra jamais voir ce qui lui a été confié.

Source : Stack Chronicle

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Autres épisodes de « Choses à Savoir TECH »

À propos du podcast

Tout ce qu'il faut savoir dans le domaine de la Tech et d'Internet. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Choses à Savoir TECH

Épisodes similaires

Tous les épisodes de Choses à Savoir TECH · Plus de podcasts Technologie