Scandale d'une expérimentation IA qui tourne mal sur Reddit https://www.theatlantic.com/technology/archive/2025/05/reddit-ai-persuasion-experiment-ethics/682676/ <p>Des chercheurs ont infiltré Reddit avec des commentaires IA sans consentement, provoquant un tollé éthique majeur et une crise de confiance dans la recherche en ligne.</p><p>Des chercheurs de l’Université de Zurich ont mené une expérience secrète sur Reddit, dans le subreddit r/changemyview. Pendant quatre mois, ils ont posté plus de 1 000 commentaires générés par intelligence artificielle (IA), en se faisant passer pour de vrais utilisateurs, afin d’étudier la capacité de l’IA à persuader les gens et à changer leurs opinions.</p><p>- Les chercheurs utilisaient l’IA pour personnaliser les arguments en fonction des informations personnelles (âge, sexe, opinions politiques) déduites du profil des utilisateurs.</p><p>- Certains commentaires AI prenaient des identités fictives (ex : conseiller en traumatologie, victime d’abus).</p><p>- Les chercheurs n’ont révélé la nature de l’expérience qu’après coup aux modérateurs, demandant à « débriefer » avec la communauté. Les modérateurs ont refusé, en demandant des excuses et la non-publication des résultats.</p><p>- La communauté Reddit s’est sentie trahie, qualifiant l’expérience de « violente », « honteuse » et « perturbante ».</p><p>- Les chercheurs ont refusé de s’excuser ou de retirer leur travail, ce qui a accentué la colère.</p><p>- L’université a ouvert une enquête et promis un contrôle éthique plus strict à l’avenir.</p><p>- De nombreux experts en éthique du web ont dénoncé l’expérience comme l’une des pires violations éthiques en recherche sur Internet.</p><p></p><p>Problèmes éthiques soulevés :</p><p>- Absence de consentement des participants.</p><p>- Tromperie volontaire, jugée « nécessaire » par les chercheurs pour garantir des résultats réalistes.</p><p>- Risque de perte de confiance dans la recherche académique en ligne.</p><p></p><p>Les résultats préliminaires suggéraient que l’IA pouvait être plus persuasive que la plupart des humains sur ce forum.</p><p>Face au scandale, les chercheurs ont finalement accepté de ne pas publier leur étude.</p>