Les outils de saisie semi-automatique basés sur l’IA, désormais omniprésents dans les environnements d’écriture en ligne, ne changent pas seulement la façon dont nous écrivons ; ils changent comment nous pensons. Une nouvelle étude de l’Université Cornell démontre que ces fonctionnalités apparemment utiles peuvent modifier subtilement l’attitude des utilisateurs sur des questions sociales et politiques controversées, même sans en être conscients.
L’omniprésence de la saisie semi-automatique de l’IA
Les suggestions de saisie semi-automatique sont intégrées dans la plupart des champs de saisie de texte en ligne, des e-mails aux enquêtes. L’intention est la commodité, mais de nombreux utilisateurs trouvent que l’évaluation et la réécriture du texte généré par l’IA augmentent le temps d’écriture. Plus inquiétant est le potentiel de ces outils à façonner subtilement l’expression : un assistant IA pourrait rendre l’écriture plus polie… ou plus fade. L’étude de Cornell s’appuie sur des découvertes antérieures montrant que même les suggestions de saisie semi-automatique courtes peuvent influencer les opinions, et l’utilisation de ces outils a augmenté depuis 2023.
Comment s’est déroulée l’étude
Les chercheurs ont demandé aux participants de répondre à une enquête en ligne couvrant des sujets sociaux et politiques sensibles. Certains participants ont reçu des invites de saisie semi-automatique de l’IA délibérément biaisées en faveur d’un point de vue particulier. Par exemple, interrogés sur la peine de mort, certains utilisateurs se sont vu présenter une suggestion d’IA qui s’y opposait clairement. L’étude a révélé que le fait de voir ces invites biaisées, même si l’utilisateur n’adoptait pas le texte suggéré, modifiait son attitude à l’égard de la position de l’IA.
Persuasion inconsciente
Le résultat le plus frappant est que les participants n’ont pas réalisé que leur façon de penser avait été modifiée. Même lorsqu’ils étaient explicitement avertis du biais potentiel de l’IA avant et après l’enquête, leurs opinions évoluaient toujours conformément aux suggestions de l’IA. Cela suggère que la saisie semi-automatique n’est pas seulement une aide à l’écriture, mais une forme de persuasion subtile qui opère sous la conscience.
« Nous avons dit aux gens avant et après de faire attention… rien n’y fait », explique Mor Naaman, professeur de sciences de l’information à Cornell. « Leurs attitudes sur ces questions ont encore changé. »
Cela a des implications significatives pour l’avenir du discours en ligne, à mesure que la saisie semi-automatique basée sur l’IA devient de plus en plus sophistiquée. La capacité de ces outils à façonner l’opinion sans être détectée soulève des questions cruciales sur l’intégrité de l’information en ligne et l’autonomie de la pensée individuelle.
L’étude renforce l’idée selon laquelle les biais explicitement intégrés aux interactions avec l’IA constituent un danger réel et croissant. Ce n’est plus seulement une question de commodité ; il s’agit de la façon dont la technologie réécrit tranquillement nos esprits.
