Las herramientas de autocompletar impulsadas por IA, ahora omnipresentes en entornos de escritura en línea, no solo están cambiando cómo escribimos; están cambiando cómo pensamos. Un nuevo estudio de la Universidad de Cornell demuestra que estas funciones aparentemente útiles pueden cambiar sutilmente las actitudes de los usuarios sobre cuestiones sociales y políticas polémicas, incluso sin ser conscientes de ello.
La omnipresencia del autocompletado de IA
Las sugerencias de autocompletar están integradas en la mayoría de los campos de entrada de texto en línea, desde correos electrónicos hasta encuestas. La intención es la conveniencia, sin embargo, muchos usuarios descubren que evaluar y reescribir el texto generado por IA en realidad aumenta el tiempo de escritura. Más preocupante es el potencial de estas herramientas para moldear sutilmente la expresión: un asistente de inteligencia artificial podría hacer que la escritura sea más educada… o más insulsa. La investigación de Cornell se basa en hallazgos anteriores que muestran que incluso las sugerencias breves de autocompletar pueden influir en las opiniones, y el uso de estas herramientas ha aumentado desde 2023.
Cómo funcionó el estudio
Los investigadores pidieron a los participantes que completaran una encuesta en línea que cubría temas sociales y políticos delicados. Algunos participantes recibieron indicaciones de autocompletar de IA que estaban deliberadamente sesgadas hacia un punto de vista particular. Por ejemplo, cuando se les preguntó sobre la pena de muerte, a algunos usuarios se les presentó una sugerencia de IA que claramente se oponía a ella. El estudio encontró que ver estas indicaciones sesgadas (incluso si el usuario no adoptó el texto sugerido) cambió su actitud hacia la posición de la IA.
Persuasión inconsciente
El hallazgo más sorprendente es que los participantes no se dieron cuenta de que su pensamiento había sido alterado. Incluso cuando se les advirtió explícitamente sobre el posible sesgo de la IA antes y después de la encuesta, sus puntos de vista aún se movieron en línea con las sugerencias de la IA. Esto sugiere que el autocompletado no es sólo una ayuda para la escritura, sino una forma de persuasión sutil que opera bajo la conciencia.
“Le dijimos a la gente antes y después que tuvieran cuidado… nada ayudó”, dice Mor Naaman, profesor de ciencias de la información en Cornell. “Sus actitudes sobre los problemas aún cambiaron”.
Esto tiene importantes implicaciones para el futuro del discurso en línea, a medida que el autocompletado impulsado por IA se vuelve cada vez más sofisticado. La capacidad de estas herramientas para formar opiniones sin ser detectadas plantea cuestiones críticas sobre la integridad de la información en línea y la autonomía del pensamiento individual.
El estudio refuerza la idea de que el sesgo explícitamente incorporado en las interacciones de la IA es un peligro real y creciente. Ya no se trata sólo de conveniencia; se trata de cómo la tecnología está reescribiendo silenciosamente nuestras mentes.
