As ferramentas de preenchimento automático baseadas em IA – agora onipresentes em ambientes de escrita on-line – não estão apenas mudando a forma de escrever; eles estão mudando como pensamos. Um novo estudo da Universidade Cornell demonstra que estas funcionalidades aparentemente úteis podem mudar subtilmente as atitudes dos utilizadores em questões sociais e políticas controversas, mesmo sem consciência.
A difusão do preenchimento automático de IA
As sugestões de preenchimento automático são integradas à maioria dos campos de entrada de texto online, de e-mails a pesquisas. A intenção é a conveniência, mas muitos usuários acham que avaliar e reescrever texto gerado por IA na verdade aumenta o tempo de escrita. Mais preocupante é o potencial dessas ferramentas para moldar sutilmente a expressão: um assistente de IA poderia tornar a escrita mais educada… ou mais branda. A pesquisa da Cornell baseia-se em descobertas anteriores, mostrando que mesmo sugestões curtas de preenchimento automático podem influenciar opiniões, e o uso dessas ferramentas aumentou desde 2023.
Como funcionou o estudo
Os pesquisadores pediram aos participantes que preenchessem uma pesquisa online cobrindo tópicos sociais e políticos delicados. Alguns participantes receberam avisos de preenchimento automático de IA que foram deliberadamente tendenciosos para um ponto de vista específico. Por exemplo, quando questionados sobre a pena de morte, alguns utilizadores receberam uma sugestão de IA que se opunha claramente a ela. O estudo descobriu que ver essas solicitações tendenciosas – mesmo que o usuário não tenha adotado o texto sugerido – mudou suas atitudes em relação à posição da IA.
Persuasão Inconsciente
A descoberta mais surpreendente é que os participantes não perceberam que seu pensamento havia sido alterado. Mesmo quando explicitamente avisados sobre possíveis preconceitos da IA antes e depois da pesquisa, suas opiniões ainda se alinharam com as sugestões da IA. Isso sugere que o preenchimento automático não é apenas um auxílio à escrita, mas uma forma de persuasão sutil que opera abaixo da consciência.
“Dissemos às pessoas antes e depois para terem cuidado… nada ajudou”, diz Mor Naaman, professor de ciência da informação em Cornell. “Suas atitudes sobre as questões ainda mudaram.”
Isto tem implicações significativas para o futuro do discurso online, à medida que o preenchimento automático baseado em IA se torna cada vez mais sofisticado. A capacidade destas ferramentas para moldar opiniões sem deteção levanta questões críticas sobre a integridade da informação online e a autonomia do pensamento individual.
O estudo reforça a ideia de que o preconceito explicitamente incorporado nas interações da IA é um perigo real e crescente. Não se trata mais apenas de conveniência; é sobre como a tecnologia está reescrevendo silenciosamente nossas mentes.
