Инструменты автозавершения на основе искусственного интеллекта, которые сейчас повсеместно используются в онлайн-средах для написания текстов, меняют не только то, как мы пишем, но и то, как мы думаем. Новое исследование Корнеллского университета демонстрирует, что эти, казалось бы, полезные функции могут тонко смещать взгляды пользователей на спорные социальные и политические вопросы, даже без их сознательного участия.
Повсеместность автозавершения на основе ИИ
Предложения автозавершения интегрированы в большинство полей ввода текста в Интернете, от электронной почты до опросов. Цель – удобство, однако многие пользователи обнаруживают, что оценка и переписывание текста, сгенерированного ИИ, на самом деле увеличивает время написания. Более тревожным является потенциал этих инструментов для тонкого формирования выражений: ИИ-ассистент может сделать письмо более вежливым… или более безликим. Исследование Корнелла опирается на предыдущие выводы, показывающие, что даже краткие предложения автозавершения могут влиять на мнения, а использование этих инструментов резко возросло с 2023 года.
Как проводилось исследование
Исследователи попросили участников заполнить онлайн-опрос, охватывающий деликатные социальные и политические темы. Некоторым участникам были предоставлены подсказки автозавершения на основе ИИ, которые намеренно были предвзяты в пользу определенной точки зрения. Например, когда спрашивали о смертной казни, некоторым пользователям предлагалось автозавершение, которое явно выступало против нее. Исследование показало, что просмотр этих предвзятых подсказок – даже если пользователь не принимал предложенный текст – смещал их отношение в сторону позиции ИИ.
Бессознательное убеждение
Самым поразительным выводом является то, что участники не осознавали, что их мышление было изменено. Даже когда их явно предупреждали о возможном предвзятости ИИ до и после опроса, их взгляды все равно смещались в соответствии с предложениями ИИ. Это говорит о том, что автозавершение – это не просто помощник для письма, а форма тонкого убеждения, которая действует за пределами сознательного восприятия.
«Мы предупреждали людей до и после, будьте осторожны… ничего не помогло», — говорит Мор Нааман, профессор информатики в Корнелле. «Их отношение к этим вопросам все равно изменилось».
Это имеет серьезные последствия для будущего онлайн-дискурса, поскольку ИИ-автозавершение становится все более совершенным. Способность этих инструментов формировать мнение незаметно поднимает критические вопросы об целостности онлайн-информации и автономии индивидуального мышления.
Исследование подтверждает, что предвзятость, явно встроенная во взаимодействие с ИИ, является реальной и растущей угрозой. Речь идет не только об удобстве; речь идет о том, как технология тихо переписывает наш разум.
