Інструменти автозавершення на основі штучного інтелекту, які зараз повсюдно використовуються в онлайн-середовищах для написання текстів, змінюють не тільки те, як ми пишемо, але і те, як ми думаємо. Нове дослідження Корнеллського університету демонструє, що ці, здавалося б, корисні функції можуть тонко зміщувати погляди користувачів на спірні соціальні та політичні питання, навіть без їхньої свідомої участі.
Повсюдність автозавершення на основі ІІ
Пропозиції автозавершення інтегровані в більшість полів введення тексту в Інтернеті, від електронної пошти до опитувань. Мета – зручність, проте багато користувачів виявляють, що оцінка та переписування тексту, згенерованого ІІ, насправді збільшує час написання. Більш тривожним є потенціал цих інструментів для тонкого формування виразів: ІІ-помічник може зробити лист більш чемним або більш безликим. Дослідження Корнелла спирається на попередні висновки, що показують, що навіть короткі пропозиції автозавершення можуть впливати на думки, а використання цих інструментів різко зросло з 2023 року.
Як проводилося дослідження
Дослідники попросили учасників заповнити онлайн-опитування, яке охоплює делікатні соціальні та політичні теми. Деяким учасникам були надані підказки автозавершення на основі ІІ, які навмисно були упереджені на користь певної точки зору. Наприклад, коли питали про страту, деяким користувачам пропонувалося автозавершення, яке явно виступало проти неї. Дослідження показало, що перегляд цих упереджених підказок – навіть якщо користувач не приймав запропонований текст – зміщував їхнє ставлення у бік позиції ІІ.
Несвідоме переконання
Найдивовижнішим висновком є те, що учасники не усвідомлювали, що їхнє мислення було змінено. Навіть коли їх явно попереджали про можливу упередженість ІІ до і після опитування, їхні погляди все одно зміщувалися відповідно до пропозицій ІІ. Це говорить про те, що автозавершення – це не просто помічник для письма, а форма тонкого переконання, яка діє поза свідомим сприйняттям.
«Ми попереджали людей до і після, будьте обережні… нічого не допомогло», — каже Мор Нааман, професор інформатики у Корнеллі. «Їхнє ставлення до цих питань все одно змінилося».
Це має серйозні наслідки для майбутнього онлайн-дискурсу, оскільки ІІ-автозавершення стає все більш досконалим. Здатність цих інструментів формувати думку непомітно порушує критичні питання щодо цілісності онлайн-інформації та автономії індивідуального мислення.
Дослідження підтверджує, що упередженість, явно вбудована у взаємодію з ІІ, є реальною загрозою, що зростає. Йдеться не лише про зручність; йдеться про те, як технологія тихо переписує наш розум.
