Nástroje automatického dokončování poháněné umělou inteligencí, které jsou nyní v online prostředí pro psaní všudypřítomné, mění nejen jak píšeme, ale také jak myslíme. Nový výzkum Cornell University ukazuje, že tyto zdánlivě užitečné funkce mohou nenápadně posunout názory uživatelů na kontroverzní společenská a politická témata, a to i bez jejich vědomého přispění.
Všudypřítomnost automatického dokončování s umělou inteligencí
Návrhy automatického doplňování jsou integrovány do většiny polí pro zadávání textu na internetu, od e-mailu po průzkumy. Cílem je pohodlí, ale mnoho uživatelů zjišťuje, že vyhodnocování a přepisování textu generovaného umělou inteligencí ve skutečnosti prodlužuje dobu jejich psaní. Znepokojivější je, že tyto nástroje mohou jemně tvarovat výraz: asistent AI by mohl způsobit, že psaní bude vypadat zdvořilejší… nebo neosobnější. Studie Cornell staví na předchozích zjištěních, která ukazují, že i krátké věty s automatickým doplňováním mohou ovlivnit názory a používání těchto nástrojů se od roku 2023 dramaticky zvýšilo.
Jak byla studie provedena
Výzkumníci požádali účastníky, aby vyplnili online průzkum týkající se citlivých sociálních a politických témat. Některým účastníkům byly poskytnuty návrhy automatického doplňování založené na umělé inteligenci, které byly záměrně zkreslené ve prospěch určitého úhlu pohledu. Například při dotazu na trest smrti byli někteří uživatelé vyzváni k automatickému doplňování, což bylo jasně proti. Studie zjistila, že prohlížení těchto zaujatých výzev – i když uživatel nepřijal navrhovaný text – změnilo jejich postoje k AI.
Nevědomá víra
Nejpozoruhodnějším zjištěním je, že účastníci si nebyli vědomi, že jejich myšlení bylo změněno. I když byli výslovně upozorněni na možnou zaujatost AI před a po průzkumu, jejich názory se stále měnily v souladu s návrhy AI. To naznačuje, že automatické doplňování není jen pomůcka pro psaní, ale je to forma jemného přesvědčování, které funguje mimo vědomé vědomí.
„Před i po něm jsme varovali lidi, aby byli opatrní… nic nefungovalo,“ říká Mor Naaman, profesor informatiky na Cornell. “Jejich postoj k těmto problémům se stejně změnil.”
To má vážné důsledky pro budoucnost online diskurzu, protože automatické doplňování umělé inteligence se stává sofistikovanějším. Schopnost těchto nástrojů utvářet názory tiše vyvolává kritické otázky týkající se integrity online informací a autonomie individuálního myšlení.
Studie potvrzuje, že zkreslení, jasně zabudované do interakcí AI, je skutečnou a rostoucí hrozbou. Není to jen o pohodlí; je o tom, jak technologie tiše přepisuje naši mysl.
