Gli strumenti di completamento automatico basati sull’intelligenza artificiale, ora onnipresenti negli ambienti di scrittura online, non stanno solo cambiando il come scriviamo; stanno cambiando il come pensiamo. Un nuovo studio della Cornell University dimostra che queste funzionalità apparentemente utili possono cambiare sottilmente l’atteggiamento degli utenti su questioni sociali e politiche controverse, anche senza consapevolezza cosciente.
La pervasività del completamento automatico dell’IA
I suggerimenti di completamento automatico sono integrati nella maggior parte dei campi di immissione di testo online, dalle e-mail ai sondaggi. L’intenzione è la comodità, ma molti utenti ritengono che la valutazione e la riscrittura del testo generato dall’intelligenza artificiale in realtà aumenti il tempo di scrittura. Più preoccupante è il potenziale di questi strumenti di modellare sottilmente l’espressione: un assistente AI potrebbe rendere la scrittura più educata… o più blanda. La ricerca della Cornell si basa su risultati precedenti che dimostrano che anche suggerimenti brevi di completamento automatico possono influenzare le opinioni e l’uso di questi strumenti è aumentato a partire dal 2023.
Come ha funzionato lo studio
I ricercatori hanno chiesto ai partecipanti di completare un sondaggio online su argomenti sociali e politici delicati. Alcuni partecipanti hanno ricevuto suggerimenti di completamento automatico dell’IA deliberatamente orientati verso un particolare punto di vista. Ad esempio, alla domanda sulla pena di morte, ad alcuni utenti è stato presentato un suggerimento dell’intelligenza artificiale che si opponeva chiaramente ad essa. Lo studio ha scoperto che vedere questi suggerimenti distorti, anche se l’utente non ha adottato il testo suggerito, ha cambiato il suo atteggiamento nei confronti della posizione dell’IA.
Persuasione inconscia
La scoperta più sorprendente è che i partecipanti non si rendevano conto che il loro pensiero era stato alterato. Anche quando sono stati esplicitamente avvertiti dei potenziali pregiudizi dell’IA prima e dopo il sondaggio, le loro opinioni si sono comunque allineate ai suggerimenti dell’IA. Ciò suggerisce che il completamento automatico non è solo un aiuto per la scrittura, ma una forma di persuasione sottile che opera al di sotto della consapevolezza cosciente.
“Abbiamo detto alla gente, prima e dopo, di stare attenti… niente ha aiutato”, dice Mor Naaman, professore di scienza dell’informazione alla Cornell. “Il loro atteggiamento riguardo ai problemi è ancora cambiato”.
Ciò ha implicazioni significative per il futuro del discorso online, poiché il completamento automatico basato sull’intelligenza artificiale diventa sempre più sofisticato. La capacità di questi strumenti di modellare l’opinione senza essere scoperti solleva questioni critiche sull’integrità delle informazioni online e sull’autonomia del pensiero individuale.
Lo studio rafforza l’idea che i pregiudizi esplicitamente incorporati nelle interazioni dell’intelligenza artificiale rappresentano un pericolo reale e crescente. Non è più solo una questione di comodità; riguarda il modo in cui la tecnologia sta silenziosamente riscrivendo le nostre menti.
