Door AI aangedreven tools voor automatisch aanvullen (nu alomtegenwoordig in online schrijfomgevingen) veranderen niet alleen hoe we schrijven; ze veranderen hoe we denken. Een nieuwe studie van Cornell University toont aan dat deze ogenschijnlijk nuttige functies de houding van gebruikers ten aanzien van controversiële sociale en politieke kwesties op subtiele wijze kunnen veranderen, zelfs zonder dat ze zich daar bewust van zijn.
De alomtegenwoordigheid van AI automatisch aanvullen
Suggesties voor automatisch aanvullen zijn geïntegreerd in de meeste online tekstinvoervelden, van e-mails tot enquêtes. De bedoeling is gemak, maar toch vinden veel gebruikers dat het evalueren en herschrijven van door AI gegenereerde tekst de schrijftijd verlengt. Zorgwekkender is het potentieel van deze tools om op subtiele wijze vorm te geven aan expressie: een AI-assistent zou het schrijven beleefder kunnen maken… of saaier. Het Cornell-onderzoek bouwt voort op eerdere bevindingen waaruit blijkt dat zelfs korte suggesties voor automatisch aanvullen de meningen kunnen beïnvloeden, en het gebruik van deze tools is sinds 2023 enorm toegenomen.
Hoe het onderzoek werkte
Onderzoekers vroegen de deelnemers een online enquête in te vullen over gevoelige sociale en politieke onderwerpen. Sommige deelnemers ontvingen AI-autocomplete-prompts die opzettelijk een bepaald standpunt bevooroordeelden. Toen hen bijvoorbeeld werd gevraagd naar de doodstraf, kregen sommige gebruikers een AI-suggestie voorgeschoteld die daar duidelijk tegen was. Uit het onderzoek bleek dat het zien van deze bevooroordeelde aanwijzingen – zelfs als de gebruiker de voorgestelde tekst niet overnam – hun houding ten opzichte van de positie van de AI veranderde.
Onbewuste overtuiging
De meest opvallende bevinding is dat de deelnemers zich niet realiseerden dat hun denken veranderd was. Zelfs toen ze expliciet werden gewaarschuwd voor mogelijke AI-vooroordelen voor en na het onderzoek, kwamen hun standpunten nog steeds overeen met de suggesties van de AI. Dit suggereert dat automatisch aanvullen niet slechts een schrijfhulpmiddel is, maar een vorm van subtiele overreding die onder het bewuste bewustzijn opereert.
“We vertelden de mensen ervoor en erna dat ze voorzichtig moesten zijn… niets hielp”, zegt Mor Naäman, hoogleraar informatica aan Cornell. “Hun houding ten opzichte van de kwesties veranderde nog steeds.”
Dit heeft aanzienlijke gevolgen voor de toekomst van het online discours, aangezien AI-gestuurde autocomplete steeds geavanceerder wordt. Het vermogen van deze hulpmiddelen om zonder detectie meningen te vormen, roept kritische vragen op over de integriteit van online-informatie en de autonomie van het individuele denken.
De studie versterkt het idee dat vooroordelen die expliciet in AI-interacties zijn ingebouwd een reëel en groeiend gevaar vormen. Het gaat niet alleen meer om gemak; het gaat over hoe technologie stilletjes onze geest herschrijft.
