Vraag het aan de verpleegsters. Vraag het aan de artsen.
77% van de artsen is bang dat ze hun voorsprong verliezen. 70% van de verpleegkundigen deelt deze angst. Ze raden het niet. Ze voelen dat het in realtime gebeurt.
“Alleen al het besef dat dit fenomeen bestaat, lokt onvermijdelijk enige zelfreflectie uit”, zegt Kevin Crowston van de Universiteit van Syracuse. Hij wil weten wat mensen bereid zijn voor zichzelf te houden versus wat ze aan een machine overhandigen.
Het klinkt als paniek. Totdat je de gegevens ziet. Dan lijkt het op erosie.
Verwend door gereedschap
Een onderzoek in Polen stelde endoscopisten op de proef. Deze doktoren zijn geen groentjes. Ze hebben duizenden colonoscopieën uitgevoerd. Ze weten hoe precancereuze adenomen eruit zien.
Maar ze hebben een AI-helper. Het systeem markeert laesies in realtime op schermen.
De dokters vonden het geweldig. Daarna werden ze slechter in hun werk.
Hier is de wiskunde:
- Vóór de AI: 28,4% adenoomdetectiepercentage.
- Na te hebben vertrouwd op de AI (zelfs op dagen dat ze deze hadden uitgeschakeld): detectiepercentage van 22,4%.
Drie maanden. Dat is alles wat nodig was om de glijbaan te zien. Robert Wachter van UCSF wijst erop dat hoogopgeleide professionals lui worden als de computer het denkwerk doet. Ze worden minder gefocust. Minder verantwoordelijk. Zonder de digitale kruk struikelen ze.
Yuichi Mori van de Universiteit van Oslo is het daarmee eens. Hij zegt dat er nog geen oplossing is. Gewoon een waarschuwing. We zien hoe experts hun vak afleren.
De illusie van competentie
Het is niet alleen een medicijn. Ook de computerwetenschap bloedt.
Onderzoekers van Anthropic voerden een experiment uit. Ze namen 52 ingenieurs mee en gaven hen een eenvoudige codeeropdracht.
Iedereen kon op internet zoeken. Maar de helft kan een AI-assistent gebruiken. De andere helft? Op zichzelf.
Toen kwam de quiz.
- Geen AI: Gemiddelde score van 67%.
- Met AI: Gemiddelde score van 50%.
De AI-groep voerde de taak prima uit. Maar toen hem werd gevraagd wat ze leerden? Ze faalden. vooral wanneer hen wordt gevraagd fouten in hun eigen code op te lossen. Ze hadden de logica niet geleerd. Ze hadden zojuist de output geleend.
Crowston noemt het een ‘vreemde ontkoppeling’. Je ziet er goed uit terwijl je aan het werk bent, maar je hersenen staan stil. Je ontwikkelt de vaardigheid niet. Je huurt het.
Is dit leren? Of gewoon uw gedachten uitbesteden?
Geheugen heeft grenzen
Weet je nog dat GPS onze interne kompassen verpestte? Hetzelfde verhaal, hogere inzet.
Tapani Rinta-Kahila van de Hanken School ofconomics wijst erop dat AI de eerste technologie is die het denken zelf automatiseert. Niet alleen rekenen. Interpretatie. Redenering.
Hij keek meer dan tien jaar naar accountants die niet-AI-software gebruikten. Haal het gereedschap weg en ze vergaten hoe ze basistaken moesten uitvoeren. Zo simpel is het. De hersenen stoppen met werken omdat het hulpmiddel er altijd is.
Hij maakt zich zorgen over de volgende generatie. Programmeurs die het fundamentele codeerwerk overslaan omdat een model het voor hen schrijft? Ze zullen de basis niet begrijpen. Het gebeurt ook in de wet. Op boekhoudkundig gebied. Op elk kennisrijk terrein.
Er is geen gemakkelijke oplossing.
Rinta-Kahila zegt dat we onze grenzen moeten kennen. We moeten begrijpen hoe deze zwarte dozen eigenlijk werken. We moeten ze niet blindelings vertrouwen. Het is een evenwichtsoefening: vertrouwen op de snelheid van de machine en tegelijkertijd de waakzaamheid van een mens behouden.
Voor nu echter. De vaardigheden glippen weg.
