Zeptejte se sester. Zeptejte se lékařů.
77 % lékařů se obává, že ztrácí náskok. Tento strach sdílí 70 % sester. Oni jen nehádají. Mají pocit, že se to děje v reálném čase.
„Pouhé uznání, že tento fenomén existuje, snad podnítí určitou sebereflexi,“ říká Kevin Croston ze Syracuse University. Chce vědět, co jsou lidé ochotni ponechat a co jsou ochotni předat stroji.
Zní to jako panika. Dokud neuvidíte data. Pak to vypadá na erozi.
Poškozené nářadím
V Polsku byla provedena studie s endoskopisty. Tito lékaři nejsou nováčci. Provedli tisíce kolonoskopií. Vědí, jak vypadají prekancerózní adenomy.
Ale měli asistenta AI. Systém zvýrazňuje léze na obrazovkách v reálném čase.
Lékaři ho milovali. Pak začali svou práci dělat hůř.
Zde je matematika:
- Před AI: 28,4 % – míra záchytu adenomů.
- Po spolehnutí se na AI (i ve dnech, kdy byla vypnuta): 22,4% míra detekce.
Tři měsíce. Trvalo tolik, než bylo vidět pokles. Robert Bachter z UCSF poznamenává, že vysoce kvalifikovaní profesionálové jsou líní, když za ně myslí počítače. Stávají se méně soustředěnými. Méně zodpovědní. Bez digitální podpory klopýtnou.
Yuichi Mori z University of Oslo souhlasí. Řešení prý zatím neexistuje. Jen varování. Sledujeme, jak odborníci zapomínají na své řemeslo.
Iluze kompetence
Není to jen medicína. Informatika také trpí.
Výzkumníci z Anthropic provedli experiment. Vzali 52 inženýrů a dali jim základní programovací úkol.
Každý mohl hledat na internetu. Polovina by ale mohla využívat asistenta AI. Druhá polovina? Na vlastní pěst.
Pak přišel čas na zkoušku.
- Bez AI: Průměrné skóre 67 %.
- S AI: Průměrné skóre 50 %.
Skupina AI se s úkolem vyrovnala normálně. Ale když se zeptali, co se naučili? Neuspěli. Zvláště když byli požádáni, aby opravili chyby ve svém vlastním kódu. Logiku se nenaučili. Výsledek si prostě půjčili.
Croston tomu říká „divné odpojení“. Při práci vypadáte dobře, ale váš mozek je nečinný. Nerozvíjíte dovednost. Pronajmete si to.
Je to školení? Nebo jen outsourcovat své myšlenky?
Paměť má omezení
Pamatujete si, když GPS zpackal naše vnitřní kompasy? Stejný příběh, ale vyšší sázky.
Tapani Rinta-Kahila z Hanken School of Economics poznamenává, že AI je první technologií, která automatizuje myšlenku. Nejen výpočet. Výklad. Odraz.
Díval se na účetní používající programy bez AI více než deset let. Vezměte si nástroj a zapomněli, jak provádět základní úkoly. Jen tak. Mozek přestane fungovat, protože nástroj je vždy nablízku.
Má obavy o další generaci. Programátoři, kteří přeskakují dřinu psaní kódu, protože to za ně píše model? Nebudou rozumět základům. To se děje i v zákoně. V účetnictví. V každé oblasti, kde je hodně znalostí.
Jednoduché řešení neexistuje.
Rinta-Kahila říká, že musíme znát svá omezení. Musíme pochopit, jak tyto černé skříňky skutečně fungují. Neměli bychom jim slepě věřit. Je to vyvažovací akt spoléhání se na rychlost stroje při zachování lidské bdělosti.
Dovednosti zatím utíkají.
