Запитайте медсестер. Запитайте лікарів.
77% лікарів переймаються тим, що вони втрачають свою гостроту. 70% медсестер поділяють цей страх. Вони не просто ворожать. Вони відчувають, що це відбувається у реальному часі.
«Просто усвідомлення того, що цей феномен існує, сподіваюся, викличе самоаналіз», — каже Кевін Кростон із університету Сірак’ю. Він хоче дізнатись, що люди готові залишити за собою, а що передати машині.
Це звучить як паніка. Поки що ви не побачите дані. Тоді це виглядає як ерозія.
зіпсовані інструментами
У Польщі провели дослідження із ендоскопістами. Ці лікарі не новачки. Вони виконали тисячі колоноскопій. Вони знають, як виглядають передракові аденоми.
Але вони мали помічник ІІ. Система виділяє поразки на екранах у часі.
Лікарі полюбили його. Потім вони стали гірше виконувати свою роботу.
Ось математика:
- До ІІ: 28,4% – рівень виявлення аденом.
- Після опори на ІІ (навіть у дні, коли його вимикали): 22,4% – рівень виявлення.
Три місяці. Стільки всього знадобилося, щоб побачити спад. Роберт Вachter із UCSF зазначає, що висококваліфіковані професіонали стають лінивими, коли комп’ютер думає за них. Вони стають “менш” зосередженими. * Менш * відповідальними. Без цифрової опори вони спотикаються.
Юічі Морі з Університету Осло погоджується. Він каже, що поки що немає рішення. Лише попередження. Ми спостерігаємо як експерти забувають своє ремесло.
Ілюзія компетентності
Це не лише медицина. Інформатика також страждає.
Дослідники з Anthropic провели експеримент. Вони взяли 52 інженери та дали їм базове завдання з програмування.
Усі могли шукати в Інтернеті. Але половина могла використати помічника ІІ. Інша половина? Самостійно.
Потім настав час тесту.
- Без ІІ: Середній бал 67%.
- З ІІ: Середній бал 50%.
Група з ІІ впоралася із завданням нормально. Але коли їх запитали, що вони навчилися? Вони провалилися. Особливо коли їх попросили виправити помилки у їхньому власному коді. Вони не вивчили логіки. Вони просто запозичили результат.
Кростон називає це «дивним відривом». Ви виглядаєте добре під час роботи, але ваш мозок не діє. Ви не розвиваєте навички. Ви берете його в найм.
Це навчання? Чи просто аутсорсинг ваших думок?
Пам’ять має обмеження
Пам’ятаєте, коли GPS зіпсував наші внутрішні компаси? Та сама історія, але ставки вищі.
Тапані Рінта-Кахіла зі Школи економіки Ханкен зазначає, що ІІ — це перша технологія, яка автоматизує саму думку. Не просто розрахунок. Інтерпретація. Роздуми.
Він глянув на бухгалтерів, які використовують не-ІІ програми більше десятиліття. Заберіть інструмент, і вони забули, як виконувати основні завдання. Так просто. Мозок перестає працювати, бо інструмент завжди поруч.
Він стурбований наступним поколінням. Програмісти, які пропускають рутинну роботу щодо написання коду, тому що модель пише його за них? Вони не зрозуміють основи. Це і в праві. У бухгалтерії. У кожній області, де багато знань.
Простого рішення немає.
Рінта-Кахіла каже, що нам потрібно знати наші обмеження. Нам треба зрозуміти, як ці чорні ящики справді працюють. Ми не повинні довіряти їм сліпо. Це балансування – опора на швидкість машини та збереження людської пильності.
Поки що навички вислизають.
