Художниця Стефані Дінкс відкриває новий шлях у роботі зі штучним інтелектом (ІІ) — не як із нейтральним інструментом, а як із системою, глибоко сформованою даними, на яких вона навчається. Її робота кидає виклик технологічної промисловості, вимагаючи рішення закладених у наборах даних упередженостей, які увічнюють системну нерівність.
Проблема існуючих ІІ-систем
Протягом багатьох років ІІ алгоритми навчалися на даних, які часто відображають існуючі соціальні упередження. Це означає, що ІІ може посилювати дискримінацію, наприклад, неправильно ідентифікуючи людей з іншим кольором шкіри або надаючи більш суворі рекомендації щодо вироку у кримінальному правосудді. Робота Дінкс оголює «насильство», закладене в цих наборах даних: обмежені ролі, що відводяться маргіналізованим групам у медіа, історичні упередження у правових системах та загальна відсутність представленості у базових матеріалах для навчання ІІ.
Переломний момент: зустріч з Bina48
Шлях Дінкс розпочався із зустрічі з Bina48 – просунутим соціальним роботом, змодельованим за образом темношкірої жінки. Вона швидко виявила, що у ІІ відсутнє тонке розуміння раси, яким володіє реальна людина, що поставило критичне питання: якщо навіть добронамірні розробники не усувають упередженість, що станеться, коли нікому немає діла?
Це усвідомлення привело її до основного проекту під назвою “Not the Only One”, заснованого на усних історіях її сім’ї. Вона виявила, що майже неможливо знайти існуючі дані, які б «досить люблять», щоб підтримати історії її сім’ї, що змусило її створити власний набір даних. Результат був недосконалим, але етично обґрунтованим: дивним ІІ, який іноді говорить безладно, замість того щоб увічнювати історичну жорстокість.
Рішення: керовані спільнотою дані
Дінкс виступає за «дарування» ІІ-системам даних із недостатньо представлених спільнот. Її додаток The Stories We Tell Our Machines дозволяє людям вносити особисті історії, забезпечуючи навчання ІІ зсередини. Вона підкреслює, що хоча експлуатація даних є реальною, альтернатива — дозволити ІІ визначати спільноти на основі упереджених джерел — ще гірша.
Кінцева мета — створити набори даних, що широко розповсюджуються, які можуть точно налаштовувати ІІ-системи, не позбавляючи їх культурного контексту. Дінкс представляє майбутнє, в якому неблагополучні люди можуть використовувати ІІ-інструменти для конкуренції з усталеними галузями, наприклад, для незалежного створення високоякісних фільмів.
«Те, що ми чуємо у світі — це: «Ні, вони крадуть наші дані. Нас експлуатують», і це правда. Але ми також знаємо, що якщо ми не навчатимемо ці системи знати нас краще, вони, швидше за все, використовуватимуть визначення, які не прийшли від визначених спільнот».
Робота Дінкс – це заклик до розробників та дослідників ІІ приділяти пріоритетну увагу етичному збору даних, взаємодії з спільнотами та культурною чуйністю. Це нагадування про те, що ІІ – це не просто алгоритми; це влада, відповідальність та історії, які ми обираємо розповідати нашим машинам.
