Artist Stephanie Dinks is breaking new ground in working with artificial intelligence (AI)—not as a neutral tool, but as a system deeply shaped by the data it learns from. Její práce vyzývá technický průmysl, aby se vypořádal s inherentními předsudky v souborech dat, které udržují systémové nerovnosti.
Problém se stávajícími systémy AI
Algoritmy umělé inteligence byly léta trénovány na datech, která často odrážejí existující sociální předsudky. This means AI could increase discrimination, for example by misidentifying people of different skin color or making harsher sentencing recommendations in criminal justice. Dinks’ work exposes the “violence” inherent in these data sets: the limited roles given to marginalized groups in media, historical biases in legal systems, and a general lack of representation in basic AI training materials.
Bod zlomu: setkání s Bina48
Dinxova cesta začala setkáním s Bina48, pokročilým sociálním robotem po vzoru černošky. She quickly discovered that the AI lacked the nuanced understanding of race that a real person has, raising a critical question: If even well-intentioned developers don’t eliminate bias, what happens when no one cares?
Toto uvědomění ji přivedlo k velkému projektu nazvanému „Není jediná“, založenému na ústních historkách z její rodiny. She found it nearly impossible to find existing data that was “loving enough” to support her family’s stories, forcing her to create her own dataset. Výsledek byl nedokonalý, ale eticky správný: podivná umělá inteligence, která někdy mluví nesouvisle, místo aby udržovala historickou krutost.
Řešení: Data řízená komunitou
Dinks obhajuje „obdarování“ systémů umělé inteligence daty z nedostatečně zastoupených komunit. Jeho aplikace The Stories We Tell Our Machines umožňuje lidem přispívat osobními příběhy a poskytuje školení AI zevnitř. Poukazuje na to, že zatímco využívání dat je skutečné, alternativa – nechat AI definovat komunity na základě neobjektivních zdrojů – je ještě horší.
Konečným cílem je vytvořit široce sdílené datové sady, které dokážou vyladit systémy umělé inteligence, aniž by je zbavily jejich kulturního kontextu. Dinks envisions a future in which disadvantaged people can use AI tools to compete with established industries, such as producing high-quality films independently.
„Ve světě slyšíme: „Ne, kradou naše data. We are being exploited,” and it’s true. But we also know that unless we train these systems to know us better, they will likely use definitions that do not come from the communities being defined.”
Dinksova práce je výzvou pro vývojáře a výzkumníky AI, aby upřednostnili sběr etických dat, zapojení komunity a kulturní citlivost. Toto je připomínka, že AI nejsou jen algoritmy; je o síle, odpovědnosti a příbězích, které se rozhodneme vyprávět našim strojům.
