Seniman Stephanie Dinkins memelopori cara baru untuk mendekati kecerdasan buatan (AI) — bukan sebagai alat yang netral, namun sebagai sistem yang dibentuk secara mendalam oleh data yang dipelajarinya. Karyanya menantang industri teknologi untuk mengatasi bias yang melekat dalam kumpulan data yang melanggengkan kesenjangan sistemik.
Masalah pada Sistem AI Saat Ini
Selama bertahun-tahun, algoritme AI telah dilatih berdasarkan data yang sering kali mencerminkan bias sosial yang ada. Artinya, AI dapat memperkuat diskriminasi, misalnya dengan salah mengidentifikasi orang kulit berwarna atau memberikan rekomendasi hukuman yang lebih berat dalam peradilan pidana. Karya Dinkins mengungkap “kekerasan” yang tertanam dalam kumpulan data ini: terbatasnya peran yang diberikan kepada kelompok marginal di media, bias historis dalam sistem hukum, dan kurangnya keterwakilan dalam materi pelatihan dasar AI.
Titik Balik: Bertemu Bina48
Perjalanan Dinkins dimulai dengan pertemuan dengan Bina48, robot sosial canggih yang meniru model wanita kulit hitam. Dia segera menyadari bahwa AI tidak memiliki pemahaman yang luas tentang ras seperti yang dimiliki orang sungguhan, sehingga menimbulkan pertanyaan kritis: jika pengembang yang mempunyai niat baik pun gagal mengatasi bias, apa yang terjadi jika tidak ada yang peduli?
Kesadaran ini membawanya ke proyek inti yang disebut “Bukan Satu-Satunya”, berdasarkan sejarah lisan dari keluarganya. Dia merasa hampir mustahil menemukan data yang dirasa “cukup penuh kasih” untuk mendukung cerita keluarganya, sehingga memaksanya untuk membuat kumpulan data sendiri. Hasilnya tidak sempurna namun masuk akal secara etis: AI yang lemah dan kadang-kadang berbicara secara non-sequitur alih-alih melanggengkan kekejaman sejarah.
Solusinya: Data Berbasis Komunitas
Dinkins menganjurkan “memberi” sistem AI dengan data dari komunitas yang kurang terwakili. Aplikasinya, “The Stories We Tell Our Machines,” memungkinkan orang menyumbangkan narasi pribadi, memastikan bahwa AI belajar dari dalam ke luar. Dia menekankan bahwa meskipun eksploitasi data itu nyata, alternatifnya – membiarkan AI mendefinisikan komunitas berdasarkan sumber yang bias – adalah hal yang lebih buruk.
Tujuan utamanya adalah untuk menciptakan kumpulan data yang dapat didistribusikan secara luas yang dapat menyempurnakan sistem AI tanpa menghilangkan konteks budayanya. Dinkins membayangkan masa depan di mana masyarakat kurang mampu dapat memanfaatkan alat AI untuk bersaing dengan industri yang sudah mapan, seperti membuat film berkualitas tinggi secara mandiri.
“Apa yang kita dengar di dunia adalah, ‘Tidak, mereka mengambil data kita. Kita sedang dieksploitasi,’ dan memang itulah kenyataannya. Namun, kita juga tahu bahwa jika kita tidak mengembangkan sistem ini untuk mengenal kita lebih baik, mereka mungkin menggunakan definisi yang tidak berasal dari komunitas yang sedang didefinisikan.”
Karya Dinkins adalah seruan bagi pengembang dan peneliti AI untuk memprioritaskan sumber data yang etis, keterlibatan komunitas, dan kepekaan budaya. Ini adalah pengingat bahwa AI bukan hanya tentang algoritma; ini tentang kekuatan, tanggung jawab, dan kisah yang kami pilih untuk disampaikan kepada mesin kami.
