Twitter menyelidiki bias rasial sistem dalam pemilihan tampilan gambar pratinjau 'yang utamakan wajah orang kulit putih'
Sumber gambar, US Gov
Twitter memulai penyelidikan menyusul laporan dari sejumlah pengguna yang menemukan bahwa algoritme pemangkasan gambar pratinjau terkadang lebih memilih wajah orang berkulit putih daripada wajah orang yang berkulit hitam.
Beberapa pengguna memperhatikan ketika dua foto - satu wajah orang berkulit hitam dan satu lagi yang berkulit putih - berada di sebuah cuitan yang sama, Twitter seringkali hanya menampilkan wajah orang yang berkulit putih pada gambar pratinjau pada aplikasi di ponsel.
Twitter mengatakan telah menguji bias rasial dan gender selama pengembangan algoritme.
Namun, pihak tersebut juga menambahkan, "Jelas bahwa kami memiliki lebih banyak analisis yang harus dilakukan."
Sumber gambar, Twitter
Kepala bagian teknologi Twitter, Parag Agrawal, mengatakan dalam sebuah cuitan, "Kami melakukan analisis pada model kami ketika kami mengirimkannya - tetapi [itu] perlu perbaikan terus-menerus.
"[Saya] suka pengujian publik, terbuka, dan menantang ini - dan ingin belajar dari ini."
Rambut wajah
Kontroversi terbaru itu dimulai ketika seroang manajer universitas bernama Colin Madland yang berasal dari Vancouver, sedang mencoba memahami masalah ketika tampilan kepala koleganya menghilang saat menggunakan aplikasi konferensi video Zoom.
Perangkat lunak tersebut tampaknya secara keliru mengidentifikasi kepala pria kulit hitam itu sebagai bagian dari latar belakang dan menghapusnya.
Tetapi ketika Madland memposting tentang topik tersebut di Twitter, dia menemukan wajahnya - dan bukan rekannya - secara konsisten dipilih sebagai tampilan pratinjau di aplikasi telepon seluler, bahkan jika dia membalik urutan gambar yang digunakan.
Penemuannya mendorong serangkaian eksperimen lain oleh beberapa pengguna, yang, misalnya, menyarankan:
Kepala desain Twitter, Dantley Davis, menemukan bahwa mengedit rambut wajah dan kacamata Madland tampaknya memperbaiki masalah - "karena kontras dengan kulitnya".
Sumber gambar, Twitter
Menanggapi kritik, dia men-tweet: "Saya tahu Anda berpikir itu menyenangkan untuk menjerumuskan saya - tetapi saya sama-sama jengkel tentang ini seperti halnya orang lain. Namun, saya berada dalam posisi untuk memperbaikinya dan saya akan melakukannya.
"Ini 100% salah kami. Tidak ada yang boleh mengatakan sebaliknya."
'Banyak pertanyaan'
Zehan Wang, seorang pemimpin teknik penelitian dan salah satu pendiri perusahaan jaringan saraf Magic Pony, yang telah diakuisisi oleh Twitter, mengatakan pengujian pada algoritme pada 2017, menggunakan pasangan wajah yang berasal dari etnis berbeda, menemukan "tidak ada bias yang signifikan antara etnis (atau jenis kelamin) "- tetapi Twitter sekarang akan meninjau penelitian itu.
"Ada banyak pertanyaan yang perlu waktu untuk digali," katanya.
Rincian lebih lanjut akan dibagikan setelah tim internal memiliki kesempatan untuk melihatnya.
Akhir tahun lalu, sebuah penelitian pemerintah AS menunjukkan akurasi yang jauh lebih lemah pada algoritme pengenalan wajah dalam mengidentifikasi wajah kulit hitam dan Asia daripada wajah kulit putih.
Di Inggris, petugas polisi tahun lalu menyuarakan keprihatinan tentang algoritme yang "memperkuat" prasangka dan menyerukan pengadaan pedoman yang lebih jelas tentang penggunaan teknologi.
Dan, pada bulan Juni tahun ini, kekhawatiran serupa membuat IBM mengumumkan tidak akan lagi menawarkan perangkat lunak pengenalan wajah untuk "pengawasan massal atau profil rasial".
