Hal ini bermula di tahun 2015. Seorang developer perangkat lunak (software) marah kepada Google lewat cuitannya di Twitter. Pria yang diketahui bernama Jacky Alciné marah karena foto yang ia unggah lewat aplikasi Google Photo ditandai sebagai “primata”.
Foto itu memuat gambar Jacky bersama teman wanitanya yang juga berkulit hitam. Namun ternyata, teknologi kecerdasan buatan milik Google (AI) gagal mengidentifikasi sosok wanita di samping Jacky. Google Photo memberi label kepada teman wanita Jacky sebagai gorilla.
Permasalahan mengenai rasisme merupakan topik yang cukup serius dan tidak bisa dipandang remeh di luar sana. Pihak Google Photo pun bertindak cepat terhadap insiden tersebut dan mengatakan bahwa hal itu murni merupakan ketidaksengajaan. Melalui balasan salah seorang developer Google Photo di Twitter, ia meminta akses ke beberapa foto yang dianggap bermasalah untuk upaya perbaikan ke depan.
https://twitter.com/jackyalcine/status/615329515909156865
Bagi Anda yang belum tahu, Google Photo menggunakan teknologi machine-learning untuk secara otomatis mengidentifikasi dan mengelompokkan berbagai gambar yang diunggah oleh para penggunanya ke dalam kriteria-kriteria tertentu yang dianggap memiliki kesamaan. Hal tersebut juga termasuk gambar wajah (facial recognition).
Kembali ke masa sekarang, 15 Januari 2018 (dua tahun berlalu sejak peristiwa tersebut). Ternyata, perbaikan yang dilakukan untuk kasus tersebut belum sepenuhnya selesai. Salah satu upaya perbaikan adalah menghapus kata “gorilla” dan kata lain yang berhubungan dengan hewan primata di dalam pusat data kata Google Photo. Walhasil, bug yang lain ternyata muncul.
Hal ini terlihat ketika Wired melakukan pengujian terhadap hal ini. Tes yang mereka lakukan adalah mengunggah koleksi 40.000 foto hewan ki Google Photo. Kemudian, mereka melakukan pencarian dengan memasukkan kata kunci “gorilla”. Hasilnya, hewan tersebut tidak ditemukan di dalam database Google Photo. Hasil kosong juga terdapat pada pencarian dengan kata kunci “simpanse” (chimpanzees). Untuk hasil lain, hewan berhasil ditemukan dengan tepat untuk kata kunci “baboon,” “gibbon,” “marmoset,” dan “orangutan”.
Mari kita berharap Google dapat memperbaiki persoalan ini secara menyeluruh ke depannya. Sebab, ada rencana bahwa teknologi facial recognition ini akan dikombinasikan dengan layanan Google lainnya, seperti self-driving cars. Kita tentunya tidak menginginkan insiden yang buruk terjadi terkait hal ini bukan?
