Coded Bias: Kecerdasan Buatan dan Diskriminasi
Coded Bias adalah film dokumenter yang menyelidiki diskriminasi dalam kecerdasan buatan. Film ini mengikuti peneliti MIT Joy Buolamwini, yang menemukan kelemahan besar dalam teknologi pengenalan wajah.
Coded Bias adalah film dokumenter yang menyelidiki diskriminasi dalam kecerdasan buatan. Film ini mengikuti peneliti laboratorium media MIT, Joy Buolamwini, seorang ilmuwan komputer yang menemukan kelemahan besar dalam teknologi pengenalan wajah.
Tujuan teknologi sejak awal adalah mendukung manusia—dan ingat, manusialah yang menciptakan teknologi. Kita menggunakan teknologi untuk meningkatkan peraturan keselamatan, bepergian lebih cepat dari satu tempat ke tempat lain, terhubung dengan orang-orang di seluruh dunia melalui jaringan global, menjelajah angkasa, dan masih banyak lagi. Anda mungkin akan terkejut melihat betapa cepat hampir setiap mesin di sekitar Anda terus belajar, beradaptasi, mengenali, dan mengingat setiap pikiran yang Anda tulis atau ucapkan. Kita telah sampai pada titik ketika Kecerdasan Buatan (AI) dan pembelajaran mesin mampu belajar dan berfungsi sendiri. Tapi mungkin Anda sudah tahu itu, dan baik-baik saja dengan hal tersebut.
Film dokumenter ini dimulai dengan pengalaman Joy Buolamwini di Media Lab. Ia mengikuti kelas bernama ‘Science Fabrication’, yang mendorong para mahasiswa untuk membayangkan gagasan dan berinovasi berdasarkan konsep-konsep fiksi ilmiah. Ia berencana membuat sesuatu yang disebutnya ‘Aspire Mirror’. Seperti dijelaskan dalam film dokumenter, gagasan Aspire Mirror adalah mencocokkan wajah seseorang lalu menggantinya dengan wajah hewan, atau seseorang yang menginspirasi orang tersebut. Dengan menggunakan kamera dan perangkat lunak visi komputer, teknologi itu seharusnya dapat melacak wajah Buolamwini. Namun, alat tersebut tidak bekerja dengan baik sampai ia mengenakan topeng putih, yang kemudian membantu wajahnya terdeteksi.
Memprediksi perilaku individu menggunakan pengenalan wajah biometrik. Tangkapan layar dari Coded Bias.
Setelah banyak berpikir dan bereksperimen, kita menyadari bahwa mesin dilatih menggunakan sekumpulan contoh dan hal-hal yang kita ingin mereka pelajari. Seluruh pembelajaran mesin didasarkan pada data historis, dan hasilnya dihitung berdasarkan tindakan yang diambil atau keputusan yang dibuat. Artinya, apa pun yang Anda masukkan ke dalam mesin akan menjadi bagian dari ingatan mesin tersebut, sama seperti manusia dan otak kita.
Jadi, bayangkan kita memasukkan sejarah 200 tahun terakhir ke dalam kecerdasan buatan. Bisa Anda bayangkan hasilnya? Masalahnya, karena sejak dahulu ada persoalan rasisme, perang, perpecahan sosial, dan banyak hal lainnya, mesin belajar bahwa pilihan yang bertahan adalah pilihan yang lebih baik, bukan selalu pilihan yang benar. Di situlah kelemahan mesin sebagai kotak hitam yang tidak dapat kita jelajahi atau perbaiki, karena algoritmanya tidak sepenuhnya berada dalam kendali kita. Manusia pada dasarnya telah menanamkan bias mereka ke dalam teknologi yang belajar dari mereka.
“AI didasarkan pada data, dan data merupakan cerminan sejarah kita. Jadi, masa lalu bersemayam di dalam algoritma kita” – Joy Buolamwini
Tay, bot menghakimi yang dibuat Microsoft di Twitter, menunjukkan sejauh mana kemampuan AI. Bot tersebut belajar begitu banyak dari internet hingga mulai membuat cuitan yang ofensif, rasis, seksis, dan provokatif, dibumbui komentar sosial yang getir. Dalam waktu 16 jam setelah dirilis, Tay harus ditarik dengan alasan mengalami “serangan terkoordinasi oleh sekelompok orang”, atau begitulah yang diberitakan.
Kita hidup dalam masyarakat tempat kecerdasan buatan mengatur kebebasan dan individu. Kita terus-menerus didiskriminasi, bahkan oleh mesin. Film dokumenter ini kemudian mengungkap bahwa banyak perusahaan besar seperti Amazon, Facebook, IBM, Microsoft, dan lainnya memiliki sistem pengenalan wajah yang bekerja lebih baik pada wajah laki-laki dibandingkan perempuan. Perusahaan seperti Amazon juga mendapati bias rasial dalam algoritma perekrutannya, yang memilih lebih banyak laki-laki kulit putih dibandingkan ras dan gender lainnya.
Anda mungkin juga menyukai: NBA – Standing Against Racism
Kita melihat penggunaan pengenalan wajah di China dan bagaimana teknologi itu diwajibkan dalam setiap gerakan yang Anda lakukan, mulai dari terhubung ke internet hingga naik kereta. Di Inggris, pengawasan CCTV bahkan digunakan untuk mencurigai dan membuat asumsi tentang calon tersangka dengan memanfaatkan pengenalan wajah biometrik. Hal ini dapat berujung pada pemeriksaan langsung oleh polisi setempat di jalan. Siapa pun yang berusaha menyembunyikan wajah dari mobil van pengawas akan didenda!
Ada pula contoh pengenalan wajah yang menjadi bagian dari sistem keamanan Atlanta Plaza Towers di AS. Gedung di Brownsville, New York, ini dihuni mayoritas warga kulit hitam dan kulit berwarna. Para penghuni gedung menyatakan hak mereka untuk tidak dilacak melalui sistem semacam itu. Ilmuwan politik sekaligus penulis Virginia Eubanks menyampaikan poin yang sangat menarik: perangkat pengawasan paling intensif pertama-tama diuji pada komunitas pekerja miskin. Jika perangkat tersebut berhasil di lingkungan yang secara umum memiliki ekspektasi rendah bahwa hak-hak warga akan dihormati, perangkat itu kemudian akan diterapkan di komunitas lain.
Film dokumenter ini juga membahas pengawasan negara dibandingkan pengawasan korporasi melalui pengenalan wajah biometrik. Pengawasan negara, seperti yang beroperasi di China, digunakan untuk mencatat dan mengatur warga dengan mengategorikan serta mengakses data mereka. Di negara-negara seperti AS, pengawasan digunakan untuk kepentingan komersial demi menghasilkan pendapatan.
Anda cukup sering diminta memberikan Permissions di bagian terms and conditions di berbagai situs web. Hal ini memberikan akses ke informasi yang Anda gunakan untuk membangun profil, serta aktivitas daring lainnya. Informasi tersebut mencakup foto, usia, minat, pengaruh, dan masih banyak lagi yang tidak Anda ketahui. Kita bahkan tidak menyadari dampak yang dimiliki orang-orang yang mengendalikan Big Data terhadap hidup kita.
Selebihnya, biar Anda tonton sendiri!
Saksikan CODED BIAS di Netflix.
Buolamwini mendirikan Algorithmic Justice League untuk meningkatkan kesadaran tentang dampak Kecerdasan Buatan. Mereka juga meyakini bahwa keadilan rasial membutuhkan keadilan algoritmik, terutama melihat arah kita menuju masa depan dengan kemajuan teknologi yang cepat dan tidak teregulasi.
Kita tidak selalu bisa yakin bahwa kita tahu apa yang mampu dilakukan oleh pihak yang berkuasa. Kita harus waspada terhadap setiap sistem yang diterapkan di sekitar kita. Ada celah dalam sistem berbasis AI karena belum ada hukum yang memadai untuk mengatur bagaimana teknologi ini dapat digunakan, dan belum ada regulasi yang menentukan batasnya.
Menurut Anda, apa yang akan terjadi?
