Semua teknologi adalah pedang bermata dua; termasuk teknologi facial recognition; pengenalan wajah. Apakah Anda rela menukar privasi dan hak asasi Anda dan orang lain demi keamanan?
KOMPAS/IRENE SARWINDANINGRUM—Teknologi biometrik yang sudah berkembang demikian canggih mampu mendeteksi wajah orang kendati orang tersebut mengenakan masker ataupun kacamata hitam. Teknologi ini dipamerkan dalam pameran teknologi tahunan NEC IEXPO 2019 di Tokyo, Jepang, Kamis (7/12/2019).
Semua teknologi adalah pedang bermata dua, termasuk teknologi facial recognition atau pengenalan wajah. Teknologi ini mungkin terkesan tidak berbahaya, terlebih lagi bisa saja hampir setiap hari Anda menggunakannya untuk mengakses ponsel Anda.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Kamera keamanan dengan teknologi ini juga menjanjikan masa depan yang sekilas super aman; pelaku kriminal bisa dilacak dengan mudah. Namun, bagaimana kalau teknologi ini salah dan berujung pada penangkapan yang salah dan melanggar hak asasi manusia?
Ancaman penyalahgunaan teknologi ini diyakini begitu besar, hingga raksasa teknologi Amerika Serikat, IBM, memutuskan untuk tidak menjual teknologi ini. Adanya bias rasial dan potensi penyalahgunaan teknologi itu oleh aparat pemerintah menjadi alasannya.
Dalam surat tertanggal Senin (8/6/2020) waktu AS atau Selasa pagi ini waktu Indonesia, CEO IBM Arvind Krishna mengumumkan bahwa IBM tidak akan menjual teknologi pengenalan wajah multiguna dan perangkat analisisnya.
Pihaknya menentang dan tidak mendukung penggunaan teknologi pengenalan wajah milik perusahaan mana pun untuk mass surveillance, racial profiling, dan pelanggaran hak asasi manusia.
”Kami percaya bahwa inilah saatnya untuk memulai sebuah dialog nasional mengenai apakah perlu teknologi pengenalan wajah digunakan oleh penegak hukum,” tulis Arvind.
Ia juga menilai kecerdasan buatan (artificial intellegence/AI)—seperti dalam pengenalan wajah—adalah alat yang berguna untuk membantu penegak hukum melindungi masyarakat.
Namun, menurut Arvind, para vendor dan pengguna teknologi ini perlu menyadari bahwa ada tanggung jawab bersama untuk memastikan bahwa AI telah diuji bebas dari bias rasial, khususnya apabila digunakan di bidang penegakan hukum.
Surat ini dikirimkan kepada lima anggota Kongres AS; anggota Dewan Perwakilan dari Demokrat Karen Bass, Hakeem Jeffries, dan Jerrold Nadler dan dua senator Cory Booker dan Kamala Harris. Mereka adalah anggota Kongres yang terlibat dalam perancangan draf undang-undang Justice in Policing Act 2020.
Surat ini juga menyampaikan dukungan IBM terhadap draf undang-undang tersebut.
RUU ini diharapkan dapat mencegah terjadinya sejumlah pelanggaran yang dilakukan oleh polisi; dari pelanggaran kode etik kepolisian, penggunaan kekerasan yang berlebihan, dan bias rasial dalam pelaksanaan tugasnya.
Bias rasial dalam teknologi
Bias rasial diyakini sebagai denominator yang sama dalam isu teknologi pengenalan wajah dan brutalitas polisi di AS; merugikan warga dengan warna kulit selain putih.
Dalam studi yang dilakukan oleh peneliti dari Massachussets Institute of Technology dan Stanford University terhadap tiga perangkat lunak pengenal wajah yang tersedia secara komersial pada 2018, ditemukan bahwa tingkat kesalahan proses deteksi wajah perangkat lunak tersebut jauh lebih buruk untuk mengenali wajah orang berkulit gelap.
Dalam eksperiman tersebut, tingkat kesalahan tiga program tersebut dalam pengenalan laki-laki berkulit terang tidak pernah lebih dari 0,8 persen. Sementara untuk perempuan berkulit gelap, tingkat kesalahan langsung melonjak menjadi 20-34 persen.
Penelitian itu juga menunjukkan bahwa dataset yang digunakan oleh program pengenalan wajah menggunakan populasi sampel yang timpang. Salah satu dataset yang digunakan untuk melatih program AI menggunakan sampel yang terdiri dari 77 persen laki-laki dan 83 persen berkulit putih. Hal ini menyebabkan kesalahan identifikasi lebih besar pada kelompok orang yang berkulit gelap.
”Program dan dataset ini bisa digunakan untuk mengindentifikasi tersangka kriminal. Diharapkan temuan ini mengajak kita semua bisa melihat ketimpangan yang terjadi di aspek lain teknologi,” kata Joy Buolamwini dan Timbnit Gebru.
Bias rasial yang merugikan etnis kulit hitam AS juga menjadi sorotan akhir-akhir ini. Serangkaian pembunuhan warga kulit hitam AS baik oleh polisi maupun warga sipil telah terjadi pada 2020; dari pembunuhan Goerge Floyd di Minnesota hingga Breonna Taylor di Kentucky. Insiden ini juga memicu sejumlah gerakan demonstrasi di ratusan kota di AS.
”Kongres harus mengangkat kasus pelanggaran oleh polisi ke hadapan pengadilan federal. Kongres juga harus mengubah doktrin qualified immunity yang mencegah masyarakat mencari keadilan ketika polisi melanggar hak konstitusional mereka,” tulis Arvind.
Qualified immunity adalah hak imunitas yang dimiliki oleh aparat pemerintah dalam melaksanakan tugasnya. Draf RUU Justice in Policing Act bertujuan menghilangkan doktrin ini dari sistem hukum federal AS.
Dalam surat itu Arvind mengutip surat yang ditulis oleh Presiden IBM yang legendaris, Thomas Watson Jr, pada 1953 kepada seluruh karyawan IBM.
”Seluruh warga negara ini memiliki hak yang sama untuk hidup dan bekerja di Amerika. Inilah kebijakan dari perusahaan ini untuk merekrut siapa pun yang memiliki karakter, talenta, dan kualifikasi yang memadai; tanpa memandang ras, warna kulit, ataupun agamanya.”
Arvind juga berpandangan bahwa kepolisian nasional perlu meningkatkan pengunaan teknologi yang meningkatkan transparansi anggota kepolisian; seperti kamera badan (body cam) dan teknis analisis data mutakhir.
Potensi pelanggaran hak asasi manusia?
Selain bias rasial, teknologi pengenalan wajah juga dapat menjadi potensi pelanggaran hak asasi warga negara, terlebih lagi apabila teknologi ini terlalu intrusif dan mengganggu privasi setiap orang.
China menjadi negara terdepan dalam upaya penerapan kamera intai berteknologi pengenalan wajah untuk menjaga ketertiban. Pada 2018, New York Times melaporkan bahwa China memiliki 200 juta kamera pengintai pada 2019 dan diprediksikan mencapai 300 juta pada tahun ini.
Pada April 2018, sistem kamera CCTV milik Pemerintah China berhasil mendeteksi satu buron dalam sebuah konser berpenonton 60.000 orang di Nanchang.
AP PHOTO/MARK SCHIEFELBEIN—Bendera China berkibar di dekat kamera keamanan Hikvision yang memantau persimpangan lalu lintas di Beijing, Selasa, 8 Oktober 2019. Amerika Serikat memasukkan daftar hitam sekelompok perusahaan teknologi China yang mengembangkan pengenalan wajah dan teknologi kecerdasan buatan yang menurut AS sedang digunakan untuk menekan kelompok minoritas Muslim di China.
Di 2020 ini, targetnya seluruh warga negara China telah dimasukkan dalam database yang menggabungkan data kependudukan dan data perbankan. Kelak, setiap orang akan memiliki angka ”kredit sosial” yang bisa digunakan untuk memberikan masing-masing orang semacam ranking, lapor BBC.
Pemerintah Indonesia pun pada akhir 2019 sempat memunculkan wacana ini. Pada 26 November 2019, di depan forum Asosiasi Pemerintah Provinsi Seluruh Indonesia (APPSI), Menteri Dalam Negeri Tito Karnavian memperkenalkan konsep digital security.
Pada prinsipnya, sistem ini adalah serangkaian kamera CCTV berteknologi pengenalan wajah yang terhubung dengan sistem kependudukan dan catatan sipil Kemendagri.
”Jadi, kalau ada keributan, itu bisa dilihat dan ditangani dengan cepat melalui CCTV. Ada kegiatan kriminal bisa mendeteksi dengan cepat pelakunya. Ini saya sudah sampaikan dengan beberapa kepala daerah,” kata Tito.
Menanggapi rencana ini, Lembaga Studi dan Advokasi Masyarakat (Elsam) menilai, perlu ada kerangka hukum yang lebih komprehensif untuk memastikan tidak ada penyalahgunaan teknologi ini.
”Tanpa mekanisme pengawasan dan akuntabilitas yang memadai, praktis pengumpulan dan pemrosesan data pribadi warga negara akan menimbulkan potensi penyalahgunaan yang amat besar,” kata Deputi Direktur Riset Elsam Wahyudi Djafar.
Industri tumbuh
Langkah IBM ini juga cukup mengagetkan, mengingat IBM adalah pemain besar dalam kecerdasan buatan, termasuk pengenalan wajah. Dan, nilai pasar teknologi pengenalan wajah diprediksi meningkat pesat beberapa tahun ke depan.
IDC—Market share dan nilai pasar teknologi kecerdasan buatan tahun 2018 versi IDC.
Berdasarkan data IDC, IBM adalah pemain terbesar dunia dalam pasar AI, dengan porsi 9,2 persen; lebih besar dibandingkan dengan Dell, ODM Direct, Hewlett Packard, Accenture, dan Oracle.
Berdasarkan data Valuates Reports, nilai pasar teknologi pengenalan wajah pada 2019 mencapai 3,5 triliun dollar AS atau sekitar Rp 49 triliun dan diperkirakan akan mencapai hampir 10 miliar dollar AS (Rp 140 triliun) pada pada lima tahun mendatang. Pertumbuhannya diperkirakan mencapai 18 persen tiap tahunnya.
IDC Research Director Mike Jude mengatakan, dalam hasil riset pasarnya yang berjudul Worldwide Video Surveillance 2020 menyatakan bahwa sektor industri ini sedang tumbuh. ”Banyak teknologi baru seperti AI dan 5G dan komputasi awan mentransformasikan pasar ini,” kata Judge.
Oleh SATRIO PANGARSO WISANGGENI
Editor: KHAERUDIN KHAERUDIN
Sumber: Kompas, 9 Juni 2020
