Kepolisian Mengakui AI Akan Memiliki Bias: Kejujuran yang Terlambat tetapi Penting

Pengakuan bahwa AI kepolisian akan memiliki bias terdengar seperti kejujuran yang terlambat, tetapi tetap penting. Selama bertahun-tahun, teknologi keamanan sering dipasarkan dengan bahasa objektif: data, prediksi, akurasi, efisiensi. Padahal, setiap sistem yang dilatih dari dunia sosial akan membawa jejak ketimpangan dunia sosial itu sendiri.

The Guardian melaporkan pejabat AI kepolisian yang mengakui teknologi crime-fighting akan memiliki bias, sambil berjanji untuk menanganinya. Pernyataan ini membuka ruang diskusi yang lebih jujur: masalahnya bukan apakah bias ada, melainkan bagaimana bias diukur, diaudit, dikoreksi, dan dipertanggungjawabkan ketika menyentuh warga.

The Guardian juga pernah menyoroti kebutuhan kejelasan mendesak atas bias rasial dalam facial recognition kepolisian Inggris. Facial recognition menjadi contoh paling sensitif karena ia menghubungkan wajah manusia dengan kekuasaan negara. Jika sistem salah mengenali, dampaknya dapat langsung menyasar kebebasan seseorang.

Financial Times membahas risiko salah identifikasi dalam teknologi pengenalan wajah. Risiko ini tidak boleh diperkecil hanya karena persentase akurasi terlihat tinggi. Dalam populasi besar, error kecil dapat berarti banyak orang salah dicurigai, terutama jika error tidak terdistribusi merata antarkelompok.

Pengakuan ini muncul ketika teknologi prediktif dan biometrik semakin sering dipakai negara. Sistem memproses wajah, laporan, lokasi, dan pola kriminalitas; lalu hasilnya masuk ke institusi yang memiliki kekuasaan memeriksa, menahan, dan memberi stigma. Karena itu, bias di sini bukan sekadar persoalan teknis, tetapi persoalan hak warga.

Pendukung teknologi kepolisian berargumen bahwa AI dapat membantu memprioritaskan kasus, menemukan pola, menghemat waktu, dan mempercepat respons. Dalam situasi kekurangan personel, sistem analitik memang dapat memberi manfaat operasional.

Namun aktivis hak sipil dan akademisi hukum memperingatkan bahwa data kriminalitas historis bukan cermin objektif realitas. Ia adalah hasil praktik patroli, pelaporan, bias institusional, dan ketimpangan sosial. Jika data itu dipakai mentah, AI dapat mengotomatiskan masa lalu yang tidak adil.

Di satu sisi, pengakuan bias adalah langkah awal yang lebih sehat daripada klaim netralitas palsu. Institusi yang mengakui risiko setidaknya membuka pintu audit dan koreksi.

Di sisi lain, pengakuan saja tidak cukup. Tanpa transparansi model, data uji, mekanisme banding, dan evaluasi independen, kata ‘kami akan menangani bias’ hanya menjadi kalimat pengaman reputasi.

Bagi Petra, AI kepolisian memperlihatkan bahaya ketika teknologi masuk ke ruang kekuasaan sebelum demokrasi siap mengawasinya. Mesin dapat terlihat dingin dan rasional, tetapi ia tetap membawa sejarah sosial yang panas dan tidak netral.

Secara akademik, kasus ini menyentuh algorithmic accountability. Jika sebuah keputusan dibantu sistem yang tidak bisa dijelaskan, siapa yang bertanggung jawab ketika keputusan itu salah? Petugas, vendor, pembuat data, atau algoritma yang tidak punya kesadaran moral?

Petra menilai bahwa negara boleh memakai teknologi, tetapi tidak boleh bersembunyi di balik teknologi. Setiap output AI dalam kepolisian harus memiliki wajah manusia yang bertanggung jawab, jalur koreksi, dan hak warga untuk menggugat.

Kesimpulannya, pengakuan bias AI adalah awal, bukan akhir. Publik harus menuntut audit, regulasi, transparansi, dan batas penggunaan yang jelas sebelum teknologi ini diperluas.

Berita ini mengingatkan bahwa keadilan tidak boleh dipercepat dengan mengorbankan akurasi dan hak warga. Jika AI hanya membuat bias lama berjalan lebih cepat, maka ia bukan kemajuan hukum, melainkan modernisasi ketidakadilan.