Ketika AI Bertemu Hukum: Hakim Federal Memperingatkan Bahaya Laporan Algoritma dalam Penyidikan Polisi

Seorang hakim federal telah mengeluarkan alarm terkait tren yang mengkhawatirkan dalam penegakan hukum di AS: mengandalkan sistem kecerdasan buatan untuk menyusun dokumentasi investigasi penting. Kontroversi ini muncul setelah putusan dari Hakim Sara Ellis, yang meninjau perilaku agen ICE yang menggunakan ChatGPT untuk menyusun laporan penggunaan kekerasan. Kasus ini telah menyoroti pertemuan berbahaya antara kenyamanan AI dan integritas yudisial.

Praktik Bermasalah yang Diwajibkan Pengawasan Yudisial

Kasus ini berpusat pada seorang petugas yang memberi input minimal ke ChatGPT—hanya sebuah sinopsis singkat dipadukan dengan bukti fotografi—dan menerima laporan yang telah dipoles sebagai balasan. Namun, ketika Hakim Ellis membandingkan dokumentasi yang dihasilkan AI dengan rekaman kamera tubuh, muncul ketidaksesuaian yang mencolok. Alih-alih berfungsi sebagai catatan objektif, AI telah memalsukan detail dan deskripsi yang tidak akurat. Putusan hakim menandai pendekatan ini sebagai secara fundamental merusak kredibilitas penegakan hukum dan memperingatkan bahwa praktik semacam ini mengikis fondasi kepercayaan publik terhadap sistem peradilan.

Mengapa Laporan yang Disusun AI Menimbulkan Risiko yang Semakin Meningkat

Spesialis kriminologi semakin khawatir. Ian Adams, yang memiliki keahlian di bidang keadilan pidana dan penasihat kecerdasan buatan, menggambarkan metodologi ini sebagai mendekati kegagalan katastrofik. Ketika petugas memberikan sistem AI informasi yang terfragmentasi—yang secara esensial memaksa algoritma mengisi kekosongan berbahaya—teknologi tersebut cenderung menghasilkan fiksi yang terdengar meyakinkan daripada rekonstruksi kejadian yang setia.

Cendekiawan hukum memperkuat kekhawatiran ini. Andrew Guthrie Ferguson, seorang profesor hukum, menunjukkan bahwa algoritma prediktif secara inheren membentuk narasi dengan menekankan apa yang “secara logis seharusnya terjadi” daripada mendokumentasikan kebenaran dasar. Bagi terdakwa, distorsi algoritmik ini mengubah ruang sidang menjadi ladang ranjau di mana kebohongan yang dihasilkan AI memperumit strategi pembelaan hukum.

Dimensi Privasi: Lapisan Kerentanan Tersembunyi

Selain akurasi, ada kekhawatiran yang sama mengkhawatirkan: perlindungan data sensitif. Katie Kinsey, seorang pakar kebijakan teknologi yang terkait dengan Policing Project di NYU, menyoroti bahwa mengunggah bukti polisi ke platform AI arus utama seperti ChatGPT menciptakan risiko tumpahan data yang tidak terkendali. Setelah dikirim ke layanan komersial ini, informasi rahasia dapat beredar melalui saluran publik yang sama sekali di luar yurisdiksi penegak hukum.

Pengamatan Kinsey ini memperjelas disfungsi yang lebih luas: lembaga penegak hukum secara esensial sedang “membangun infrastruktur di tengah krisis,” menggunakan alat AI terlebih dahulu dan baru menetapkan protokol pengawasan setelah kerusakan muncul. Departemen Keamanan Dalam Negeri secara mencolok tidak menerbitkan panduan lengkap tentang implementasi AI, meninggalkan agen-agen tanpa pengawasan yang jelas.

Langkah-Langkah Penanggulangan dan Respon Industri

Beberapa yurisdiksi dan penyedia teknologi mulai mengambil langkah proaktif. Utah dan California telah mulai mewajibkan pelabelan transparan untuk dokumentasi yang dihasilkan AI, menciptakan jejak audit yang dapat dilacak. Sementara itu, Axon—penyedia utama kamera tubuh polisi—telah merancang solusi AI yang hanya menghasilkan ringkasan berbasis audio, sehingga menghindari ranah interpretasi analisis visual yang penuh jebakan.

Namun, langkah-langkah ini masih bersifat parsial. Penggunaan analitik prediktif dalam penegakan hukum terus menimbulkan skeptisisme, dengan pengamat mempertanyakan apakah pengambilan keputusan algoritmik memenuhi standar profesional maupun harapan akuntabilitas publik.

Menuju Akuntabilitas: Jalan Menuju Masa Depan

Intervensi yudisial ini menegaskan kebutuhan mendesak: kerangka regulasi yang komprehensif harus mengatur peran AI dalam dokumentasi penegakan hukum. Tanpa adanya batasan yang jelas, proliferasi penulisan laporan berbasis algoritma berisiko merusak akurasi yudisial, perlindungan privasi, dan legitimasi yang menjadi dasar seluruh sistem peradilan pidana. Peringatan hakim ini mencerminkan sebuah kebenaran yang lebih dalam: kenyamanan teknologi tidak boleh membiarkan integritas bukti yang menjadi hakim dalam keadilan tergerus.