Rekomendasi jangka panjang tentang bagaimana lembaga penegak hukum federal harus menguji kinerja alat kecerdasan buatan sebelum menerapkannya siap disampaikan ke Gedung Putih setelah panel penasihat presiden bidang AI menyetujui temuan akhir pada hari Rabu.
Itu Komite Penasihat AI Nasional dengan suara bulat mendukung temuan yang disampaikan dalam Subkomite Penegakan Hukum dokumen 24 halaman pada pengujian lapangan alat AI, sebuah langkah yang mengikuti persetujuan awal musim panas ini atas tiga rekomendasi mengenai praktik tersebut.
Jane Bambauer, ketua Sub-komite Penegakan Hukum, mengatakan dalam pertemuan publik pada hari Rabu bahwa proposal tersebut mencerminkan temuan kelompok mengenai masalah ini – meskipun “masih cukup awal dalam gagasan untuk menguji AI di lapangan,” meninggalkan pintu terbuka untuk ide- ide untuk “diperbaiki”.
“Ini adalah sebuah pengulangan,” kata Bambauer mengenai proposal dan temuan tersebut, “dan bukan satu-satunya cara untuk memahami bagaimana AI menjalankan fungsinya di lapangan.”
Rekomendasi pertama dari subkomite ini hanyalah agar Kantor Manajemen dan Anggaran mendorong lembaga penegak hukum federal untuk mengikuti daftar periksa ketika menguji alat AI di lapangan. Daftar periksa potensial yang disusun oleh subkomite mencakup perincian untuk menjelaskan alat AI dan tujuan penggunaannya, mendokumentasikan rencana pembatasan penggunaan, melakukan penilaian dampak AI, mengidentifikasi metode pengujian, dan melengkapi kuesioner yang dirancang untuk “membayangkan dan mengidentifikasi metrik” yang terkait dengan sistem .
Dalam sebuah wawancara dengan FedScoop bulan lalu, Bambauer mengatakan subkomite tersebut tidak ingin memberikan kesan bahwa daftar periksa tersebut adalah “rangkaian statis” atau “rangkaian operasi atau protokol terakhir yang harus diikuti.” Sebaliknya, sub-komite tersebut bermaksud agar daftar periksa tersebut berfungsi sebagai “dokumen panduan”, dan agar pemerintah federal menentukan “pendekatan standar” untuk pengujian lapangan AI yang harus diikuti oleh lembaga penegak hukum.
“Proses pengujian lapangan harus… memberikan transparansi,” kata Bambauer, seraya menambahkan bahwa nilai dasar penting agar pihak yang melakukan pengujian mengetahui “seberapa lebih baik atau lebih buruk” kinerja alat AI dibandingkan pendahulunya.
Rekomendasi kedua dari subkomite tersebut meminta OMB untuk merevisi panduannya dan mewajibkan agar rencana uji lapangan AI di antara lembaga penegak hukum federal dipublikasikan, serta hasil dari pengujian tersebut — terlepas dari apakah alat tersebut pada akhirnya diadopsi.
Sementara itu, rekomendasi ketiga mendorong pendanaan dan dukungan penelitian bagi penegak hukum di tingkat negara bagian dan lokal untuk melakukan uji lapangan AI mereka sendiri.
Subkomite Penegakan Hukum pertama kali mempresentasikan versi awal rekomendasi uji lapangan AI kepada seluruh badan NAIAC pada pertemuan kelompok tersebut pada bulan Mei, yang terdiri dari para ahli AI dari sektor swasta, organisasi nirlaba dan akademisi dan beroperasi di bawah bendera Institut Standar & Teknologi Nasional.
Bagi Bambauer, seorang profesor hukum di Universitas Florida dengan latar belakang penelitian kuantitatif, proses pemikiran di balik rekomendasi tersebut masih membutuhkan waktu yang lama.
Meskipun perintah eksekutif AI dari Presiden Joe Biden “jelas memerlukan pengujian AI di dunia nyata”, Bambauer mengatakan tidak ada “pendekatan standar untuk menguji AI” dalam kepolisian federal. Subkomite memutuskan bahwa proposal pengujian lapangan AI akan mengisi kesenjangan penting.
Bambauer dan rekan-rekannya kemudian melakukan misi pencarian fakta dengan penegak hukum setempat untuk mengetahui sejauh mana pengujian lapangan terhadap elevator tersebut dapat dilakukan. Dalam kunjungan ke Departemen Kepolisian Miami – di mana anggota subkomite Armando Aguilar menjabat sebagai asisten kepala – Bambauer mengatakan dia memperkirakan akan bertemu dengan tim skeptis yang khawatir dengan terlalu banyak protokol pengujian yang menyusun pekerjaan mereka.
Namun MPD, katanya, melakukan studi terhadap alat AI di pusat kejahatan real-time dan menemukan bahwa proses pengujiannya “tidak memberatkan”.
“Ini bukan masalah besar untuk diterapkan, dan ini sebenarnya memberi mereka kepercayaan diri yang besar,” kata Bambauer. “Ini sama-sama menguntungkan… jika kita benar-benar bisa mendapatkan informasi terbaik, informasi berkualitas tertinggi, [on] mana yang berhasil dan mana yang tidak.”
Setelah pemungutan suara pada hari Rabu, rekomendasi dan temuan Subkomite Penegakan Hukum mengenai pengujian lapangan AI akan siap untuk diserahkan kepada presiden dan Kantor Inisiatif AI Nasional. Subkomite tersebut sebelumnya merekomendasikan agar lembaga penegak hukum memperluas inventarisasi kasus penggunaan mereka dan menerbitkan ringkasan laporan penggunaan tahunan tentang pengenalan wajah dan alat AI lainnya, serta rekomendasi lainnya.
