Alat pengenalan wajah digunakan oleh lembaga-lembaga dengan “kurangnya pengawasan federal” yang dapat membuat orang terkena “penyalahgunaan kekuasaan dan masalah privasi,” kata ketua Komisi Hak Sipil AS pada hari Kamis dalam pengarahan mengenai kelompok baru tersebut. laporan tentang teknologi.
Ketua USCCR Rochelle Garza menggambarkan kurangnya pengawasan pemerintah dan peraturan standar mengenai penggunaan teknologi pengenalan wajah oleh lembaga sebagai hal yang “mengkhawatirkan”, meskipun ada rilis. laporan 194 halaman mengenai implikasi hak-hak sipil dari penggunaan FRT oleh pemerintah federal merupakan “momen penting” bagi negara tersebut dalam mengatur teknologi di masa depan.
“Kami menemukan kesenjangan yang mengkhawatirkan, terutama dalam cara teknologi ini salah mengidentifikasi perempuan, orang kulit berwarna, dan kelompok marginal lainnya,” kata Garza. “Cara kita merespons saat ini akan membentuk masa depan hak-hak sipil di era AI.”
Contoh di mana anggota kelompok tersebut salah diidentifikasi oleh teknologi dapat menyebabkan “potensi pelanggaran hak-hak sipil, termasuk penangkapan yang salah… dan penolakan layanan penting,” tambahnya.
Laporan bipartisan tersebut adalah hasil dari apa yang disebut Garza, seorang Demokrat, sebagai “penyelidikan komprehensif” tentang bagaimana pengenalan wajah digunakan oleh departemen Kehakiman, Keamanan Dalam Negeri dan Perumahan dan Pembangunan Perkotaan, khususnya.
Panelis menyampaikan kekhawatiran khusus pada hari Kamis tentang penggunaan FRT oleh otoritas perumahan umum yang didanai HUD. Perwakilan Yvette Clarke, DN.Y., yang memiliki memperkenalkan rancangan undang-undang yang melarang penggunaan teknologi pengenalan wajah dan identifikasi biometrik di perumahan umum, secara khusus menunjuk pada proyek perumahan di lingkungan Brownsville di wilayahnya di Brooklyn yang “mencoba memasang teknologi pengenalan wajah untuk penyewanya sebagai pengganti kunci fisik.”
“Seseorang yang tinggal di perumahan umum tidak boleh dan tidak bisa menjadi kelinci percobaan bagi teknologi pengenalan wajah biometrik baru, hanya untuk memasuki rumahnya sendiri,” kata Clarke. “Saat kita memasuki era baru AI, terlalu banyak teknologi yang belum teruji diberikan kekuasaan penuh untuk menjalankan sistem dan layanan yang dipercaya orang Amerika.”
Komisaris Demokrat Mondaire Jones menggemakan komentar tersebut, mengkritik “aspek penting dari pemaksaan” dalam tinggal di kompleks perumahan umum “di mana Anda tidak memiliki hak untuk mengatakan apakah Anda sedang diawasi oleh teknologi pengenalan wajah. Anda tidak bisa mengatakan apakah Anda sedang diawasi oleh teknologi pengenalan wajah. Anda tidak bisa mengatakan apakah Anda sedang diawasi oleh teknologi pengenalan wajah. memilih untuk tidak ikut serta.”
Komisaris Partai Republik Stephen Gilchrist juga menyebutkan masalah “privasi yang signifikan” dengan pengenalan wajah, terutama yang menonjol bagi “penyewa berpenghasilan rendah” karena tuan tanah dan otoritas perumahan umum membuat kontrak dengan perusahaan swasta untuk menyimpan data penduduk.
“Semakin banyak entitas yang memiliki akses terhadap materi sensitif dan data pengidentifikasi, semakin rentan bukan hanya sistemnya, namun juga kerentanannya [so too are] orang-orang yang… beberapa orang akan diidentifikasi sebagai korban melalui proses tersebut,” kata Gilchrist.
Laporan tersebut merinci rekomendasi spesifik untuk HUD, DOJ dan DHS, serta serangkaian rekomendasi untuk Kongres, kepala pejabat AI federal, dan lembaga yang menggunakan teknologi pengenalan wajah. Badan-badan federal mungkin mempunyai urutan tertinggi, dengan USCCR mengeluarkan pengawasan komprehensif, transparansi, dan rekomendasi pengadaan untuk lembaga mana pun yang menggunakan pengenalan wajah.
Chief AI officer diminta oleh komisi untuk bekerja dengan Institut Standar dan Teknologi Nasional dalam pengembangan dan implementasi program uji lapangan untuk sistem pengenalan wajah, dengan ketentuan khusus mengenai evaluasi dunia nyata, konsultasi komunitas dan pengurangan bias dan kesenjangan. di FRT yang mempengaruhi hak.
Sementara itu, NIST akan diberi wewenang oleh Kongres untuk mengevaluasi algoritme FRT yang dibeli oleh lembaga penegak hukum, melaporkan tingkat kesalahan spesifik demografis, mengembangkan prosedur pengujian yang sedang berlangsung, mengalokasikan dana federal untuk penggunaan standar dan mewajibkan pengujian dua kali setahun yang bertujuan untuk menurunkan tingkat kesalahan.
Laporan tersebut dirilis enam bulan setelah Jones mengkritik DOJ dan HUD karena melewatkan kesempatan untuk bersaksi di depan komisi tentang penggunaan pengenalan wajah. Mantan anggota kongres dari New York tersebut mengatakan pada saat itu bahwa ketidakhadiran badan tersebut merupakan tindakan yang “menyinggung”, dan mengklaim bahwa mereka “malu atas kegagalan mereka dan berusaha menghindari akuntabilitas publik.”
DOJ mengatakan kepada FedScoop dalam pernyataan email bahwa pihaknya telah menghubungi komisi tersebut mengenai tanggapannya, dan memberikan kebijakan sementara mengenai pengenalan wajah kepada USCCR pada akhir bulan itu.
HUD mengakui dalam kesaksian yang disampaikan pada bulan April bahwa otoritas perumahan umum setempat yang menerima bantuan federal dari badan tersebut dapat menggunakan teknologi pengenalan wajah, namun hal itu “tidak memerlukan kebijakan khusus mengenai FRT untuk [public housing authorities] dan tidak menyimpan daftar PHA yang memilih untuk menggunakan FRT.”
Jones mengatakan dalam sebuah wawancara dengan FedScoop pada hari Kamis bahwa DOJ dan HUD menanggapi komentarnya pada bulan Maret “dengan sangat serius,” yang tercermin dalam tanggapan mereka terhadap pertanyaan USCCR dan dokumentasi yang telah mereka serahkan. “Saya menantikan kemitraan yang lebih kolaboratif dalam mengatasi kekhawatiran yang kami kemukakan dalam laporan kami,” katanya.
Dalam laporan baru, USCCR merekomendasikan agar Departemen Perumahan dan Pembangunan Perkotaan memperbarui materi hibah federal agar selaras dengan rekomendasi lembaga komisi lainnya, dan mempublikasikan informasi tersebut di situs web HUD. DHS dan DOJ didesak oleh USCCR untuk melakukan hal yang sama.
Rekomendasi yang disampaikan oleh komisi tersebut dalam sebuah laporan pada hari Kamis mengikuti panduan sebelumnya yang disampaikan kepada presiden dan penasihatnya tahun ini mengenai teknologi pengenalan wajah. Pada bulan Mei, Sub-komite Penegakan Hukum dari Komite Penasihat AI Nasional mendukung kebijakan yang mewajibkan lembaga kepolisian federal untuk membuat dan menerbitkan laporan ringkasan tahunan penggunaan AI yang berdampak pada keamanan atau hak, seperti alat pengenalan wajah, dan laporan tersebut disertakan dalam AI. masing-masing agensi. inventaris kasus penggunaan.
Laporan USCCR mencatat bahwa OMB telah menetapkan batas waktu 1 Desember bagi lembaga-lembaga tersebut untuk “memberikan pemberitahuan publik dan dokumentasi bahasa sederhana” mengenai kasus penggunaan tersebut dalam inventaris AI-nya.
“Penting bagi kita untuk mengkaji teknologi ini dengan mempertimbangkan sudut pandang hak-hak sipil,” kata Garza, “dan memastikan teknologi ini digunakan dengan cara yang melindungi – bukan melemahkan – kebebasan konstitusional kita.”
