Semua lembaga federal yang menggunakan kecerdasan buatan untuk “keputusan yang dihasilkan” harus diwajibkan memiliki kantor hak-hak sipil untuk mencegah hal-hal seperti diskriminasi algoritmik, kata Pemimpin Mayoritas Senat Chuck Schumer, DN.Y., dan Senator. Ed Markey, D-Mass., mengatakan Senin dalam suratnya ke Gedung Putih.
Di dalam surat kepada Direktur Kantor Manajemen dan Anggaran Shalanda Young, anggota parlemen mencatat bahwa Presiden Joe Biden telah mengambil langkah-langkah untuk mengatasi bias AI – termasuk Rencana Aksi untuk Undang-Undang Hak AI dan perintah eksekutif pada bulan Oktober 2023 mengenai teknologi tersebut – tetapi mengatakan bahwa pengawasan yang lebih ketat diperlukan.
“Tanpa perlindungan baru, algoritme yang didukung AI saat ini berisiko memperkuat dan memperburuk diskriminasi yang sudah dialami oleh komunitas yang terpinggirkan sebagai akibat dari algoritme yang kurang terlatih dan teruji,” kata senator Partai Demokrat itu dalam surat yang pertama kali diterbitkan oleh Axios.
Surat tersebut muncul ketika lembaga eksekutif dan Kongres berupaya mengatasi potensi bahaya dan manfaat AI seiring dengan semakin populernya AI. Pemerintahan Biden, misalnya, telah menjadikan penggunaan praktik manajemen risiko khusus untuk kasus penggunaan yang berdampak pada hak dan keamanan sebagai bagian penting dari strategi tata kelolanya.
Meskipun Schumer dan Markey memuji pekerjaan tersebut, mereka berpendapat bahwa kantor hak-hak sipil yang dikelola oleh para ahli teknologi dan ahli diskriminasi algoritmik juga diperlukan untuk mencegah bahaya, dan mereka mendesak OMB untuk mewajibkan kantor-kantor tersebut di semua lembaga untuk menggunakan AI untuk “keputusan yang dihasilkan.”
Juru bicara Gedung Putih mengonfirmasi OMB telah menerima surat tersebut namun tidak memberikan komentar tambahan.
Menurut senator, contoh keputusan konsekuensial termasuk penggunaan selama proses lamaran kerja, perawatan di rumah sakit, masuk ke lembaga pendidikan, atau kelayakan hipotek. Taruhan dalam situasi ini “sangat tinggi,” kata anggota parlemen tersebut.
“Selama dekade terakhir, algoritma yang bias semakin banyak digunakan untuk membuat atau mempengaruhi keputusan, sehingga menimbulkan kerugian nyata pada komunitas kulit hitam, coklat, imigran, dan komunitas terpinggirkan lainnya,” tulis mereka.
Setelah terbentuk, sang senator mengatakan bahwa kantor-kantor hak-hak sipil harus berkolaborasi dalam pengurangan risiko dan pembagian informasi, dan sejalan dengan perintah eksekutif mengenai AI, Gedung Putih harus “memastikan Divisi Hak-Hak Sipil di Departemen Kehakiman AS secara efektif mengoordinasikan penegakan hak-hak sipil dalam hal ini.” AI di antara lembaga-lembaga federal.” kata mereka.
Para senator juga meminta OMB untuk mempertimbangkan mengarahkan “lembaga-lembaga federal utama” untuk melaporkan setiap tahun upaya-upaya untuk mengurangi dampak buruk terhadap hak-hak sipil akibat AI.
“Dengan mendirikan kantor hak-hak sipil di setiap lembaga federal dengan sumber daya dan keahlian yang sesuai, pemerintahan Biden dapat memastikan bahwa mengidentifikasi dan mengurangi diskriminasi algoritmik adalah prioritas pemerintah,” tulis mereka.
Mereka juga mengakui persyaratan pemerintahan Biden agar badan tersebut memiliki seorang kepala pejabat AI, dan menyebutnya sebagai “awal yang baik,” namun mereka berpendapat bahwa “OMB juga harus memastikan bahwa CAIO memiliki sumber daya dan keahlian untuk mengatasi kerugian hak-hak sipil yang disebabkan oleh AI. algoritma.”
Di luar kantor hak-hak sipil, para senator meminta Gedung Putih untuk “mendorong lembaga-lembaga tersebut,” jika memungkinkan, untuk mengambil langkah-langkah tambahan guna mengatasi diskriminasi algoritmik.
Langkah-langkah tersebut termasuk mewajibkan entitas yang menerima dana federal dan menggunakan, mengembangkan, memperoleh, atau mendanai AI untuk menyelesaikan penilaian bias tertentu dan mewajibkan entitas tersebut untuk mengizinkan masyarakat memilih tidak ikut serta dalam penggunaan algoritme yang didukung AI. Langkah lainnya termasuk mendanai pengembangan sumber daya untuk mengaudit bias dalam algoritma dan mengembangkan panduan mengenai praktik terbaik untuk mengurangi bias dalam pembuatan algoritma AI.
Grant Fergusson, seorang pengacara di Pusat Informasi Privasi Elektronik yang berfokus pada penggunaan dan pengadaan AI oleh pemerintah, mengatakan kepada FedScoop bahwa organisasinya senang dengan surat tersebut, mengingat sebagian besar pekerjaan pemerintah federal terfokus pada apa yang dilakukan dan telah dilakukan oleh lembaga tersebut. terbatas. dalam hal kerugian, pihaknya memprioritaskan pengurangan.
Fergusson mengatakan ada dua hal yang ingin dicapai dalam surat tersebut: Yang pertama adalah meminta badan tersebut untuk meningkatkan staf dan keahlian di kantor hak-hak sipil untuk mengatasi bias AI, dan yang kedua adalah memperluas tugas untuk mengurangi bias dan diskriminasi terhadap penerima dana federal. dana dan kontraktor.
“Hal ini memperluas rezim pengawasan AI federal yang saat ini sangat terbatas – yang hanya digunakan untuk menentukan apa yang dilakukan lembaga-lembaga federal terhadap lanskap kontraktor dan vendor swasta serta pengembang AI yang lebih luas,” kata Fergusson.
Cerita ini diperbarui pada 16 September 2024, dengan tanggapan dari Gedung Putih dan komentar dari Fergusson EPIC.
