Gubernur California Gavin Newsom telah memveto rancangan undang-undang yang akan memaksa penyedia model dasar atau “perbatasan” seperti OpenAI untuk menguji dan mengaudit perangkat lunak mereka, bertanggung jawab atas kerugian yang disebabkan oleh model mereka dan menciptakan “tombol mematikan” yang akan menghentikan model segera bekerja.
Sebaliknya, Newsom mengatakan dia telah menandatangani 17 RUU selama 30 hari terakhir yang mencakup penggunaan dan regulasi teknologi AI generatif.
“Ini semua merupakan tindakan penyeimbang bagi Gubernur Newsom,” kata John Cunningham, mitra kepatuhan dan investigasi perusahaan di Dickinson Wright, dalam sebuah wawancara. “Persoalannya adalah masalah biaya-manfaat dan keseimbangan antara inovasi berkelanjutan dalam AI dan pengawasan peraturan yang wajar. Jika kita dapat melakukan kontrol yang wajar terhadap apa yang kita lakukan dengan AI, hal ini akan berdampak baik bagi semua orang.”
California adalah salah satu dari beberapa negara bagian yang mencoba membatasi AI yang canggih karena tidak adanya undang-undang negara bagian. California, Pennsylvania, Massachusetts, New Jersey, dan District of Columbia telah menerapkan undang-undang AI selama beberapa waktu. Lima negara bagian lainnya – Colorado, Illinois, Maryland, New York dan Utah – memberlakukan undang-undang AI tahun ini, menurut a
Undang-undang AI nasional telah diajukan di Kongres AS. Misalnya, sebuah
RUU yang diveto
Inovasi Aman dan Terjamin untuk Model Kecerdasan Buatan Frontier, atau SB 1074, akan menjadi undang-undang AI negara bagian yang paling ketat di negara ini. California telah lama dikenal menghasilkan perlindungan konsumen yang ketat. Misalnya, mereka memberlakukan undang-undang perlindungan data yang pertama, yaitu
“California, seperti New York, seringkali menjadi yang terdepan dalam regulasi,” kata Cunningham. “Jadi, banyak orang akan melihat mereka dan berkata, hei, bagaimana kita mulai mengambil alih sisi peraturan di sini sebelum AI bertindak terlalu jauh, dari sudut pandang peraturan? Banyak orang bergantung pada negara bagian seperti California dan New York untuk berpikir lebih maju mengenai hal ini.”
SB 1074 mewajibkan pengembang model kecerdasan buatan berskala besar, seperti OpenAI, Anthropic, Google, dan Meta, untuk menerapkan perlindungan dan kebijakan guna menghindari bahaya bencana. Misalnya, mereka perlu menyediakan “tombol mematikan” yang dapat mematikan sistem mereka. Mereka perlu menyiapkan rencana keamanan dan laporan audit. RUU ini juga akan memberikan perlindungan bagi pelapor dan membentuk badan negara yang disebut Dewan Model Perbatasan (Border Model Board) untuk mengawasi pengembangan model-model tersebut.
Banyak perusahaan yang mungkin terkena dampak RUU ini, termasuk OpenAI, Meta, Google, dan Anthropic, yang berbasis di California. Di sebuah
Dalam sebuah pesan yang menjelaskan mengapa dia memveto RUU tersebut, Newsom mengatakan, “Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI digunakan di lingkungan berisiko tinggi, yang melibatkan pengambilan keputusan penting atau penggunaan data sensitif. , rancangan undang-undang yang menerapkan standar ketat bahkan untuk fungsi-fungsi paling dasar sekalipun — selama sistem besar menerapkannya, saya tidak yakin ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.
Newsom juga mengatakan bahwa fokus RUU ini hanya pada model yang paling mahal dan berskala besar dapat memberikan rasa aman yang palsu kepada masyarakat, sementara model yang lebih kecil dan terspesialisasi bisa sama berbahayanya.
Newsom mengatakan proses pemikirannya dalam keputusan ini dipandu oleh beberapa pakar AI, termasuk Fei-Fei Li, profesor ilmu komputer di Universitas Stanford; Tino Cuéllar, anggota Komite National Academy of Sciences mengenai Implikasi Sosial dan Etis Penelitian Komputasi; dan Jennifer Tour Chayes, dekan College of Computing, Data Science and Society di UC Berkeley. Dia telah meminta para penasihat ini untuk membantu mengembangkan pagar yang bertanggung jawab atas penggunaan AI generatif.
Pakar perbankan mengatakan peralihan dari pengaturan penyedia model dasar ke undang-undang yang lebih kecil dan lebih terspesialisasi yang mengatur AI generatif adalah hal yang masuk akal.
“Peraturan yang tertulis terlalu umum dan berisiko mendorong perusahaan-perusahaan inovatif keluar dari California dengan sedikit perlindungan konsumen yang nyata untuk menunjukkan potensi dampak tersebut,” kata Ian Watson, direktur penelitian di Celent. “Mendelegasikan hal ini ke tim ahli yang lebih kecil tidak hanya memberi California lebih banyak waktu untuk memungkinkan terbentuknya konsensus yang lebih nasional, namun juga memberikan kemungkinan untuk menyusun serangkaian peraturan khusus industri yang lebih bertarget yang mengatasi permasalahan signifikan bagi konstituen pembuat kebijakan di negara bagian. “
Beberapa orang berpendapat bahwa fokus RUU California pada risiko eksistensial AI adalah salah arah.
“AI bisa sangat berbahaya, namun saya sangat merasakan bahaya langsungnya adalah terhadap pengguna, melalui praktik predator dan pengawasan, dan terhadap institusi demokrasi kita, melalui informasi yang salah dan pengawasan, dan bukan terhadap kelangsungan hidup manusia,” kata Patrick Hall, asisten profesor di George Universitas Washington.
Masih terlalu dini untuk mengatakan seperti apa undang-undang baru tersebut.
“Pesan Newsom sepertinya dia menginginkan rancangan undang-undang yang lebih ketat dan lebih baik, tapi itu tidak berarti dia akan mendapatkannya,” kata Hall. “Penelitian dan pengalaman saya membuat saya percaya bahwa mengatur kasus penggunaan, dan orang-orang di sekitar kasus penggunaan tersebut – seperti membentuk model chief risk officer – lebih efektif daripada mengatur teknologi secara langsung.”
Hall menyukai beberapa aspek dari RUU California yang diveto, seperti persyaratan tombol pemutus (kill switch).
“Saya telah mendukung hal ini selama bertahun-tahun karena jelas bahwa sistem AI terkadang bisa rusak dan mematikannya dengan cepat adalah pilihan yang baik dalam beberapa kasus,” katanya.
17 RUU California telah disahkan
17 rancangan undang-undang AI yang ditandatangani Newsom bertujuan untuk memerangi pemalsuan mendalam, mewajibkan pemberian tanda air AI, melindungi anak-anak dan pekerja, dan memerangi misinformasi yang dihasilkan oleh AI.
Beberapa digunakan untuk pengembang model dasar dan perusahaan, seperti bank, yang menggunakan model tersebut.
Misalnya, salah satu rancangan undang-undang (AB 1008) mengklarifikasi bahwa Undang-Undang Privasi Konsumen California berlaku untuk informasi identitas pribadi yang disimpan oleh sistem AI. RUU lainnya (AB 1836), melarang siapa pun memproduksi, mendistribusikan, atau menyediakan replika digital dari suara atau rupa orang yang telah meninggal tanpa izin sebelumnya.
Yang ketiga, AB 2013, mengharuskan pengembang AI untuk memposting informasi tentang data yang digunakan untuk melatih sistem atau layanan AI di situs web mereka. Keempat, SB 942, mewajibkan pengembang sistem AI generatif yang dilindungi untuk menyertakan pengungkapan asli dalam konten asli yang dihasilkan oleh sistem mereka dan menyediakan alat untuk mengidentifikasi konten AI generatif yang dihasilkan oleh sistem mereka.
