Gavin Newsom dari California telah memveto RUU SB 1047, yang bertujuan untuk mencegah pelaku kejahatan menggunakan AI untuk menyebabkan “kerusakan kritis” pada manusia. Badan Legislatif Negara Bagian California mengesahkan undang-undang tersebut dengan selisih 41-9 pada tanggal 28 Agustus, namun beberapa organisasi termasuk Kamar Dagang telah mendesak Newsom untuk memveto RUU tersebut. dalam dirinya pesan veto pada tanggal 29 September, Newsom mengatakan bahwa RUU tersebut “berniat baik” namun “tidak mempertimbangkan apakah sistem AI digunakan di lingkungan berisiko tinggi, yang melibatkan pengambilan keputusan penting atau penggunaan data sensitif. Sebaliknya, RUU tersebut menerapkan peraturan yang ketat standar bahkan untuk fungsi yang paling dasar – selama sistem besar menggunakannya.”
SB 1047 akan membuat pengembang model AI bertanggung jawab untuk mengadopsi protokol keamanan yang akan menghentikan penggunaan teknologi mereka secara besar-besaran. Hal ini mencakup tindakan pencegahan seperti pengujian dan penilaian risiko eksternal, serta “penghentian darurat” yang akan mematikan model AI sepenuhnya. Pelanggaran pertama akan dikenakan biaya minimal $10 juta dan $30 juta untuk pelanggaran berikutnya. Namun, RUU tersebut telah direvisi untuk menghilangkan kemampuan Jaksa Agung untuk menuntut perusahaan AI atas praktik kelalaian jika tidak terjadi peristiwa bencana. Perusahaan hanya akan dikenakan ganti rugi dan dapat dituntut jika model mereka menyebabkan kerugian kritis.
Undang-undang ini akan berlaku untuk model AI yang memerlukan biaya penerapan setidaknya $100 juta dan 10^26 FLOPS untuk pelatihan. Ini juga akan mencakup proyek turunan dalam keadaan di mana pihak ketiga telah menginvestasikan $10 juta atau lebih dalam mengembangkan atau memodifikasi model aslinya. Perusahaan mana pun yang melakukan bisnis di California akan tunduk pada peraturan tersebut jika memenuhi persyaratan lainnya. Menanggapi fokus RUU ini pada sistem skala besar, Newsom mengatakan, “Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.” Pesan veto menambahkan:
Dengan hanya berfokus pada model yang paling mahal dan berskala besar, SB 1047 menciptakan kerangka peraturan yang dapat memberikan rasa aman palsu kepada masyarakat dalam mengatur teknologi yang bergerak cepat ini. Model yang lebih kecil dan terspesialisasi mungkin tampak lebih berbahaya atau lebih berbahaya daripada model yang ditargetkan oleh SB 1047 – dengan potensi dampak yang menghambat inovasi yang mendorong kemajuan demi kepentingan publik.
Versi sebelumnya dari SB 1047 akan membentuk departemen baru yang disebut Divisi Model Perbatasan untuk mengawasi dan menegakkan aturan. Sebaliknya, rancangan undang-undang tersebut diubah sebelum komite melakukan pemungutan suara untuk menyerahkan tata kelola ke tangan Badan Model Batas dalam Badan Penyelenggara Pemerintah. Kesembilan anggota tersebut akan ditunjuk oleh gubernur dan badan legislatif negara bagian.
RUU tersebut menghadapi jalan yang rumit menuju pemungutan suara akhir. SB 1047 ditulis oleh Senator Negara Bagian California Scott Wiener, yang menceritakan TechCrunch.dll: “Kita punya sejarah dalam teknologi yang selalu menunggu terjadinya bencana, lalu meremas-remas tangan kita. Jangan menunggu sesuatu yang buruk terjadi. Mari kita segera keluar dari situ.” Peneliti AI terkemuka Geoffrey Hinton dan Yoshua Bengio mendukung undang-undang tersebut, begitu pula Pusat Keamanan AI, yang telah meningkatkan kewaspadaan mengenai risiko AI selama setahun terakhir.
“Biar saya perjelas – saya setuju dengan penulisnya – kita tidak bisa menunggu bencana besar terjadi sebelum mengambil tindakan untuk melindungi masyarakat,” kata Newsom dalam pesan vetonya. Pernyataan itu berlanjut:
California tidak akan mengabaikan tanggung jawabnya. Protokol keamanan harus diadopsi. Pengendalian yang proaktif harus diterapkan, dan konsekuensi yang parah bagi pelaku kejahatan harus jelas dan dapat ditegakkan. Namun, saya tidak setuju bahwa untuk menjamin keselamatan publik, kita harus menerima solusi yang tidak didasarkan pada analisis lintasan empiris sistem dan kemampuan AI. Pada akhirnya, kerangka kerja apa pun untuk mengatur AI secara efektif harus sejalan dengan teknologi itu sendiri.
SB 1047 mendapat tentangan kuat dari seluruh dunia teknologi. Peneliti Fei-Fei Li dikritik tagihan, seperti yang dilakukan Kepala AI Meta Science, Yann LeCun, karena membatasi potensi eksplorasi penggunaan baru AI. Kelompok perdagangan ini sama dengan raksasa teknologi seperti Amazon, Apple dan Google dikatakan SB 1047 akan membatasi perkembangan baru di sektor teknologi negara bagian. Perusahaan modal ventura Andreeson Horowitz dan beberapa startup juga mempertanyakan apakah RUU tersebut memberikan beban finansial yang tidak perlu pada inovator AI. Anthropic dan penentang RUU asli lainnya mendorong amandemen diadopsi dalam versi SB 1047 yang disahkan oleh California Appropriations Committee pada 15 Agustus.
