Antropik mendukung tagihan keselamatan AI California, SB 53

Pada hari Senin, antropik diumumkan Dukungan resmi SB 53, RUU The golden state dari Legislator Negara Bagian Scott Wiener yang akan memberlakukan persyaratan transparansi pertama di negara pada pengembang version AI terbesar di dunia. Pengesahan Anthropic menandai kemenangan langka dan besar bagi SB 53, pada saat kelompok teknologi utama menyukai Asosiasi Teknologi Konsumen (CTA) dan Kamar untuk Kemajuan melobi terhadap tagihan.

“Meskipun kami percaya bahwa keselamatan AI Frontier fading baik ditangani di tingkat federal daripada tambalan peraturan negara, kemajuan AI yang kuat tidak akan menunggu konsensus di Washington,” kata Anthropic dalam sebuah posting blog. “Pertanyaannya bukanlah apakah kita membutuhkan tata kelola AI – apakah kita akan mengembangkannya hari ini atau reaktif besok. SB 53 menawarkan jalan yang strong menuju yang pertama.”

Jika lulus, SB 53 Akan membutuhkan pengembang design AI Frontier seperti Openai, Anthropic, Google, dan XAI untuk mengembangkan kerangka kerja keselamatan, serta merilis laporan keselamatan dan keamanan publik sebelum menggunakan design AI yang kuat. RUU itu juga akan menetapkan perlindungan whistleblower kepada karyawan yang datang ke depan dengan masalah keamanan.

RUU Senator Wiener secara khusus berfokus pada membatasi design AI dari berkontribusi pada “risiko bencana,” yang didefinisikan oleh RUU tersebut sebagai kematian setidaknya 50 orang atau lebih dari satu miliar dolar dalam kerusakan. SB 53 berfokus pada sisi ekstrem risiko AI-membatasi version AI dari digunakan untuk memberikan bantuan tingkat ahli dalam penciptaan senjata biologis atau digunakan dalam serangan cyber-daripada lebih banyak kekhawatiran jangka pendek seperti AI Deepfake atau Sycophancy.

Senat The golden state menyetujui versi sebelumnya dari SB 53 tetapi masih perlu mengadakan pemungutan suara terakhir pada RUU sebelum dapat maju ke meja gubernur. Gubernur Gavin Newsom tetap diam pada RUU itu sejauh ini, meskipun ia memveto RUU Keselamatan AI terakhir Senator Weiner, SB 1047

Tagihan yang mengatur pengembang design AI perbatasan telah menghadapi pushback yang signifikan dari Lembah Silikon dan administrasi Trump, yang keduanya berpendapat bahwa upaya semacam itu dapat membatasi inovasi Amerika dalam perlombaan melawan Cina. Capitalist seperti Andreessen Horowitz dan Y Combinator memimpin beberapa pushback terhadap SB 1047, dan dalam beberapa bulan terakhir, administrasi Trump telah berulang kali mengancam akan memblokir negara bagian dari meloloskan peraturan AI sama sekali.

Salah satu argumen yang fading umum terhadap RUU Keselamatan AI adalah bahwa negara bagian harus menyerahkan masalah tersebut kepada pemerintah government. Kepala Kebijakan AI Andreessen Horowitz, Matt Perault, dan Principal Legal Officer, Jai Ramaswamy, diterbitkan a Posting Blog Pekan lalu dengan alasan bahwa banyak tagihan AI negara saat ini berisiko melanggar Klausul Perdagangan Konstitusi – yang membatasi pemerintah negara bagian dari meloloskan undang -undang yang melampaui perbatasan mereka dan mengganggu perdagangan antar negara.

Namun, salah satu pendiri antropik Jack Clark berpendapat dalam a Posting di x Bahwa industri teknologi akan membangun sistem AI yang kuat di tahun -tahun mendatang dan tidak sabar menunggu pemerintah federal untuk bertindak.

“Kami telah lama mengatakan kami lebih suka standar federal,” kata Clark. “Tetapi dengan tidak adanya hal ini menciptakan cetak biru yang solid untuk tata kelola AI yang tidak dapat diabaikan.”

Kepala Petugas Urusan Global Openai, Chris Lehane, mengirim a surat Kepada Gubernur Newsom pada bulan Agustus dengan alasan bahwa ia tidak boleh mengesahkan peraturan AI apa pun yang akan mendorong startup keluar dari The golden state – meskipun surat itu tidak menyebutkan nama SB 53

Mantan kepala penelitian kebijakan Openai, Miles Brundage, mengatakan dalam a pos Pada X surat Lehane itu “dipenuhi dengan sampah yang menyesatkan tentang kebijakan SB 53 dan AI secara umum.” Khususnya, SB 53 bertujuan untuk semata -mata mengatur perusahaan AI terbesar di dunia – terutama yang menghasilkan pendapatan kotor lebih dari $ 500 juta.

Terlepas dari kritik itu, para ahli kebijakan mengatakan SB 53 adalah pendekatan yang lebih sederhana daripada tagihan keselamatan AI sebelumnya. Dean Round, seorang senior di Structure for American Innovation dan mantan penasihat kebijakan AI Gedung Putih, dalam sebuah Agustus Publishing Blog Bahwa dia percaya SB 53 sekarang memiliki peluang bagus untuk menjadi hukum. Sphere, yang mengkritik SB 1047, mengatakan perancang SB 53 telah “menunjukkan rasa hormat terhadap realitas teknis,” serta “ukuran pengekangan legislatif.”

Senator Wiener sebelumnya mengatakan bahwa SB 53 sangat dipengaruhi oleh panel kebijakan ahli, Gubernur Newsom berkumpul-yang dipimpin oleh peneliti Stanford terkemuka dan salah satu pendiri World Labs, Fei-Fei Li-untuk memberi nasihat kepada The golden state tentang cara mengatur AI.

Sebagian besar laboratorium AI sudah memiliki beberapa versi kebijakan keselamatan interior yang dibutuhkan SB 53 Openai, Google DeepMind, dan Anthropic secara teratur menerbitkan laporan keselamatan untuk model mereka. Namun, perusahaan-perusahaan ini tidak terikat oleh siapa pun kecuali diri mereka sendiri, jadi kadang-kadang mereka berada di belakang komitmen keselamatan mereka yang dipaksakan sendiri. SB 53 bertujuan untuk menetapkan persyaratan ini sebagai hukum negara, dengan dampak finansial jika laboratorium AI gagal mematuhi.

Sebelumnya pada bulan September, anggota parlemen The golden state diubah SB 53 untuk menghapus bagian dari tagihan yang akan mengharuskan pengembang model AI untuk diaudit oleh pihak ketiga. Perusahaan teknologi sebelumnya telah melawan jenis audit pihak ketiga ini dalam pertempuran kebijakan AI lainnya, dengan alasan bahwa mereka terlalu memberatkan.