Anthropic mengusulkan aturan keselamatan artificial intelligence yang memungkinkan pemerintah Amerika Serikat menghentikan perilisan model jika menimbulkan ancaman serius. Berdasarkan laporan Liputan6.com, proposal ini menetapkan ambang risiko berupa potensi kerugian lebih dari USD 1 miliar atau sekitar Rp 18 triliun, atau kematian maupun cedera serius terhadap lebih dari 50 orang.
Mekanisme dan Batasan Risiko
Seperti dilaporkan Liputan6.com dari Mashable pada Jumat (23/10/2026), media AS Politico memperoleh draf rahasia berisi usulan aturan keselamatan AI tersebut dari perusahaan pengembang Claude. Anthropic telah menawarkan proposalnya kepada para pembuat kebijakan di AS, di mana dokumen itu menyebutkan pemerintah hanya dapat menghentikan perilisan model AI jika muncul risiko yang bisa diperkirakan dan segera terjadi.
Risiko yang dimaksud dibatasi pada tiga skenario utama, yakni serangan siber, model yang berhasil lepas dari kendali pengembangnya, serta pembuatan atau pelepasan senjata biologis. Dengan ketentuan ini, tidak semua kesalahan atau kegagalan sistem AI otomatis menjadi alasan untuk menghentikan perilisan model.
Evaluasi dan Kewenangan Hukum
Rancangan tersebut mengatur bahwa evaluator independen akan memeriksa laboratorium AI dan model yang dikembangkannya secara berkala untuk menemukan ancaman yang masuk dalam kategori berbahaya. Jika menemukan risiko mendesak yang memenuhi kriteria, evaluator wajib melapor kepada Departemen Perdagangan AS dalam waktu 72 jam untuk kemudian menentukan apakah perlu meminta hakim menghentikan perilisan model AI.
Kewenangan menghentikan model hanya diberikan kepada hakim federal di Washington, D.C., dan rancangan tersebut melarang departemen, lembaga, atau pejabat pemerintah lainnya menangguhkan model AI secara sepihak. Meski demikian, mekanisme evaluasi independen masih menyisakan pertanyaan mengenai konflik kepentingan karena evaluator diperbolehkan menerima pembayaran dari perusahaan AI yang mereka periksa, selama pembayaran tersebut tidak memengaruhi hasil penilaian.
Ketentuan mengenai pendanaan evaluator serta ambang batas risiko menjadi sorotan dalam proposal ini. Berdasarkan ketentuan tersebut, kerugian sebesar USD 999.999.999 atau kematian 49 orang tidak akan memicu proses penghentian model berdasarkan ambang yang ditetapkan, dan rancangan Anthropic ini dikatakan memiliki kemiripan dengan regulasi AI di California.
Sumber: Liputan6.com Game
