OpenAI memperketat pembatasan informasi terkait senjata bagi remaja pengguna ChatGPT, meskipun pertanyaan yang diajukan terlihat tidak berbahaya. Langkah ini diumumkan oleh perusahaan dalam sebuah unggahan terbaru yang bertujuan untuk mempersempit celah akses informasi berbahaya.
Peningkatan Batasan untuk Remaja dan Pengguna Umum
OpenAI sebenarnya telah memiliki kebijakan untuk mencegah ChatGPT membantu tindakan kekerasan atau membantu remaja mendapatkan senjata. Guna memperkuat pencegahan tersebut, perusahaan akan membatasi informasi praktis mengenai senjata serta sistem keamanan yang berpotensi disalahgunakan untuk memfasilitasi kekerasan, tanpa memandang apakah ada indikasi niat buruk atau tidak dari pengguna remaja.
Meski demikian, remaja tetap diizinkan menggunakan ChatGPT untuk kepentingan pencegahan atau peredaan kekerasan, mencari dukungan, serta terhubung dengan orang dewasa yang dapat dipercaya. Tidak hanya menyasar kelompok remaja, OpenAI juga memperketat batasan kebijakan untuk seluruh pengguna. Kebijakan ini khususnya diberlakukan saat ada permintaan informasi mengenai rekonstruksi serangan massal di masa lalu, yang mencakup rincian senjata dan perlengkapan yang digunakan serta cara mendapatkannya. Perbandingan mendetail mengenai skala bahaya yang dapat mendongkrak popularitas pelaku penyerangan juga akan dibatasi.
Integrasi Kontrol Orang Tua dan Rencana Laporan Keselamatan
Aturan pembatasan baru ini akan berjalan berdampingan dengan fitur kontrol orang tua yang diluncurkan OpenAI pada tahun lalu. Fitur tersebut berfungsi mengirimkan pemberitahuan kepada orang tua jika akun remaja yang terhubung melanggar kebijakan ChatGPT terkait ancaman kekerasan atau tindakan kekerasan.
Penguatan pengamanan ini muncul menyusul gugatan kematian salah sasaran yang dihadapi OpenAI tahun lalu, serta permintaan maaf publik oleh CEO OpenAI, Sam Altman, karena gagal melaporkan catatan obrolan yang mencemaskan kepada pihak kepolisian terkait penembakan Tumbler Ridge awal tahun ini. Sebagai langkah lanjutan, OpenAI berencana menerbitkan Laporan Keselamatan Komunitas pertamanya pada awal 2027, yang kemudian akan diperbarui secara berkala setiap enam bulan sekali.
