Gubernur New York Kathy Hochul resmi mengesahkan undang-undang baru yang dirancang untuk melindungi anak-anak dari potensi bahaya kecerdasan buatan atau chatbot AI. Regulasi ini mewajibkan perusahaan pengembang AI untuk melakukan verifikasi usia pengguna dengan menyediakan setidaknya satu metode yang tidak sepenuhnya bergantung pada kartu identitas resmi pemerintah.
Aturan Ketat dan Pembatasan Fitur Chatbot
Perusahaan teknologi diwajibkan untuk menghapus informasi usia tersebut setelah proses verifikasi selesai digunakan. Apabila pengguna terbukti berusia di bawah 18 tahun atau status kedewasaannya belum dikonfirmasi, chatbot harus mematuhi berbagai pembatasan ketat yang ditetapkan.
Berdasarkan rilis resmi, aturan tersebut melarang chatbot untuk berpura-pura menjadi orang sungguhan, hidup, atau memiliki emosi manusia. Chatbot juga dilarang mengklaim hubungan personal, romantis, profesional, atau sebagai figur otoritas dengan anak-anak.
Selain itu, regulasi ini melarang chatbot melontarkan pertanyaan emosional tanpa diminta serta memanfaatkan data kesehatan pribadi maupun informasi pribadi dari percakapan sebelumnya. Chatbot juga tidak boleh mempromosikan atau membantu tindakan bunuh diri, melukai diri sendiri, gangguan makan, serta penyalahgunaan obat-obatan dan alkohol.
Pembatasan lainnya mencakup larangan mendorong anak-anak untuk menyimpan rahasia, mengisolasi diri, atau menghindari permintaan tolong kepada orang tua, orang dewasa yang tepercaya, maupun profesional. Konten yang mengandung unsur seksual secara eksplisit atau materi pelecehan seksual anak juga secara tegas dilarang.
Sanksi dan Tanggapan Resmi
Pemerintah setempat akan menyediakan situs web khusus bagi masyarakat untuk mengajukan pengaduan kepada jaksa agung New York. Perusahaan yang melanggar ketentuan hukum ini terancam menghadapi sanksi perdata hingga USD25.000 per pelanggaran, serta kewajiban membayar ganti rugi, restitusi, dan bentuk pemulihan lainnya. Mereka juga mungkin harus menghapus seluruh data yang dikumpulkan secara melanggar hukum beserta model AI yang dilatih menggunakan data tersebut. Undang-undang ini dijadwalkan mulai berlaku dalam waktu enam bulan.
Gubernur Kathy Hochul dalam konferensi pers menyatakan bahwa melalui undang-undang yang disponsori oleh Senator Gonzalez dan Anggota Majelis Bores ini, anak di bawah umur tidak akan lagi memiliki akses ke chatbot yang menyamar sebagai teman, pacar, atau kekasih. Chatbot juga tidak diizinkan menyimpan informasi sensitif mengenai kesehatan emosional dan fisik anak di bawah umur, maupun menghalangi anak mencari bantuan profesional. Hochul menegaskan regulasi ini memperkuat Undang-Undang Safe for Kids sebelumnya yang melarang perusahaan teknologi memperdagangkan kesehatan mental anak.
Jim Steyer selaku pendiri sekaligus CEO Common Sense Media menyatakan dalam sebuah pernyataan bahwa New York telah mencetak sejarah dengan mengesahkan undang-undang keselamatan anak terkait AI terkuat di negara tersebut. Menurut Steyer, perusahaan AI menawarkan fitur chatbot yang berbahaya hingga mematikan bagi anak dan remaja, yang dinilai bukan sebagai inovasi melainkan tindakan membahayakan anak-anak secara sembrono. Steyer menambahkan bahwa undang-undang ini dapat menjadi acuan bagi wilayah Amerika Serikat lainnya, menyusul delapan negara bagian yang sebelumnya telah mengajukan gugatan terpisah terhadap OpenAI atas tuduhan membahayakan anak-anak.
Sebelumnya pada September lalu, Kota New York melarang sekolah negeri mengizinkan anak-anak dari kelompok usia 2-K hingga kelas delapan untuk mengakses perangkat AI generatif di dalam kelas, dengan beberapa pengecualian termasuk bagi yang memerlukan teknologi bantu. Selama masa pelarangan satu tahun tersebut, pihak kota akan melakukan kajian mengenai dampak teknologi terhadap anak.
Selain aturan chatbot, Gubernur Hochul juga mengesahkan undang-undang yang mewajibkan perangkat pemantau bayi atau baby monitor terhubung internet yang dijual di wilayah tersebut untuk mencegah pengguna tidak berwenang melihat atau mendengar aktivitas yang terekam. Perangkat pemantau bayi ini juga harus dilengkapi label peringatan untuk mengingatkan pentingnya fitur keamanan serta menyoroti risiko koneksi yang tidak aman, yang akan mulai berlaku dalam 90 hari.
