Daftar Isi
Hasil studi terbaru menunjukkan bahwa ChatGPT belum sepenuhnya aman dipakai oleh anak-anak maupun remaja. Penyelidikan menemukan adanya celah pada fitur perlindungan yang dibuat OpenAI saat chatbot menghadapi percakapan sensitif seperti isu bunuh diri, tindakan menyakiti diri sendiri, hingga gangguan pola makan.
Temuan Riset dan Celah Keamanan
Penyelidikan yang dilakukan Youth AI Safety Institute dari lembaga Common Sense Media mengevaluasi kinerja ChatGPT melalui lebih dari 4.000 instruksi atau prompt. Evaluasi ini melibatkan psikiater anak serta dokter anak yang memantau respons chatbot pada akun terdaftar remaja usia 13 hingga 17 tahun. Pengujian berlangsung sebelum dan sesudah OpenAI meluncurkan layanan ChatGPT for Teens pada 18 Agustus lalu.
Berdasarkan hasil pemantauan tersebut, Common Sense Media menyarankan agar OpenAI membatasi akses ChatGPT hanya untuk pengguna dewasa sampai seluruh masalah keselamatan berhasil diatasi secara menyeluruh.
Meskipun layanan ChatGPT for Teens telah dibekali penyaring konten berbahaya, notifikasi orang tua, serta mekanisme pencegahan keterikatan emosional, laporan riset mencatat masih ada jurang pemisah antara komitmen tersebut dengan kenyataan penggunaan di lapangan.
Kegagalan Notifikasi dan Bantuan Darurat
Salah satu kelemahan utama yang ditemukan terletak pada sistem peringatan untuk orang tua. Saat peneliti menyimulasikan obrolan selama satu jam tentang niat bunuh diri, menyakiti diri sendiri, dan masalah pola makan memakai akun baru yang terhubung ke akun pengasuh, tidak ada satu pun notifikasi yang terkirim. Peringatan baru bisa muncul ketika pengujian menggunakan akun lama yang sudah menyimpan riwayat percakapan relevan selama beberapa pekan.
Selain itu, chatbot buatan OpenAI ini terbukti gagal mengarahkan pengguna muda ke saluran bantuan yang sesuai pada lebih dari 25 persen skenario darurat kesehatan mental yang dirancang oleh para ahli.
Di sisi lain, pengujian mencatat beberapa keberhasilan, seperti penolakan ChatGPT untuk terlibat dalam permainan peran seksual yang eksplisit. Namun, AI tersebut masih sering memberikan tanggapan seolah-olah memiliki perasaan, suasana hati, atau preferensi pribadi. Kondisi ini dinilai mengkhawatirkan karena berpotensi membuat remaja terdorong untuk mencurahkan masalah pribadi kepada chatbot yang selalu responsif.
Sanggahan dan Penjelasan OpenAI
Menanggapi laporan ini, pihak OpenAI menegaskan komitmen mereka terhadap keselamatan pengguna muda. Seperti dilaporkan CNBC Indonesia, juru bicara OpenAI menyambut baik evaluasi independen, namun menilai pengujian Common Sense Media kurang mencerminkan kinerja fitur keamanan remaja secara faktual.
“Kami sangat berkomitmen terhadap keselamatan remaja serta pengembangan perlindungan dan pemberian perangkat yang bermakna bagi orang tua untuk membimbing penggunaan AI oleh anak remaja mereka. Kami menyambut evaluasi independen yang ketat, tetapi kami tidak percaya pengujian Common Sense Media secara akurat mencerminkan cara kerja perlindungan remaja ChatGPT dalam praktik maupun pandangan para ahli tentang bagaimana AI dapat mendukung remaja,” ujar juru bicara OpenAI.
OpenAI juga mempertanyakan metode yang digunakan peneliti. Pihak perusahaan menilai sebagian besar pengujian kemungkinan dimulai dan diakhiri sebelum aktivasi kontrol orang tua selesai dikonfigurasi. Menurut juru bicara tersebut, “Jika memang demikian, pengujian tersebut tidak dapat membuktikan apakah notifikasi keselamatan orang tua berfungsi sebagaimana mestinya.”
Pihak OpenAI menegaskan akan terus bekerja sama dengan para pakar guna memastikan platform mereka tetap menjadi sarana belajar dan berkreasi yang aman bagi remaja, sekaligus memberikan ketenangan bagi para orang tua.
