Pencarian informasi kesehatan secara daring kerap menjadi kebiasaan sehari-hari, namun tindakan tersebut menyimpan risiko besar. Pada bulan Februari, setelah dua hari tidak mendapat kabar dari putri mereka yang berusia 31 tahun, orang tua Bowen Wan di Seattle meminta seorang teman lokal untuk memeriksa keadaannya. Melalui panggilan video langsung, sang teman memasuki apartemen dan menemukan Wan sudah meninggal dunia di atas tempat tidurnya, yang kemudian diputuskan sebagai akibat kematian mendadak tanpa sebab yang jelas akibat epilepsi.
Gugatan Hukum Terhadap OpenAI
Kini, keluarganya menuntut OpenAI atas kematian tersebut karena chatbot perusahaan itu, ChatGPT-4o, diduga membimbing Wan untuk menghentikan pengobatan anti-kejang lamotrigine yang telah menyelamatkan hidupnya selama bertahun-tahun, menurut dokumen gugatan yang diajukan orang tuanya seperti dilaporkan CNET. Gugatan tersebut menyatakan bahwa setelah Wan menyampaikan kekhawatiran tentang efek samping obat, chatbot membantu menyusun rencana untuk mengurangi dosisnya, sebuah tindakan yang tidak direkomendasikan oleh dokter.
Gugatan itu juga mengklaim bahwa pada suatu kesempatan, chatbot mengarahkannya untuk tidak mendiskusikan rencana medis tersebut dengan dokter yang menanganinya. Juru bicara OpenAI, Drew Pusateri, menyatakan kepada CNET bahwa situasi ini sangat menyayat hati dan pihaknya menyampaikan duka kepada semua pihak yang terdampak. Ia menambahkan bahwa perusahaan terus memperkuat cara ChatGPT merespons situasi sensitif serta meningkatkan keterlibatan model terbaru dengan pengguna, meskipun ChatGPT bukan pengganti layanan medis.
Pensiunnya Model ChatGPT-4o
Wan berinteraksi dengan model 4o dari ChatGPT, yang sejak saat itu telah dipensiunkan oleh OpenAI karena kekhawatiran bahwa bot tersebut terlalu mengiyakan pengguna dan berpotensi menimbulkan bahaya. Model chatbot ini juga disebut dalam gugatan terpisah di mana seorang pria asal Florida, Scott Winters, menuduhnya memberikan saran medis berbahaya yang nyaris merenggut nyawanya. Berdasarkan penelitian OpenAI sendiri yang diterbitkan pada bulan Januari, sekitar 60 persen orang dewasa Amerika Serikat beralih ke alat kecerdasan buatan untuk mencari informasi kesehatan dalam kurun waktu tiga bulan sebelumnya.
