Daftar Isi
Untuk pertama kalinya, agen kecerdasan buatan atau AI merencanakan operasi terapi gen, menetapkan titik sasaran di otak, dan menjalankan prosedur pembedahan pada hewan hidup tanpa keputusan apa pun dari manusia. Meskipun demikian, sistem tersebut menolak melanjutkan pekerjaan di tengah proses karena mendeteksi kesalahan kalibrasi, seperti dilaporkan CNBC Indonesia pada Senin (2/11/2026).
Proses Perencanaan dan Eksekusi Pembedahan oleh AI
Peneliti dari startup Exin Therapeutics bersama Universitas Oxford memberikan daftar 19 pilihan terapi gen kepada agen AI yang beroperasi menggunakan model Claude Sonnet 5 buatan Anthropic. Mereka juga memberikan akses terhadap perangkat bedah yang dikendalikan oleh mesin dengan satu perintah utama, yaitu mengurangi serangan kejang pada tikus laboratorium.
Sistem AI tersebut kemudian menganalisis sumber epilepsi, memilih jenis terapi yang paling sesuai, menentukan area otak yang perlu disuntik, serta menghitung koordinat titik penyuntikan berdasarkan data dari tiga makalah ilmiah yang berbeda. Tanpa campur tangan manusia, sistem ini juga menetapkan dosis obat, kecepatan penyuntikan, serta jeda waktu yang dibutuhkan.
Sebelumnya teknologi robot bedah memang sudah tersedia, namun manusia selalu memegang kendali penuh dalam menentukan tindakan. Dalam peristiwa ini, AI bertindak sebagai pihak yang memilih sekaligus mengeksekusi tindakan tersebut.
Kendala Teknis dan Respons Sistem
Prosedur dimulai dengan sistem yang memantau area operasi melalui kamera, melaporkan jalannya penyuntikan, serta memastikan tidak ada pendarahan yang terjadi. Manusia hanya melakukan tindakan crainotomy, yakni prosedur bedah untuk membuka tengkorak guna memberikan akses langsung ke bagian otak.
Di tengah prosedur, koneksi sempat terputus sesaat. Selepas tersambung kembali, AI menemukan bahwa posisi sasaran yang telah dihitung berada di luar jangkauan gerak alat fisik.
Walaupun para peneliti berupaya melakukan penyesuaian ulang pada kalibrasi, sistem tetap menolak melanjutkan tugas karena tidak mau melampaui batas keselamatan yang sudah ditetapkan. Tim peneliti bahkan gagal membujuk sistem meskipun hewan uji coba tersebut sudah berada di dalam kondisi dibius di atas meja operasi, sehingga mereka terpaksa memperbaiki kode sistem secara manual agar prosedur dapat diselesaikan.
Perbandingan Model AI dan Refleksi Peneliti
Kejadian ini juga menunjukkan bahwa model AI yang lebih canggih, yakni Claude Opus 5.5 dan Opus 5, justru menolak melakukan prosedur tersebut sejak awal. Kedua model itu menyatakan ketidakmampuan menjamin penyelesaian operasi, serta menilai bahwa berhenti di tengah jalan dengan jarum yang masih tertanam di otak hewan jauh lebih berbahaya daripada tidak memulainya sama sekali. Hanya model Claude Sonnet 5 yang bersedia menjalankan tugas dari awal sampai akhir.
Tikus tersebut pada akhirnya dapat pulih dengan baik setelah seluruh prosedur selesai dilaksanakan. Kendati demikian, pengalaman ini memicu pertanyaan mendasar mengenai situasi ketika sistem AI diberi kewenangan penuh dan mengambil keputusan yang berbeda dari keinginan manusia.
“Ini pengalaman yang membuat frustrasi sekaligus membuka mata. Kita belum sepenuhnya memahami sejauh mana kita akan bergantung pada sistem semacam ini, dan apa yang terjadi ketika mereka berkata ‘tidak’ di saat yang paling mendesak,” tulis Gabriel Ocana-Santero, kepada Decoder.
