Di balik laporan keuangan terbaru yang diungkapkan Anthropic dalam dokumen S-1A revisi pada Senin (15/10), perusahaan kecerdasan buatan tersebut menyampaikan peringatan penting dalam catatan kecilnya. Pengajuan dokumen tersebut mengisyaratkan bahwa perusahaan berada di ambang menciptakan model yang mampu melakukan perbaikan diri secara rekursif atau recursive self-improvement (RSI).
Definisi dan Pandangan tentang RSI
RSI merupakan titik di mana kecerdasan buatan menjadi sangat mahir dalam melatih dirinya sendiri sehingga memicu akselerasi dramatis dalam kemampuan AI. Bagi pihak yang khawatir terhadap dampak buruk AI, RSI merepresentasikan titik balik tanpa arah kembali, di mana AI membangun dirinya menjadi entitas yang sangat kuat hingga lepas dari kendali manusia. Sementara itu, bagi para pendukung teknologi, RSI dipandang sebagai janji produktivitas yang luar biasa serta penemuan ilmiah yang masif.
Anthropic menilai RSI memuat potensi harapan sekaligus ancaman bahaya. Perusahaan menyatakan dalam dokumen S-1 bahwa mereka memang menggunakan AI dalam kegiatan riset dan pengembangan, namun memberikan catatan bahwa tindakan tersebut dapat mendatangkan risiko keselamatan yang besar apabila mempercepat kemajuan teknologi secara drastis.
Pernyataan Risiko dalam Dokumen
Dalam bagian Faktor Risiko di dokumen pengajuan tersebut, Anthropic menyatakan bahwa mereka telah menggunakan sistem AI untuk mengembangkan model baru yang peningkatan kemampuannya tidak disadari saat itu. Selain itu, perusahaan memperkirakan akan segera memenuhi definisi internal mereka mengenai kemajuan yang dipercepat secara dramatis akibat AI.
Meskipun demikian, seperti dilansir TechCrunch, Anthropic menegaskan bahwa belum ada model mereka yang melewati ambang batas RSI tersebut. Perusahaan juga berjanji untuk tetap melibatkan manusia dalam proses riset dan pengembangan untuk masa mendatang yang dapat diperkirakan.
