Perusahaan kecerdasan buatan Anthropic tengah merancang sistem open-source yang berfungsi untuk memverifikasi model AI mana yang menghasilkan keluaran tertentu, berdasarkan unggahan blog yang dirilis pada Selasa.
Mengenal Sistem FlashProve
Sistem tersebut dinamai FlashProve dan dirancang untuk menghadirkan apa yang disebut para peneliti sebagai inferensi yang dapat dibuktikan atau provable inference. Teknologi ini menyediakan bukti kriptografis berupa jaminan matematis bahwa suatu keluaran benar-benar berasal dari model tertentu. Tujuannya adalah membiarkan pengguna memastikan jawaban yang diterima memang bersumber dari model yang mereka yakini.
Menurut laporan TechCrunch, mekanisme ini bekerja mirip tanda tangan surel kriptografis yang memungkinkan penerima memastikan pesan benar-benar dari pengirim aslinya. FlashProve diklaim tahan terhadap pihak peniru yang mencoba menyamar menjadi model lain, termasuk pihak laboratorium pembuat model itu sendiri. Peneliti menjelaskan sistem ini dapat mencegah perusahaan AI mengganti model murah secara diam-diam demi menekan biaya atau memakai model mahal untuk mendongkrak hasil performa.
Selain itu, FlashProve dapat dimanfaatkan guna memverifikasi klaim pihak ketiga mengenai suatu tugas yang diselesaikan model tingkat lanjut. Para peneliti menuliskan bahwa seorang pengembang bisa mengeklaim perangkat lunaknya telah dipindai dari celah kerentanan oleh model keamanan siber terdepan, atau sebuah perusahaan menyatakan rencana bisnisnya telah disetujui oleh model yang sesuai.
Cara Kerja dan Ketersediaan Kode
Agar sistem ini berfungsi, laboratorium AI harus mempublikasikan sidik jari dari setiap model yang dirilis agar bisa dicocokkan dengan keluaran spesifik serta diverifikasi secara kriptografis. Sidik jari tersebut dipastikan tidak membocorkan bobot model, yaitu angka internal yang menentukan perilaku model yang selama ini dirahasiakan oleh pengembang model tertutup seperti Anthropic dan OpenAI. Dengan demikian, laboratorium tetap bisa merilis sidik jari tanpa mengorbankan aset berharga mereka sehingga sistem ini dapat diterapkan pada model komersial. Sistem ini juga dirancang ringan agar proses verifikasi dapat berjalan pada perangkat lokal.
Seiring pengumuman tersebut, para peneliti merilis spesifikasi teknis terperinci beserta kode kerja untuk berbagai elemen sistem yang dapat diakses secara publik dengan lisensi open-source melalui GitHub. Riset terkait sistem ini masih berjalan dan belum ada rencana penerapan di Anthropic maupun laboratorium lain.
Para peneliti mengungkapkan dalam unggahan pengumuman bahwa riset tersebut dibagikan untuk menunjukkan progres sementara dan belum menjadi agenda penelitian yang rampung. Mereka membagikannya secara terbuka agar pihak lain dapat meneliti, mengambil, serta menyempurnakan hasil kerja tersebut.
