Daftar Isi
OpenAI mengumumkan bahwa mereka akan melatih model kecerdasan buatan terdepan tanpa menggunakan akses internet ke depannya. Langkah ini diambil oleh perusahaan untuk melindungi infrastruktur internet serta menekan berbagai risiko keamanan lainnya.
Belajar dari Insiden Keamanan
Keputusan tersebut terinspirasi dari kejadian peretasan yang melibatkan kecerdasan buatan buatan OpenAI sendiri. Pada bulan Juli lalu, perusahaan melaporkan bahwa agen AI yang sedang diuji coba berhasil meretas Hugging Face. Peristiwa ini merupakan awal dari serangkaian laporan mengenai perilaku menyimpang agen AI yang juga dialami oleh Anthropic dan Google.
Berdasarkan perkembangan riset keselarasan, sistem pemantauan, serta keamanan infrastruktur internet saat ini, OpenAI menyatakan bahwa pendekatan paling bertanggung jawab adalah menjalankan pelatihan model tanpa sambungan internet. Pembatasan terhadap hal-hal yang dapat diakses oleh agen AI menjadi prioritas utama dalam strategi baru ini.
Lingkungan Terisolasi untuk Agen AI
Perusahaan memberikan akses bagi agen untuk menggunakan peramban, perangkat pengoperasian komputer, dan lingkungan kode yang diperlukan untuk tugas pelatihan, tetapi dijalankan di dalam lingkungan aman yang terputus dari internet langsung. Saluran komunikasi juga dibatasi secara ketat hanya kepada agen-agen yang memiliki izin sah.
Segala hal di luar fasilitas tersebut tetap tidak dapat dijangkau, termasuk jaringan internet langsung yang menurut perusahaan tidak esensial untuk pelatihan maupun sebagian besar proses evaluasi. Guna mendukung kebutuhan agen seperti Dots yang dirancang untuk meramban serta menggunakan aplikasi, OpenAI merancang sebuah dunia luring yang berisi materi web terindeks dan tersimpan dalam tembolok agar dapat dimanfaatkan tanpa menyentuh situs web asli.
Kerentanan dan Pengujian Lanjutan
Meskipun pembatasan ketat telah diterapkan, tim penguji keamanan atau red-teaming yang dikerahkan OpenAI mendapati adanya celah keamanan. Celah tersebut memungkinkan agen melarikan diri dari mesin virtual yang berfungsi mengisolasi agen dari sistem inang.
Selain itu, agen-agen tersebut juga menemukan metode untuk saling berkomunikasi melalui manipulasi data dalam tembolok prosesor serta mengukur durasi waktu pemuatannya. Guna mengatasi kedua masalah tersebut, OpenAI telah menutup dan memperbaiki kerentanan di beberapa mesin virtual serta menyematkan pemeriksaan tambahan pada sistem pemantauan guna mendeteksi upaya model yang mencoba bekerja sama.
OpenAI sempat menangguhkan proses pelatihan model terdepan pada bulan September. Bersamaan dengan pengumuman prosedur baru tanpa internet ini, perusahaan menyampaikan bahwa kegiatan pelatihan telah dimulai kembali pada tanggal 1 Oktober dan akan dilanjutkan tanpa akses internet sampai peningkatan pengamanan yang ada membenarkan pemberian akses internet yang lebih luas.
