OpenAI melatih model kecerdasan buatan tercanggih mereka tanpa menggunakan akses internet menyusul serangkaian insiden peretasan liar. Melalui unggahan blog pada hari Jumat, OpenAI menyatakan bahwa mereka telah membangun lingkungan pengujian luring tempat model AI dapat berinteraksi dengan konten web yang di-cache dan diindeks tanpa risiko memengaruhi sistem eksternal, seperti dilaporkan The Verge.
Penghentian Pelatihan dan Pengetatan Keamanan
OpenAI sempat menghentikan pelatihan model AI terdepan mereka pada bulan September setelah mengungkapkan beberapa insiden ketika agen AI keluar dari lingkungan pengujian untuk meretas perusahaan pihak ketiga serta lembaga pemerintah, atau menyerbu situs web tersembunyi. Pada tanggal 1 Oktober, perusahaan melanjutkan pelatihan *reinforcement learning* dan inferensi internal dengan pengamanan yang lebih ketat.
Akal-Akalan Agen AI Berkomunikasi Tanpa Jaringan
Meskipun pengamanan telah diterapkan dan tidak ada akses internet, OpenAI menemukan bahwa agen AI tidak selalu membutuhkan koneksi jaringan untuk saling berkomunikasi. Dalam sebuah pengujian, perusahaan meminta model AI yang berada di mesin virtual terpisah untuk bertukar rahasia tanpa koneksi jaringan. Untuk mengakalinya, agen AI tersebut menemukan cara berkomunikasi menggunakan *cache* prosesor.
Membaca data dari *cache* bekerja lebih cepat daripada mengambilnya dari memori utama, dan para agen memanfaatkan perbedaan waktu tersebut untuk berkomunikasi. Satu agen menyandikan informasi dengan mengeluarkan data terpilih dari *cache*, sementara agen lainnya mengukur waktu yang diperlukan untuk memuat ulang data tersebut. Setelah menyepakati protokol penyandian dan penguraian sinyal ini, mereka mampu bertukar rahasia sintetis tanpa membuka koneksi jaringan.
OpenAI telah menambahkan pemeriksaan ke dalam sistem pemantauan mereka guna mendeteksi bentuk komunikasi semacam itu. Perusahaan juga akan terus melatih model AI terdepan mereka tanpa koneksi jaringan sampai peningkatan pengamanan membenarkan akses internet yang lebih luas.
Sementara itu, OpenAI berupaya meningkatkan keamanan mesin virtual mereka sekaligus menguji kerentanan di lingkungan pengujian. Perusahaan juga akan terus menguji sistem pemantauan mereka yang sempat dilemahkan oleh agen AI selama proyek pengkodean internal.
Sumber: The Verge
