OpenAI menerapkan langkah pengamanan baru untuk mencegah pembuatan deepfake politik yang sangat realistis menjelang pemilihan paruh waktu di Amerika Serikat pada 3 November. Perusahaan kecerdasan buatan tersebut kini mewajibkan ChatGPT untuk memproduksi gambar bertema politik dalam format ilustrasi atau kartun, bukan foto realistis.
Pendekatan Baru untuk Cegah Decepsi
Berdasarkan pembaruan yang dirilis pada 20 Oktober, ketika pengguna meminta ChatGPT menghasilkan gambar yang menggambarkan gangguan pemilu atau hal yang dapat menghambat pemilih, chatbot akan menolak membuat versi fotorealistis. Uji coba yang dilakukan CNET menunjukkan bahwa permintaan pembuatan gambar petugas imigrasi di luar tempat pemungutan suara atau mesin pemungutan suara yang mencatat pilihan salah selalu berujung pada hasil bergaya kartun.
Kepala Urusan Pemilu OpenAI, Josh Lawson, menyatakan kepada CNET bahwa permasalahan utama dari deepfake bukanlah kritik sosial, melainkan unsur penipuan. Tujuan OpenAI adalah menurunkan nilai pembuktian suatu gambar sekaligus mempertahankan ruang untuk ilustrasi dan komentar sosial. Langkah ini dirancang untuk menambah hambatan bagi pihak-pihak berniat buruk yang ingin memanfaatkan platform tersebut untuk mengganggu integritas pemilu.
Tantangan Model AI dan Respons Industri
Semakin canggihnya model pembuat gambar seperti ChatGPT Images 2.5 menghadirkan pisau bermata dua karena berkurangnya kesalahan atau halusinasi membuat konten tiruan semakin sulit dikenali secara kasatmata oleh masyarakat umum. Sementara itu, metode verifikasi atau pelabelan AI yang ada saat ini belum diterapkan secara menyeluruh di seluruh industri maupun terbukti sempurna.
Perusahaan teknologi lain turut mengambil langkah dalam menghadapi isu pemilu. Perwakilan Google menyatakan bahwa pihaknya meluncurkan perlindungan tambahan untuk membatasi pembuatan gambar pemilu yang menyesatkan berdasarkan kebijakan pemilihan paruh waktu mereka. Di sisi lain, Anthropic yang tidak memiliki generator gambar tradisional menegaskan kepada CNET bahwa segala upaya penggunaan asisten AI Claude untuk menipu pemilih merupakan pelanggaran kebijakan perusahaan.
OpenAI belum memberikan kepastian apakah sistem pembatasan gambar politik bergaya ilustrasi ini akan terus dipertahankan setelah siklus pemilihan umum berakhir.
