Perusahaan pembuat perangkat lunak deteksi teks kecerdasan buatan (AI), Pangram, meluncurkan fitur baru untuk mengidentifikasi video dan gambar yang dihasilkan oleh AI seperti dilaporkan oleh Engadget. Pembaruan ini memungkinkan pelanggan untuk memindai klip video dan mendeteksi apakah media tersebut dibuat atau disunting menggunakan teknologi kecerdasan buatan.
Deteksi Video dan Gambar Baru
Melalui fitur video terbarunya, para pelanggan dapat mengunggah rekaman untuk mendapatkan penilaian mengenai penggunaan AI di dalam klip tersebut. Layanan ini mampu membedakan antara video yang hanya sebagian menggunakan AI dengan video yang sepenuhnya dibuat oleh mesin. Selain itu, perangkat tersebut dilengkapi dengan fitur peta panas atau heatmap guna menandai bagian mana saja dari video yang terindikasi kuat sebagai buatan AI.
Pangram menyampaikan bahwa model dasar untuk pendeteksian video ini sangat unggul dalam mendeteksi video AI tingkat lanjut. Dalam pengujian internal yang dilakukan perusahaan, model ini mampu menandai konten AI dengan tingkat akurasi mencapai lebih dari 98 persen.
Selain video, perusahaan juga meningkatkan kemampuan deteksi gambar AI melalui ekstensi peramban Chrome. Model gambar yang sebelumnya dirilis dalam bentuk pratinjau riset kini dapat memindai gambar secara otomatis saat pengguna menjelajahi internet.
Tantangan dan Ketersediaan Alat
Dalam pengujian internal, model gambar tersebut mencatatkan tingkat akurasi lebih dari 99 persen dengan tingkat kesalahan positif sebesar 0,27 persen. Kendati demikian, terdapat batasan tertentu di mana hasil analisis pada resolusi di bawah 512 x 512 piksel akan disertai dengan peringatan penurunan tingkat kepercayaan.
CEO Pangram, Max Spero, mengungkapkan bahwa pengembangan model deteksi gambar ini memiliki tantangan tersendiri terkait pemrosesan awal pada kamera ponsel. Sebagian besar kamera ponsel pintar, termasuk iPhone, melakukan pemrosesan pasca-AI untuk mempertajam foto asli. Pihaknya harus merancang model yang tahan terhadap penyesuaian tersebut agar bisa membedakan antara suntingan AI dan visual yang sepenuhnya palsu.
Pihaknya sempat menunda peluncuran model gambar tersebut guna melakukan pengujian pada beberapa unit iPhone 18 Pro, setelah model awal sempat keliru menandai foto dari kamera ponsel tersebut sebagai hasil AI. Seluruh fitur deteksi video dan gambar terbaru ini sudah dapat digunakan oleh para pelanggan berbayar Pangram, sementara akun gratis diberikan batasan untuk memeriksa sejumlah gambar tanpa harus mendaftar paket langganan.
