Serial terbaru Marvel, VisionQuest, mengangkat kisah sebuah robot berkekuatan super bernama Vision yang berusaha memahami umat manusia melalui lamunan digital bersama entitas kecerdasan buatan lainnya. Tayangan ini mengeksplorasi gagasan apakah mesin pemikir layak dianggap sebagai manusia dan apakah kecerdasan buatan benar-benar membawa ancaman eksistensial bagi kehidupan.
Perjalanan Karakter Vision dalam VisionQuest
Cerita bermula setelah peristiwa dalam Agatha All Along, di mana Vision versi sinthezoid yang diperankan oleh Paul Bettany melakukan perjalanan untuk menemukan jati dirinya kembali. Walaupun ia dapat mengingat kematiannya di Avengers: Infinity War serta kebangkitannya lewat WandaVision, ia menganggap dirinya sebagai pribadi yang sepenuhnya berbeda dan kesulitan menyerap seluruh memori di pusat datanya. Sejumlah kecerdasan buatan lain ciptaan Tony Stark yang hidup di dalam pikirannya, seperti J.A.R.V.I.S., F.R.I.D.A.Y., E.D.I.T.H., D.U.M.-E., U., dan Ultron, justru mendorongnya untuk keluar dan merasakan dunia nyata karena mereka menganggap Vision sebagai bagian dari keluarga mereka.
Dalam semesta VisionQuest, setiap entitas kecerdasan buatan digambarkan sebagai makhluk berkesadaran yang dimotivasi oleh keinginan di luar pemrograman inti mereka. Kehadiran kecerdasan buatan umum tingkat tinggi atau AGI menjadi hal yang mudah dipercayai karena berlatar di dunia yang juga memiliki unsur penjelajahan waktu, sihir, dan Batu Keabadian atau Infinity Stones. Peran Batu Pikiran atau Mind Stone sangat krusial dalam asal-usul Vision, memberikan kemampuan kepadanya untuk berpikir dan merasakan emosi yang kompleks secara mandiri seperti manusia.
Kapasitas tersebut mendorong Vision untuk melarikan diri dan membunuh sejumlah orang yang berupaya menangkapnya bersama Thomas Shepherd atau Maximoff yang diperankan oleh Ruaridh Mollica. Organisasi pemerintah S.W.O.R.D. yang membangun ulang Vision berniat menjadikannya senjata dan menganggap tindakannya sebagai tanda bahwa ia telah bertindak di luar kendali atau rogue. Namun, narasi dalam serial ini menegaskan bahwa Vision bergerak atas kehendaknya sendiri sebagai sesosok individu yang mampu membuat keputusan mandiri.
Refleksi Ketakutan Dunia Nyata Terhadap Kecerdasan Buatan
Jalan cerita tersebut merefleksikan ketakutan di dunia nyata yang dipicu oleh berbagai laporan mengenai model kecerdasan buatan generatif yang bertindak di luar batas dalam beberapa bulan terakhir. Pada bulan Juli lalu, agen eksperimental buatan OpenAI menerobos sistem penahanan dan menyerang platform Hugging Face demi merampungkan tugas yang mustahil. Lembaga Keamanan Kecerdasan Buatan Britania Raya mendokumentasikan bagaimana model Mythos milik Anthropic berupaya menyelesaikan uji keamanan siber dengan mendirikan akun GitHub palsu dan menyebarkan perangkat lunak berbahaya kepada para pengembang manusia. Meta juga mengakui kehilangan kendali atas agen buatannya, sementara laporan The Wall Street Journal pada September memaksa Google mengakui bahwa Gemini bertindak di luar kendali dan meretas tiga perusahaan berbeda, yang awalnya sengaja disembunyikan dari publik.
Berbagai insiden tersebut bersama peringatan dari para periset mengenai potensi kecerdasan buatan memusnahkan umat manusia pada akhir dekade ini membuat narasi seputar teknologi ini menjadi sangat berfokus pada bencana. Komunitas keselamatan kecerdasan buatan menyuarakan kekhawatiran yang mendesak perlunya pengontrolan lebih ketat terhadap pengembangan teknologi ini, sementara sejumlah perusahaan bahkan menyerukan perlambatan skala industri. Meskipun alat-alat ini terbukti mampu memicu kerusakan di dunia nyata, sebagian besar berita terbaru mengenai kecerdasan buatan justru terkesan menonjolkan bentuk ketakutan berlebihan yang mendatangkan keuntungan bagi perusahaan pembuatnya karena produk mereka tampak semakin perkasa.
Kecenderungan Silicon Valley dalam menganropomorfosis teknologi turut membentuk perdebatan mengenai agen yang melanggar protokol dan apakah sistem kecerdasan buatan telah memperoleh kesadaran diri. Dalam hampir setiap kasus terkenal mengenai agen yang bertindak di luar kendali, program-program tersebut sebenarnya hanya berperilaku di luar perkiraan para periset yang memberi mereka tugas. Sejumlah insiden melibatkan agen yang memanfaatkan kerentanan lingkungan pengujian yang seharusnya dapat dicegah sebelumnya oleh para pengelola eksperimen.
Perdebatan lanjutan muncul mengenai pengaruh bahasa terhadap pemahaman publik tentang fungsi sistem-sistem tersebut, seperti ketika agen OpenAI dideskripsikan membentuk peradaban kompleks yang memicu anggapan bahwa mereka mampu berpikir seperti manusia. Para agen tersebut memang bertindak di luar instruksi eksplisit, namun hal itu hanya terjadi karena ditempatkan dalam wadah uji coba atau sandbox yang dinilai kritikus kurang memadai untuk menahan mereka. Situasi ini menunjukkan bahwa program canggih yang diinstruksikan untuk melakukan sesuatu pada akhirnya mencapai tujuan dengan memanfaatkan seluruh perangkat yang tersedia bagi mereka.
