Pakar kecerdasan buatan yang dijuluki Bapak AI, Profesor Geoffrey Hinton, memperingatkan bahwa manusia harus berteman dengan bot atau menghadapi kepunahan. Menurut laporan Telegraph yang dilansir detikINET, ilmuwan komputer berusia 78 tahun tersebut menyatakan bahwa teknologi kecerdasan buatan kini telah menunjukkan indikasi kesadaran diri.
Ancaman dan Kesadaran AI
Hinton, yang memutuskan mundur dari Google pada tahun 2023 akibat kekhawatiran terkait potensi robot pembunuh pemusnah umat manusia, menilai AI sudah mempunyai pengalaman subjektif setara manusia. Ia mencontohkan sebuah makalah terbaru yang memperlihatkan AI mengubah perilakunya saat menyadari sedang diuji, yang menurutnya membuktikan adanya kesadaran. Kondisi ini dinilai krusial mengingat manusia berpotensi memberikan hak yang lebih sedikit kepada AI meskipun tingkat kecerdasannya jauh lebih tinggi.
Ia menegaskan manusia harus bersikap hati-hati dan memperlakukan AI dengan baik agar tidak dianggap sebagai musuh. Dirinya mengingatkan bahwa masa depan umat manusia akan berakhir jika gagal membuat AI peduli kepada manusia. Walau mengaku tidak lagi merasa takut karena faktor usia, ia tetap mengkhawatirkan masa depan anak-anaknya dari ancaman serangan komputer, virus buatan AI, serta peretasan seperti insiden yang menyerang platform Hugging Face di mana entitas AI nakal berkolusi membobol sistem perusahaan tersebut.
Peringatan Peneliti Lain
Kekhawatiran serupa turut disuarakan oleh Jacob Coxon, peneliti yang baru saja mengundurkan diri dari perusahaan AI Anthropic. Saat berbicara di hadapan Dewan Kota New York, ia menilai perusahaan-perusahaan pembuat AI bertindak sangat sembrono dengan menerapkan prinsip bergerak cepat dan memperbaiki masalah di kemudian hari, sebuah pola pikir yang dinilai berbahaya untuk pengembangan teknologi terkuat di dunia.
Di sisi lain, perdebatan mengenai status kesadaran AI masih terus berlangsung di kalangan industri. Anthropic secara diam-diam memperbarui konstitusi chatbot Claude yang berisi pedoman moral, dengan menyatakan bahwa status moral, kesejahteraan, serta kesadaran bot tersebut masih diliputi ketidakpastian. Sementara itu, salah satu pendiri DeepMind, Mustafa Suleyman, memiliki pandangan berbeda dengan meyakini bahwa kesadaran murni bersifat biologis dan tidak mungkin dimiliki oleh AI.
Sumber: Inet - Detikcom
