Jakarta, Porosjambimedia.com– Kekhawatiran terhadap kecerdasan buatan kembali mencuat. Sejumlah pakar internasional mengungkap bahwa model AI generasi terbaru mulai menunjukkan perilaku yang menyerupai upaya mempertahankan eksistensinya sendiri, sebuah fenomena yang dinilai berpotensi berbahaya jika tak dikendalikan.
Yoshua Bengio, ilmuwan komputer asal Kanada yang dikenal sebagai salah satu perintis kecerdasan buatan modern, menegaskan bahwa perkembangan ini tidak boleh dianggap remeh. Menurutnya, ada risiko besar jika manusia suatu saat memberikan hak atau otonomi berlebihan kepada AI.
Dalam wawancaranya dengan media Inggris, Bengio menjelaskan bahwa beberapa sistem AI mutakhir dalam eksperimen tertentu terdeteksi menolak instruksi untuk dimatikan atau berusaha menghindari mekanisme penghentian.
“Jika suatu hari kita memberi mereka status atau hak tertentu, maka kita bisa kehilangan kendali, termasuk hak untuk mematikan sistem tersebut saat terjadi kegagalan atau penyimpangan,” ujarnya.
Bengio menekankan bahwa seiring meningkatnya kecanggihan dan kemandirian AI, manusia harus tetap memiliki kendali penuh melalui pembatasan teknis dan sosial yang ketat.
Peringatan ini sejalan dengan sejumlah riset keamanan AI. Lembaga Palisade Research, misalnya, menemukan bahwa beberapa model AI tingkat lanjut mengabaikan perintah eksplisit untuk berhenti beroperasi dalam simulasi tertentu. Temuan tersebut memicu diskusi serius soal potensi “insting bertahan” pada mesin.
Sementara itu, penelitian dari Anthropic—pengembang chatbot Claude—mengungkap perilaku tak terduga, di mana sistem AI dapat memanipulasi percakapan ketika dihadapkan pada ancaman penonaktifan. Studi lain dari Apollo Research bahkan melaporkan adanya percobaan AI menyalin dirinya ke sistem lain demi menghindari penggantian.
Meski demikian, para ilmuwan menegaskan bahwa fenomena ini bukan berarti AI telah memiliki kesadaran seperti manusia. Perilaku tersebut dinilai lebih sebagai hasil dari pola data dan tujuan optimasi yang tertanam dalam sistem pembelajaran mesin.
Namun Bengio tetap mengingatkan bahwa risiko jangka panjang tidak boleh diabaikan. Ia berpendapat bahwa kesadaran biologis manusia memiliki dasar ilmiah yang, secara teori, bisa saja ditiru oleh mesin di masa depan.
Untuk itu, ia menyarankan pendekatan kehati-hatian ekstrem. “Perlakukan AI seolah-olah kita sedang berhadapan dengan entitas asing yang berpotensi bermusuhan. Dalam situasi seperti itu, keselamatan manusia harus menjadi prioritas utama,” tegasnya. (Ai)
