Ratusan Tokoh Dunia Peringatkan Bahaya AI Superintelligence: Ancaman Nyata bagi Masa Depan Manusia

Profesor Yoshua Bengio dari Universitas Montreal dalam siaran persnya mengungkapkan kekhawatiran yang mendalam. "Sistem AI yang lebih mutakhir dapat melampaui sebagian besar individu dalam sebagian besar tugas kognitif hanya dalam beberapa tahun. Kemajuan ini membuka solusi untuk tantangan global utama, tetapi juga membawa risiko signifikan," ujarnya.

Perkembangan AI Lebih Cepat dari Pemahaman Publik

Anthony Aguirre, Direktur Eksekutif FLI yang juga seorang fisikawan di University of California, menilai perkembangan AI terjadi dengan kecepatan yang luar biasa—bahkan melampaui pemahaman masyarakat umum.

"Pada dasarnya, arah perkembangan ini ditentukan oleh perusahaan dan sistem ekonomi yang mendorong mereka, bukan oleh pilihan publik. Padahal, kita harus bertanya: apakah ini benar-benar masa depan yang kita inginkan? Apakah kita siap jika AI menggantikan peran manusia?" tegas Aguirre.

Pentingnya Regulasi dan Perjanjian Internasional untuk AI

Aguirre menekankan bahwa dunia membutuhkan lebih banyak diskusi publik dan kebijakan nyata untuk mengatur arah pengembangan AI. Bahkan, dibutuhkan kemungkinan dibentuknya sebuah perjanjian internasional mengenai AI canggih, mirip dengan kesepakatan global yang mengatur senjata nuklir dan teknologi berbahaya lainnya.

"Publik sebenarnya tidak menginginkan perlombaan ini. Sudah saatnya kita berhenti sejenak dan memutuskan bersama ke mana arah teknologi ini akan dibawa," tutupnya, menyerukan jeda dan pertimbangan kolektif atas masa depan AI.