JAKARTA — Risiko kecerdasan buatan atau artificial intelligence (AI) terhadap masa depan manusia kembali menjadi sorotan.
Evan Hubinger, peneliti keselamatan utama di perusahaan AI Anthropic, memperingatkan adanya peluang lebih dari 10 persen bahwa perkembangan AI dapat membawa kiamat bagi seluruh manusia dalam 10 tahun mendatang.
Peringatan itu disampaikan Hubinger melalui unggahannya di platform X. Unggahan tersebut telah dilihat lebih dari 10 juta kali.
Baca Juga: Cegah Tiga Dosa Besar Pendidikan, Gus Ipul Perintahkan Sekolah Rakyat Perkuat SOP Menurut Hubinger, risiko yang ditimbulkan oleh model AI saat ini masih tergolong rendah.
Namun, ia mengkhawatirkan perkembangan kemampuan AI untuk mengembangkan dan memperbarui dirinya sendiri dalam waktu dekat.
Kemampuan tersebut, menurut dia, berpotensi memunculkan risiko eksistensial bagi manusia.
"Kami benar-benar percaya bahwa AI menimbulkan risiko yang dapat mengakhiri spesies manusia," ujar Hubinger.
Ia juga menyoroti persoalan AI alignment atau keselarasan AI dengan nilai dan etika manusia.
Menurutnya, hingga kini belum ada solusi yang benar-benar memadai untuk memastikan sistem AI superinteligensi tetap berada dalam kendali manusia.
"Saya percaya Anthropic telah berupaya sebaik mungkin, tetapi kami belum memiliki rencana untuk menyelesaikan masalah alignment (keselarasan etika) pada tingkat superintelijensi dan belum ada tanda-tanda ke arah sana," lanjutnya.
Pernyataan Hubinger disampaikan sebagai tanggapan terhadap unggahan Jacob Coxon, peneliti AI yang baru mengundurkan diri dari Anthropic.
Sebelumnya, Coxon juga pernah bekerja di OpenAI.