JAKARTA – CEO OpenAI Sam Altman mengingatkan publik agar tidak sepenuhnya mempercayai jawaban yang diberikan oleh chatbot kecerdasan buatan (AI) ChatGPT.
Dalam episode perdana podcast resmi OpenAI berjudul "Sam Altman on AGI, GPT-5, and what's next", Altman menyampaikan bahwa meski ChatGPT tampak cerdas, ia tetap memiliki keterbatasan yang signifikan.
"Orang-orang punya tingkat kepercayaan yang sangat tinggi terhadap ChatGPT, yang sebenarnya cukup mengejutkan, karena AI ini masih sering 'berhalusinasi'," kata Altman, merujuk pada fenomena di mana model AI memberikan informasi yang salah tetapi terdengar meyakinkan.
Altman menjelaskan bahwa ChatGPT bekerja dengan memprediksi kata berikutnya dalam kalimat berdasarkan pola bahasa yang dipelajari dari data pelatihan.
Artinya, AI ini tidak benar-benar memahami konteks atau kebenaran, melainkan hanya meniru pola yang sering muncul dalam teks.
"ChatGPT bukan sumber kebenaran. Ia adalah alat bantu, seperti kalkulator atau kamus. Bukan pengganti akal sehat kita," tegas Altman.
Karena itu, ia menyarankan agar pengguna tetap memverifikasi semua informasi yang diberikan, terutama jika digunakan dalam konteks penting seperti riset, kesehatan, hukum, atau keuangan.
Peringatan Altman sejalan dengan hasil riset dari MIT yang menyebutkan bahwa penggunaan ChatGPT secara berlebihan dapat menyebabkan penurunan aktivitas otak.
Hal ini terjadi ketika pengguna menggantungkan diri sepenuhnya pada AI tanpa berpikir kritis atau mengevaluasi jawaban yang diberikan.
"Teknologi ini belum bisa diandalkan 100 persen. Kami harus jujur dan terbuka tentang hal itu," ujar Altman.
Dalam podcast berdurasi 40 menit itu, Altman juga menyinggung rencana monetisasi ChatGPT di masa depan.
Salah satu opsi yang dipertimbangkan adalah iklan atau fitur berbayar.