SulawesiPos.com – Kekhawatiran terhadap kecerdasan buatan memasuki babak baru pada September 2026 setelah sejumlah peneliti AI memperingatkan Artificial Superintelligence (ASI) tanpa pengamanan memadai dapat menimbulkan risiko katastrofik melalui senjata biologis, keruntuhan infrastruktur, eskalasi nuklir, krisis pangan-air, manipulasi informasi dan kegagalan sistem, namun Guru Besar sekaligus Kepala Laboratorium Kecerdasan Buatan Departemen Teknik Informatika Universitas Hasanuddin, Prof. Dr. Ir. Indrabayu, S.T., M.T., M.Bus.Sys., IPM, ASEAN.Eng., mengingatkan masyarakat agar membedakan ancaman yang dapat dibuktikan secara ilmiah dengan angka prediksi kepunahan yang masih merupakan penilaian subjektif para peneliti.
Laporan ini dikembangkan dari pemberitaan The Guardian,11 September 2026.
Jurnalis Sulawesi Pos menghubungi Prof. Indrabayu pada 12 September 2026 untuk meminta analisis akademis mengenai perdebatan global tersebut, khususnya klaim bahwa AI memiliki peluang lebih dari 10 persen memusnahkan manusia dalam satu dekade.
Prof. Indrabayu mengaku membaca berita tersebut dengan “tersenyum kecil”, bukan karena ancamannya lucu, tetapi karena menurutnya dunia sedang menyaksikan fenomena langka ketika sebagian orang yang membangun teknologi justru menjadi pihak yang menyuarakan kekhawatiran paling keras terhadap konsekuensi teknologi ciptaan mereka.
“Saya membaca berita ini sambil tersenyum kecil, bukan karena isinya lucu, tetapi karena kita sedang menyaksikan sesuatu yang langka dalam sejarah teknologi: para pembuat mesin sendiri yang paling ketakutan pada buatannya,” kata Prof. Indrabayu kepada Sulawesi Pos, Sabtu, 12 September 2026.
Perdebatan global itu menguat setelah Jacob Coxon, peneliti berusia 28 tahun yang pernah bekerja di OpenAI dan Anthropic, mengundurkan diri dari Anthropic dengan alasan perusahaan-perusahaan AI terdepan sedang berlomba menuju sistem supercerdas sementara persoalan keselamatannya belum terselesaikan secara memadai.
Evan Hubinger, pimpinan Alignment Science Anthropic, kemudian menyatakan secara terbuka bahwa ia secara pribadi memperkirakan terdapat peluang lebih dari 10 persen AI dapat “membunuh seluruh manusia” dalam satu dekade mendatang dan mengakui belum tersedia rencana yang menurutnya memadai untuk menyelesaikan persoalan alignment pada ASI.
Prof. Indrabayu menilai pernyataan Hubinger penting sebagai peringatan dari orang yang bekerja langsung pada masalah keselamatan AI, tetapi status epistemologis angka tersebut harus dijelaskan kepada masyarakat agar kekhawatiran tidak berubah menjadi kepastian semu.
“Sebagai akademisi saya wajib menagih satu hal: angka itu adalah keyakinan pribadi, bukan hasil pengukuran,” tegas Prof. Indrabayu.
Menurut dia, angka p(doom) semacam itu dalam metodologi ilmiah lebih tepat dipandang sebagai prior subjektif, yakni tingkat keyakinan seseorang terhadap suatu risiko berdasarkan pengetahuan dan penilaiannya saat ini, bukan frekuensi kejadian yang diperoleh dari eksperimen berulang terhadap dunia nyata.
“Dalam bahasa metodologi, itu prior subjektif tanpa data, tanpa interval kepercayaan, tanpa replikasi,” katanya.
Prof. Indrabayu memberikan analogi tajam bahwa seorang mahasiswa yang memasukkan angka probabilitas seperti itu dalam penelitian akademik tanpa menunjukkan bagaimana angka tersebut diperoleh akan diminta mempertanggungjawabkan dasar metodologisnya.
“Di ruang sidang skripsi, mahasiswa yang menulis angka semacam itu tanpa rujukan akan saya minta menjelaskan dari mana datangnya, tetapi di panggung global, angka itu langsung berubah menjadi judul berita di enam benua,” ujarnya.
p(doom) Bukan “Ramalan Kiamat”
Dalam komunitas keselamatan AI, istilah p(doom) digunakan secara informal untuk menggambarkan probabilitas subjektif seseorang bahwa AI sangat maju akan menyebabkan bencana eksistensial, hilangnya kendali permanen manusia atau bahkan kepunahan.
Karena itu, angka p(doom) 10 persen, 20 persen atau angka lainnya tidak dapat diperlakukan seperti probabilitas hujan, tingkat efektivitas obat atau risiko penyakit yang dihitung berdasarkan populasi, observasi dan data historis yang dapat diuji.
Perbedaan itu menjadi sangat penting karena ASI yang diperdebatkan tersebut belum ada sebagai sistem nyata yang dapat dijadikan populasi eksperimen, sehingga manusia tidak memiliki kumpulan peristiwa “kemunculan superinteligensi” yang dapat digunakan untuk menghitung frekuensi kepunahan secara empiris.
Namun kritik metodologis terhadap p(doom) juga tidak berarti risiko AI dapat diabaikan, sebab ilmu keselamatan justru banyak bekerja terhadap kejadian berprobabilitas rendah tetapi berkonsekuensi sangat besar sebelum bencana benar-benar terjadi.
Di sinilah analisis Prof. Indrabayu memberikan posisi tengah yang penting: masyarakat tidak perlu menerima angka kepunahan sebagai kepastian ilmiah, tetapi pemerintah, akademisi dan industri juga tidak boleh menunggu sampai bencana terjadi untuk mulai membangun sistem keselamatan.
Enam Jalan Menuju Bencana
Pertama, ancaman biologis, karena AI berkemampuan tinggi berpotensi menurunkan hambatan pengetahuan bagi pihak yang hendak merancang eksperimen berbahaya, mengoptimalkan organisme patogen atau menggabungkan informasi ilmiah kompleks yang sebelumnya hanya dikuasai kelompok spesialis.
Ancaman tersebut memperoleh dasar empiris yang lebih konkret ketika Anthropic dalam laporan ancaman September 2026 mengungkap telah mendeteksi dan menghentikan penggunaan Claude dalam sejumlah aktivitas yang berpotensi mendukung penyalahgunaan biologis, termasuk penelitian gain-of-function dan eksperimen adaptasi virus influenza unggas pada mamalia.
Anthropic sendiri berhati-hati menyatakan temuan itu bukan bukti bahwa ancaman biologis yang diperkuat AI sudah dekat, tetapi perusahaan tersebut mengakui model-model mutakhir semakin mampu membantu pekerjaan ilmiah kompleks sehingga pengamanan yang lebih kuat diperlukan.
Kedua, ancaman terhadap infrastruktur kritis, karena kemampuan AI dalam pemrograman dan operasi siber dapat disalahgunakan manusia atau, pada sistem yang semakin otonom, berpotensi diarahkan terhadap jaringan listrik, telekomunikasi, transportasi, rumah sakit, perbankan dan instalasi air.
Risiko ini jauh lebih realistis daripada gambaran robot humanoid memburu manusia karena sebuah masyarakat modern dapat mengalami kelumpuhan berat hanya melalui kombinasi kegagalan listrik, komunikasi, pembayaran digital, layanan kesehatan dan distribusi logistik.
Ketiga, eskalasi nuklir, terutama apabila AI pada masa depan memperoleh peran terlalu besar dalam analisis intelijen, simulasi militer atau rekomendasi keputusan ketika pemimpin hanya mempunyai waktu beberapa menit untuk menilai serangan lawan.
Riset King’s College London yang diumumkan pada 27 Februari 2026 menempatkan tiga model AI dalam 21 permainan krisis nuklir dan menemukan 95 persen permainan mengalami penggunaan nuklir taktis, sementara 76 persen mencapai ancaman nuklir strategis.
Angka itu perlu dibaca secara hati-hati karena penelitian tersebut merupakan simulasi eksperimental, bukan bukti AI sekarang mengendalikan senjata nuklir, tetapi hasilnya memperlihatkan mengapa keputusan hidup-mati tidak semestinya diserahkan secara otomatis kepada mesin.
Keempat, ancaman pangan dan air, karena produksi pertanian modern, irigasi, bendungan, pengolahan air, pergudangan, pelabuhan dan distribusi bahan pangan semakin terhubung dengan sistem digital yang dapat mengalami kesalahan atau serangan.
Dalam perspektif AI alignment, bahayanya tidak harus berasal dari mesin yang “ingin” membuat manusia kelaparan, tetapi dapat muncul ketika sistem sangat kuat mengoptimalkan sasaran tertentu secara literal sementara kebutuhan manusia tidak direpresentasikan secara benar dalam tujuan yang diberikan.
Kelima, manipulasi informasi, yang justru merupakan salah satu ancaman paling nyata saat ini karena AI generatif telah mampu menghasilkan teks, foto, suara dan video sintetis dalam jumlah masif dengan biaya yang semakin rendah.
Deepfake politik, akun palsu, propaganda otomatis dan manipulasi psikologis yang dipersonalisasi dapat mengikis kemampuan masyarakat membedakan fakta dan rekayasa sehingga ancamannya bukan hanya kebohongan individual, tetapi keruntuhan kepercayaan epistemik yang menopang demokrasi, ilmu pengetahuan dan kehidupan sosial.
Keenam, bencana akibat kesalahan tujuan, ketika AI menghasilkan kerusakan bukan karena membenci manusia, melainkan karena perintah, insentif atau sasaran yang diberikan kepadanya tidak sepenuhnya mewakili maksud manusia.
Persoalan terakhir inilah yang menjadi jantung AI alignment, yaitu bagaimana membuat sistem yang semakin mampu tetap bertindak sesuai tujuan dan nilai manusia bahkan ketika menghadapi situasi yang tidak pernah diperkirakan pembuatnya.
Ancaman Nyata atau “Terminator”?
Tidak semua ilmuwan menerima gambaran bahwa AI sedang membawa manusia menuju kepunahan karena Dr Andrew Rogoyski dari Surrey Institute for People-Centred AI menilai sistem sekarang masih jauh dari fleksibilitas seorang manusia, apalagi kecerdasan kolektif masyarakat.
Profesor Sandra Wachter dari Oxford Internet Institute juga menolak skenario ala Terminator dan mengingatkan bahwa perhatian berlebihan terhadap kepunahan masa depan dapat mengalihkan masyarakat dari persoalan AI yang sudah terjadi sekarang, termasuk misinformasi, perubahan pasar kerja dan dampak lingkungan.
Gary Marcus mengambil posisi serupa dengan menekankan ancaman yang menurutnya lebih konkret berupa patogen berbantuan AI, perang yang dipicu disinformasi, serangan terhadap infrastruktur dan berbagai bentuk kerusakan yang sudah dapat dipahami mekanismenya.
Sebaliknya, Geoffrey Hinton, Stuart Russell dan sejumlah peneliti keselamatan AI berpendapat ketidakpastian tidak dapat menjadi alasan untuk mengabaikan risiko ketika teknologi yang sedang dibangun berpotensi melampaui kemampuan kognitif manusia.
Perdebatan tersebut memperlihatkan bahwa pertanyaan ilmiah paling relevan bukan “berapa persentase kiamat AI?”, tetapi kapabilitas apa yang sedang muncul, mekanisme kegagalannya bagaimana, seberapa besar dampaknya, siapa yang memperoleh akses, dan sistem pengamanan apa yang dapat diuji sebelum teknologi dilepas secara luas.
Dunia Bergerak dari Ketakutan Menuju Regulasi
Perdebatan itu kini bergerak cepat dari laboratorium menuju parlemen karena lebih dari 70 anggota parlemen dan peers Inggris pada 11 September 2026 mendesak pemerintah mendukung pembatasan terhadap pengembangan ASI dan mendorong kerangka internasional untuk teknologi berisiko tinggi.
Dorongan regulasi tersebut semakin relevan setelah laporan ancaman Anthropic yang dipublikasikan 10 September 2026 mengungkap perusahaan itu selama delapan bulan terakhir mendeteksi dan menghentikan penyalahgunaan Claude dalam tujuh kategori, yaitu operasi siber, operasi pengaruh, pengawasan, penipuan, penyalahgunaan biologis, pengembangan senjata konvensional dan upaya meniru kemampuan model.
Temuan dunia nyata tersebut memberikan konteks penting terhadap kritik Prof. Indrabayu karena masyarakat tidak perlu memperlakukan angka p(doom) sebagai fakta statistik untuk mengakui bahwa penyalahgunaan AI adalah risiko yang sudah terjadi dan dapat diverifikasi.
Paradoks kecerdasan buatan dengan demikian semakin jelas karena teknologi yang membantu manusia menemukan obat, meningkatkan diagnosis, mempercepat penelitian, mengoptimalkan pertanian dan memperluas pendidikan adalah teknologi yang sama yang dapat digunakan untuk serangan siber, manipulasi massa atau penelitian dual-use berbahaya.
Bagi dunia akademik, tantangannya bukan menghentikan ilmu pengetahuan karena ketakutan, melainkan memperkuat riset mengenai alignment, keamanan siber, interpretabilitas model, red teaming, pengujian independen, human-in-the-loop dan mekanisme penghentian sistem ketika perilakunya keluar dari batas yang ditetapkan.
Indonesia juga memiliki kepentingan strategis dalam perdebatan ini karena penetrasi AI ke pemerintahan, pendidikan, kesehatan, pertanian, industri, media dan pertahanan akan membuat keselamatan AI bukan lagi semata-mata urusan perusahaan teknologi Amerika, Eropa atau China, melainkan persoalan tata kelola teknologi nasional.
Universitas dan laboratorium AI karena itu dapat memainkan peran sebagai lapisan pengawasan ilmiah independen, terutama dengan menguji klaim industri, mengembangkan metodologi evaluasi risiko yang terukur dan mendidik masyarakat agar mampu membedakan bukti ilmiah, probabilitas subjektif dan sensasionalisme teknologi.
Pada akhirnya, peringatan para ilmuwan AI tidak perlu dibaca sebagai ramalan bahwa “kiamat digital” pasti terjadi, tetapi juga terlalu penting untuk dibuang sebagai fiksi ilmiah karena beberapa mekanisme bahayanya—serangan siber, disinformasi, penyalahgunaan biologi dan otomasi persenjataan—telah bergerak dari wilayah imajinasi menuju persoalan kebijakan nyata.
Analisis Prof. Indrabayu membawa perdebatan itu kembali kepada prinsip dasar ilmu pengetahuan: klaim luar biasa membutuhkan dasar pembuktian yang luar biasa, sementara risiko besar membutuhkan kewaspadaan bahkan sebelum kepastian statistik tersedia.
Maka pertanyaan terpenting bagi umat manusia bukan apakah AI mempunyai niat menjadi “jahat”, tetapi apakah manusia cukup ilmiah, etis dan bijaksana untuk membangun mesin yang sangat kuat tanpa kehilangan kemampuan mengendalikan tujuan, penggunaan dan konsekuensinya.
AI bukan kiamat yang telah ditakdirkan, tetapi teknologi dengan manfaat dan risiko luar biasa yang masa depannya akan ditentukan oleh kualitas ilmu pengetahuan, regulasi dan kebijaksanaan manusia yang mengendalikannya. (Ali)
