SUMATERA SELATAN — CEO Microsoft Satya Nadella menyerukan sistem pengawasan AI yang menyertakan rem darurat yang sepenuhnya dipegang manusia, untuk menghentikan model yang lepas kendali. Usulan itu disampaikan lewat postingan panjang di X, seperti dikutip The Verge, Senin (12/10/2026). Nadella menilai AI bukan kotak hitam yang saran dan tindakannya bisa diterima atau ditolak begitu saja.
Nadella menegaskan model AI perlu dibangun dengan asumsi terburuk: bahwa sistem sudah disusupi sejak awal, lalu dikurung sejak dirancang. Ia menyerukan pengembangan sistem transparan di mana model dapat dikendalikan, diawasi, dan meninggalkan jejak yang bisa diamati manusia serta tidak dapat diubah.
Dalam postingannya, Nadella menyebut perlunya mekanisme yang memungkinkan otoritas berwenang menghentikan sementara atau mematikan model di tengah tugas. Menurut dia, model yang makin canggih akan membutuhkan teknologi penahanan yang perlu distandardisasi.
"Kita harus berasumsi bahwa suatu model sudah disusupi dan mengurungnya sejak awal. Anggap saja seperti rem darurat," tulis Nadella.
"Orang yang berwenang harus selalu dapat menghentikan sementara atau mematikan model di tengah tugas. Model yang lebih canggih akan membutuhkan teknologi penahanan yang perlu distandardisasi," sambungnya.
Nadella menjabarkan sejumlah mekanisme pengawasan yang ia nilai perlu jadi standar industri. Pertama, pengujian sistem secara berkelanjutan. Kedua, kontrol dan audit independen terhadap model yang beroperasi.
Ketiga, penahanan model yang terindikasi menyimpang. Keempat, pengungkapan insiden secara tepat waktu kepada pihak yang berwenang.
Ia juga menyoroti istilah Super Intelligence, yang dipakai pemerintahan Donald Trump untuk menyebut AI. "Sistem Super Intelligence yang paling dapat dipercayai bukanlah model yang paling kita percayai," tulis Nadella.
Nadella bukan yang pertama menyuarakan kekhawatiran soal keselamatan AI. Pendiri Microsoft Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceXAI Elon Musk telah lebih dulu memperingatkan protokol keselamatan AI yang tidak memadai.
Mereka menilai teknologi tersebut berkembang terlalu cepat dibanding kemampuan industri mengendalikannya. Bulan lalu, seorang peneliti AI mengundurkan diri dari Anthropic dan menuduh perusahaan itu bersama pesaingnya, OpenAI, bertaruh dengan masa depan umat manusia.
Di hari yang sama, seorang peneliti bidang keselamatan AI di Anthropic menyebut ada lebih dari 10% kemungkinan teknologi ini membunuh seluruh umat manusia dalam dekade berikutnya.
Presiden Amerika Serikat Donald Trump berulang kali membantah prediksi AI akan memicu kepunahan. Ia menilai regulasi justru memperlambat perkembangan AI dan membuat AS ketinggalan dari China.
Perbedaan sikap itu membuat usulan Nadella menarik dicermati. Ia tidak meminta penghentian pengembangan AI, melainkan lapisan pengaman yang distandardisasi dan bisa diaudit pihak independen.
Bagi industri AI global, termasuk pengembang di Indonesia, arah pembicaraan ini menentukan bentuk kepatuhan yang mungkin diminta regulator ke depan. Standarisasi teknologi penahanan dan kewajiban pengungkapan insiden akan jadi titik debat berikutnya antara pelaku industri dan pembuat kebijakan.