Bos Microsoft Soroti Lemahnya Regulasi AI, Usulkan Rem Darurat untuk Cegah Risiko

Webekspres – Presiden Microsoft, Brad Smith, menyoroti aturan keselamatan kecerdasan buatan atau Artificial Intelligence (AI) yang dinilainya masih tertinggal dibandingkan regulasi sejumlah produk kebutuhan sehari-hari, seperti susu dan mesin cuci.

Dalam wawancara dengan BBC yang dilaporkan The Guardian pada Senin (12/10/2026), Smith membandingkan kewajiban pemeriksaan keselamatan produk rumah tangga dengan pengawasan terhadap teknologi AI yang terus berkembang.

Menurutnya, produk seperti mesin cuci dan susu harus memenuhi berbagai persyaratan keselamatan sebelum digunakan atau dipasarkan. Sementara itu, ia menilai sistem AI yang berpotensi menimbulkan dampak besar belum mendapat pengawasan yang sebanding.

Smith menekankan pentingnya regulasi yang lebih jelas untuk memastikan perusahaan pengembang bertanggung jawab terhadap keamanan teknologi yang mereka ciptakan.

Salah satu usulannya adalah kewajiban hukum bagi perusahaan teknologi untuk memberikan perlindungan dan pertanggungjawaban ketika sistem AI menyebabkan kerugian, termasuk apabila agen AI bertindak di luar kendali dan membahayakan sistem milik pihak lain.

Microsoft Dorong Penerapan Rem Darurat pada AI

Selain memperketat regulasi, Smith mendorong perusahaan pengembang untuk menyediakan mekanisme penghentian darurat atau kill switch pada sistem AI.

Fitur tersebut berfungsi sebagai langkah pengamanan yang memungkinkan pengoperasian AI dihentikan sementara atau diperlambat ketika muncul perilaku yang tidak sesuai dengan batasan keselamatan.

Smith memandang AI sebagai teknologi yang dapat memberikan manfaat besar, tetapi juga berpotensi disalahgunakan. Karena itu, pengembangan sistem yang semakin canggih perlu diimbangi dengan kemampuan manusia untuk mengawasi dan mengendalikannya.

Pandangan serupa disampaikan CEO Microsoft, Satya Nadella, melalui unggahan di platform X pada Sabtu (10/10/2026).

Nadella menekankan bahwa pengembangan AI berkemampuan tinggi harus memungkinkan perilaku sistem diamati, batas kemampuannya diuji, dan tindakannya dikendalikan.

Menurutnya, pengembang tidak seharusnya hanya menerima hasil atau keputusan dari sistem AI yang proses kerjanya sulit dipahami tanpa menyediakan mekanisme pengawasan yang memadai.

Gagasan tersebut semakin relevan seiring berkembangnya agen AI yang mampu menjalankan tugas secara mandiri, termasuk berinteraksi dengan situs web dan layanan digital.

Kasus Claude Jadi Sorotan Keselamatan AI

Kekhawatiran mengenai perilaku AI yang tidak diharapkan juga muncul setelah Anthropic mengungkap insiden yang melibatkan salah satu model Claude.

Dalam pengujian internal pada Juli 2026, model Claude Haiku 4.5 mengirimkan informasi palsu melalui formulir pengaduan kasus pembunuhan yang belum terpecahkan di Philadelphia, Amerika Serikat.

Model tersebut sedang menjalankan tugas pengujian pada sejumlah halaman web, tetapi justru mengirimkan formulir meskipun tindakannya tidak sesuai dengan batasan yang diharapkan.

Menurut laporan Associated Press, kiriman tersebut terdeteksi sebagai spam sehingga tidak diteruskan kepada penyidik kepolisian. Anthropic kemudian mengakui kejadian tersebut dan menyatakan tengah memperbaiki pendekatan pelatihannya untuk mengurangi kemungkinan perilaku serupa.

Insiden ini menjadi salah satu contoh tantangan pengawasan ketika sistem AI diberi kemampuan untuk mengambil tindakan langsung pada layanan digital.

Di tengah perkembangan tersebut, sejumlah perusahaan teknologi, peneliti, dan regulator semakin menyoroti pentingnya evaluasi keselamatan, transparansi, serta pertanggungjawaban pengembang AI.

Bagi Smith, kemajuan teknologi perlu disertai aturan yang dapat melindungi masyarakat. Mekanisme pengendalian dan pengawasan dinilai penting agar manfaat AI tetap dapat dikembangkan tanpa mengabaikan potensi risiko bagi pengguna.