Cegah Penipuan Deepfake, Komdigi Siapkan Aturan Label Konten AI di Indonesia

Webekspres – Kementerian Komunikasi dan Digital (Komdigi) tengah mengkaji penyusunan peraturan menteri terkait pelabelan konten yang dihasilkan kecerdasan buatan atau artificial intelligence (AI). Kebijakan tersebut disiapkan untuk membantu masyarakat mengenali gambar, video, dan suara hasil rekayasa digital yang semakin menyerupai kenyataan.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, menjelaskan bahwa kemajuan teknologi AI membawa tantangan baru dalam membedakan informasi autentik dengan konten sintetis.

Hal itu disampaikannya dalam Konvensi Humas Indonesia 2026 yang berlangsung di Surakarta, Jawa Tengah, Sabtu (17/10/2026).

Menurut Nezar, teknologi AI kini mampu menghasilkan tiruan wajah, suara, hingga situasi tertentu dengan tingkat kemiripan yang tinggi. Kondisi tersebut berpotensi dimanfaatkan untuk menyebarkan informasi palsu maupun melakukan penipuan digital.

Komdigi Kaji Kewajiban Label untuk Konten Buatan AI

Salah satu langkah yang dipertimbangkan pemerintah adalah penerapan penanda khusus pada konten digital yang dibuat atau dimanipulasi menggunakan AI.

Melalui mekanisme tersebut, masyarakat diharapkan memiliki informasi tambahan untuk mengetahui apakah suatu gambar, video, atau rekaman suara berasal dari proses autentik atau melibatkan rekayasa kecerdasan buatan.

Nezar mengatakan sejumlah perusahaan teknologi global telah mengembangkan metode autentikasi dan pelacakan asal-usul konten digital.

Pendekatan ini dikenal sebagai provenance and authenticity, yakni sistem yang membantu menelusuri riwayat pembuatan dan perubahan suatu konten.

Salah satu teknologi yang dapat digunakan adalah metadata, yaitu informasi yang melekat pada berkas digital dan dapat memuat keterangan terkait asal maupun proses pengolahannya.

Komdigi tengah mempelajari pendekatan tersebut sebagai bagian dari penyusunan kebijakan nasional.

Meski demikian, aturan wajib pelabelan konten AI masih berada dalam tahap kajian. Pemerintah belum mengumumkan ketentuan final mengenai format label, cakupan konten, tenggat penerapan, ataupun sanksi bagi pihak yang melanggar.

Penipuan Deepfake Jadi Salah Satu Alasan Pengaturan

Pemerintah menyoroti meningkatnya risiko penyalahgunaan AI untuk menciptakan identitas palsu dan memanipulasi komunikasi digital.

Nezar mencontohkan kasus penipuan yang pernah terjadi di Hong Kong, ketika seorang pegawai bagian keuangan mengikuti rapat daring bersama pihak-pihak yang terlihat seperti pimpinan perusahaannya.

Tanpa disadari, sosok peserta lain dalam pertemuan tersebut merupakan hasil rekayasa teknologi deepfake.

Korban kemudian melakukan 15 kali transaksi transfer atas instruksi yang diterimanya dalam rapat virtual.

Peristiwa tersebut menyebabkan kerugian sekitar US$25 juta atau puluhan juta dolar AS.

Kasus itu memperlihatkan bahwa penipuan berbasis AI tidak selalu menggunakan pesan tertulis atau tautan berbahaya. Teknologi manipulasi wajah dan suara juga dapat menciptakan situasi yang tampak meyakinkan.

Karena itu, penelusuran keaslian konten menjadi salah satu aspek penting dalam upaya pencegahan kejahatan digital.

Pengembang AI Diharapkan Membantu Identifikasi Konten

Komdigi mempertimbangkan keterlibatan perusahaan pengembang AI dalam pemberian penanda terhadap konten digital yang dihasilkan sistem mereka.

Dengan adanya informasi tentang asal dan proses pembuatan konten, pengguna diharapkan lebih mudah mengenali materi yang telah mengalami manipulasi.

Namun, pelabelan bukan satu-satunya solusi untuk mencegah penyebaran konten palsu.

Metadata dapat hilang atau berubah ketika suatu berkas diproses atau dibagikan melalui platform tertentu. Selain itu, konten yang tidak memiliki label belum tentu merupakan konten asli.

Oleh sebab itu, penerapan teknologi autentikasi tetap perlu diimbangi dengan pengawasan platform, literasi digital, dan kebiasaan masyarakat melakukan verifikasi informasi.

Pemerintah Susun Peta Jalan AI Nasional 2026–2029

Selain mengkaji aturan pelabelan, pemerintah sedang menyiapkan Peta Jalan Nasional Kecerdasan Artifisial untuk periode 2026–2029.

Penyusunan dokumen tersebut melibatkan lebih dari 400 unsur lembaga, komunitas, kementerian, dan industri.

Peta jalan ini diharapkan menjadi pedoman pengembangan dan pemanfaatan AI yang memperhatikan keamanan, transparansi, akuntabilitas, serta kepentingan masyarakat.

Pemerintah juga melihat pentingnya pedoman yang sesuai dengan kebutuhan berbagai sektor, mengingat penggunaan AI terus berkembang dalam layanan publik, pendidikan, kesehatan, hingga kegiatan bisnis.

Dengan tata kelola yang tepat, AI diharapkan dapat mendukung inovasi tanpa mengabaikan risiko penyalahgunaan teknologi.

Masyarakat Tetap Perlu Memeriksa Keaslian Informasi

Nezar mengingatkan bahwa kemajuan teknologi tidak boleh menggantikan kemampuan manusia untuk menilai kebenaran informasi.

Perusahaan, lembaga pemerintah, dan masyarakat perlu memperkuat kebiasaan verifikasi, terutama ketika menerima instruksi penting melalui video, rekaman suara, atau komunikasi digital.

Dalam transaksi keuangan, misalnya, permintaan transfer yang tidak biasa sebaiknya diperiksa kembali melalui saluran komunikasi resmi yang sudah diketahui.

Masyarakat juga perlu berhati-hati terhadap konten yang mencatut tokoh publik, menawarkan keuntungan tidak wajar, atau meminta informasi pribadi.

Komdigi menilai peningkatan literasi digital harus berjalan bersamaan dengan pengembangan kebijakan agar masyarakat lebih siap menghadapi ancaman penipuan menggunakan AI.

Dengan demikian, rencana pelabelan konten AI tidak hanya diarahkan pada pengembangan teknologi penanda, tetapi juga menjadi bagian dari upaya membangun ekosistem digital yang lebih transparan dan tepercaya.