Komdigi Kaji Aturan Label AI, Antisipasi Deepfake yang Kian Sulit Dibedakan

Jakarta | Harian Merdeka

Kementerian Komunikasi dan Digital (Komdigi) tengah mengkaji regulasi pelabelan konten berbasis kecerdasan artifisial (AI) untuk mengantisipasi penyebaran informasi palsu melalui video, gambar, dan suara hasil rekayasa digital.

Kebijakan tersebut diarahkan untuk membantu masyarakat mengenali keaslian konten sekaligus menelusuri asal-usul materi digital di tengah perkembangan teknologi AI yang semakin mampu menghasilkan konten menyerupai kenyataan.

Wakil Menteri Komunikasi dan Digital Nezar Patria mengatakan, kemajuan teknologi AI membuat batas antara informasi autentik dan konten sintetis semakin sulit dikenali. Kondisi ini menjadi tantangan serius bagi upaya menjaga kepercayaan publik di ruang digital.

“Perkembangan ini sangat cepat untuk makin membuat garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis,” ujarnya dalam Konvensi Humas Indonesia 2026 di Surakarta, Sabtu (17/10/2026).

Menurut Nezar, kemampuan AI dalam menghasilkan konten yang realistis membuka peluang penyalahgunaan teknologi, termasuk untuk penipuan dan manipulasi informasi. Karena itu, diperlukan mekanisme yang dapat membantu pengguna memastikan keaslian materi digital sebelum mempercayai atau menyebarkannya.

Ia mencontohkan kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu. Dalam peristiwa tersebut, sebuah perusahaan mengalami kerugian hingga 25 juta dolar AS setelah seorang staf keuangan melakukan 15 kali transfer berdasarkan instruksi yang diterimanya dalam pertemuan daring.

Pertemuan itu menampilkan sosok-sosok yang menyerupai jajaran pimpinan perusahaan. Namun, selain staf keuangan tersebut, seluruh peserta lainnya ternyata merupakan hasil rekayasa digital.

“Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu,” ungkapnya.

Komdigi Soroti Autentikasi dan Asal-usul Konten Digital

Untuk mengurangi risiko penyalahgunaan AI, Nezar menjelaskan bahwa sejumlah perusahaan teknologi global mulai mengembangkan mekanisme autentikasi dan penelusuran asal-usul konten digital melalui metadata.

Pendekatan tersebut memungkinkan informasi mengenai sumber dan keaslian suatu konten ditelusuri, termasuk ketika materi digital mengalami pemrosesan menggunakan teknologi AI.

“Nah ini dikenal sebagai pendekatan untuk authentication dan provenance yang sedang dikerjakan secara global,” jelasnya.

Komdigi kini mengkaji penerapan pendekatan serupa melalui regulasi yang mengatur pelabelan konten hasil AI. Melalui kebijakan tersebut, perusahaan pengembang AI diharapkan dapat memberikan penanda pada produk digital yang dihasilkan agar masyarakat memperoleh informasi mengenai keaslian konten.

“Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan,” tegasnya.

Meski demikian, regulasi tersebut masih dalam tahap kajian. Pelabelan diharapkan menjadi salah satu instrumen untuk meningkatkan transparansi penggunaan AI sekaligus memperkuat perlindungan masyarakat dari manipulasi digital.

Pemerintah Susun Peta Jalan Nasional AI

Selain mengkaji aturan pelabelan, pemerintah juga menyiapkan Peta Jalan Nasional Kecerdasan Artifisial sebagai landasan pengembangan dan tata kelola AI di Indonesia untuk periode 2026–2029.

Menurut Nezar, penyusunan peta jalan tersebut melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri. Keterlibatan berbagai pihak diharapkan dapat menghasilkan kerangka pengembangan AI yang memperhatikan aspek inovasi, keamanan, dan tanggung jawab.

“Untuk itulah pemerintah mencoba membuat safeguard dalam bentuk peta jalan nasional artificial intelligence,” katanya.

Nezar menekankan bahwa pengembangan AI harus disertai penguatan kapasitas masyarakat dan organisasi agar teknologi tersebut digunakan secara bertanggung jawab. Kemampuan AI dalam menghasilkan informasi yang tampak meyakinkan tidak boleh membuat manusia mengabaikan proses verifikasi dan penilaian kritis.

“AI harus didudukkan sebagai alat, sebagai mitra kerja bukan pengganti nalar dan tanggung jawab manusia,” tandasnya.

Dalam bidang komunikasi publik, ia juga mengingatkan praktisi hubungan masyarakat agar menjaga kredibilitas informasi di tengah meningkatnya kemampuan teknologi dalam meniru suara, gambar, maupun pernyataan seseorang.

Menurutnya, kepercayaan publik menjadi semakin penting ketika konten yang terlihat dan terdengar meyakinkan belum tentu mencerminkan kejadian sebenarnya.

“Di era ketika ucapan bisa dipalsukan mesin, kredibilitas ucapan menjadi aset paling langka,” pungkasnya.(hmi)