Cegah Penipuan Deepfake, Wamen Nezar Dorong Penguatan Teknologi Pelacak Keaslian Konten

Jakarta | Harian Merdeka

Wakil Menteri Komunikasi dan Digital (Wamen Komdigi) Nezar Patria mendorong penerapan teknologi pelacak keaslian konten untuk mencegah penyalahgunaan kecerdasan artifisial (artificial intelligence/AI), khususnya dalam pembuatan video deepfake yang berpotensi menipu masyarakat.

Nezar menilai, perkembangan AI yang mampu meniru wajah dan suara seseorang secara meyakinkan membuat masyarakat semakin sulit membedakan konten asli dengan hasil manipulasi. Karena itu, diperlukan mekanisme untuk menelusuri asal-usul dan memastikan keaslian suatu konten digital.

Hal tersebut disampaikan Nezar dalam acara IT Governance, Risk Management, Assurance, and Cybersecurity Summit 2026 di Jakarta Selatan, Rabu (14/10/2026). Ia menyoroti maraknya video palsu yang memanfaatkan identitas tokoh publik untuk melancarkan penipuan, termasuk terhadap kelompok masyarakat yang rentan.

“Video-video palsu yang dibuat dengan teknologi deepfake AI itu berhasil menipu banyak sekali masyarakat kita, terutama mereka yang cukup rentan, mereka yang di usia lanjut dan anak-anak. Bahkan mereka yang terpelajar juga banyak menjadi korban,” ungkapnya.

Nezar mencontohkan sejumlah kasus pada tahun sebelumnya ketika nama gubernur hingga presiden dicatut dalam video manipulatif. Konten tersebut digunakan untuk mengarahkan masyarakat agar menyetorkan uang ke rekening tertentu, sehingga menimbulkan kerugian finansial.

“Tidak tanggung-tanggung, pembuatan video deepfake misalnya, itu mencatut nama-nama orang yang cukup terkenal, bahkan presiden sekalipun dicatut. Sejumlah gubernur, tahun lalu, menjadi korban karena digunakan dalam video-video yang beredar untuk menganjurkan masyarakat mendepositokan uang yang mengakibatkan kerugian puluhan juta,” imbuhnya.

Menurut Nezar, upaya mengatasi ancaman tersebut tidak cukup hanya mengandalkan kewaspadaan pengguna. Platform digital yang menyebarkan konten serta pengembang AI juga perlu mengambil tanggung jawab dalam mendeteksi dan mengidentifikasi hasil manipulasi.

“Tanggung jawab untuk pendeteksian deepfake harus pertama-tama dibebankan kepada platform yang menyediakan konten-konten seperti ini dan para pengembang AI. Jadi, harus ada yang namanya jejak otentisitas dari satu konten yang dihasilkan,” ujarnya.

Salah satu pendekatan yang disorot ialah provenance and authenticity, yakni mekanisme untuk menelusuri asal-usul dan memverifikasi keaslian konten digital. Pendekatan ini memungkinkan informasi mengenai proses pembuatan atau perubahan suatu konten digunakan untuk membantu mengidentifikasi kemungkinan manipulasi.

Nezar menjelaskan, teknologi tersebut mulai diterapkan dalam sejumlah perangkat digital, termasuk ponsel pintar yang menyertakan metadata pada foto. Informasi itu dapat membantu penelusuran riwayat konten ketika foto mengalami perubahan menggunakan teknologi AI.

“Pendekatan ini juga sudah dilakukan di tingkat global, misalnya sejumlah perangkat smartphone terbaru sudah memberikan metadata dari foto yang kita ambil sehingga kalau dimanipulasi menggunakan artificial intelligence, tetap bisa dibaca jejaknya. Itu salah satu bentuk pendekatan yang kita kenal sebagai provenance and authenticity,” jelasnya.

Di samping penguatan teknologi, Nezar menekankan pentingnya meningkatkan kecakapan digital masyarakat. Menurutnya, pemahaman mengenai karakteristik konten manipulatif diperlukan agar masyarakat tidak mudah percaya pada video atau rekaman suara yang mengatasnamakan tokoh tertentu.

Ia juga mengajak masyarakat melaporkan dugaan penipuan dan kejahatan siber. Laporan tersebut dinilai penting untuk membantu proses analisis dan mendeteksi pola kejahatan digital yang terus berkembang.

“Kita juga membutuhkan masyarakat cakap digital yang bisa membedakan mana konten yang otentik dan yang digarap oleh AI. Masyarakat yang tidak mudah tertipu dan tentu saja yang berani melapor ketika ada kasus, karena laporan-laporan itu penting sekali untuk kemudian dianalisis dan dideteksi sejauh mana kejahatan-kejahatan siber ini berjalan,” tandas Nezar.(hmi)