Wamenkomdigi Sebut Deepfake Jadi Senjata Baru Penipuan Digital yang Sulit Dibedakan

Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan publik tentang bahaya penyalahgunaan kecerdasan buatan atau AI melalui teknologi deepfake. Ia menilai teknologi ini menjadi tantangan etis dan keamanan digital yang sangat serius karena berpotensi meningkatkan ancaman penipuan secara masif.

Dalam acara Indonesia Ethical AI Summit di Jakarta pada Rabu, Nezar menjelaskan bahwa deepfake kini mampu meniru suara, gambar wajah, hingga membuat video palsu yang tampak sangat realistis. Hasil rekayasa digital ini, yang disebut sebagai synthetic reality, semakin sulit dibedakan dari kenyataan.

"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," ujar Nezar.

Ia menambahkan, perkembangan AI saat ini berlangsung sangat cepat dan telah melampaui fase generative AI menuju agentic AI, yaitu kecerdasan buatan yang mampu mengambil keputusan secara otonom. Perkembangan ini di satu sisi membawa manfaat besar, namun di sisi lain memunculkan risiko baru yang perlu diwaspadai.

Nezar menyoroti bahwa para pelaku kejahatan digital kini memanfaatkan teknologi deepfake untuk melancarkan aksi penipuan. Ia menilai rendahnya literasi masyarakat tentang AI membuat banyak orang mudah terjebak oleh konten manipulatif tersebut.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tegasnya.

Untuk menghadapi ancaman ini, Nezar menekankan pentingnya keterlibatan manusia dalam proses pengambilan keputusan, terutama pada pengembangan AI otonom. Ia mengungkapkan bahwa sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada dalam pengawasan manusia.

"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelasnya.

Lebih lanjut, Nezar menilai pendekatan etika AI tidak lagi bisa bersifat sukarela. Prinsip transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan ethics by design. Ia mendorong para pengembang, pelaku industri, akademisi, dan komunitas untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.

"Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," pungkasnya.

Analisis: Pernyataan Nezar Patria ini menjadi alarm bagi masyarakat Indonesia. Dengan semakin canggihnya teknologi deepfake, modus penipuan digital diprediksi akan semakin sulit dideteksi. Rendahnya literasi digital menjadi celah besar yang dimanfaatkan pelaku kejahatan. Oleh karena itu, selain penguatan regulasi dan etika dari pihak pengembang, peningkatan kesadaran dan kewaspadaan masyarakat menjadi kunci utama dalam menghadapi ancaman ini.