Kemkomdigi Minta Pengembang AI Transparan, Waspadai Risiko Deepfake dan Kerugian Rp700 Miliar

Pantau - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria meminta seluruh pengembang kecerdasan artifisial (AI) di Indonesia untuk mengembangkan inovasi secara transparan, etis, dan akuntabel, sebagai langkah mitigasi terhadap penyalahgunaan teknologi digital.

Transparansi Jadi Syarat Wajib di Tengah Ancaman Deepfake

“Kami mendorong semua pengembang untuk bersikap etis, transparan, dan akuntabel ketika mereka memproduksi platform berbasis AI,” ujar Nezar dalam pernyataan resminya.

Ia menyampaikan bahwa banyak produk AI saat ini dibuat tanpa prinsip etika, dan bahkan disalahgunakan, salah satunya untuk membuat konten deepfake.

“Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat,” tambahnya.

Pemerintah mencatat total kerugian akibat penipuan menggunakan teknologi AI sudah mencapai Rp700 miliar.

Nezar memperingatkan bahwa tanpa mitigasi yang tepat, kerugian semacam ini akan terus bertambah, mengingat teknologi deepfake dan manipulasi konten kian canggih dan sulit dideteksi.

Peta Jalan AI Nasional Disiapkan, Regulasi dan Literasi Diperkuat

Untuk mengantisipasi risiko jangka panjang, pemerintah saat ini sedang menyusun Peta Jalan AI Nasional yang akan mewajibkan akuntabilitas pengembang AI sebagai bagian dari regulasi yang lebih komprehensif.

Sementara menunggu regulasi khusus tersebut rampung, penegakan hukum terhadap kejahatan AI sudah dilakukan berdasarkan:

• UU ITE Nomor 1 Tahun 2024
• UU Pelindungan Data Pribadi (PDP)
• Kitab Undang-Undang Hukum Pidana (KUHP)

Di sisi lain, Kemkomdigi juga menjalankan program edukasi dan literasi digital untuk meningkatkan pemahaman masyarakat terhadap bahaya konten deepfake.

Langkah ini bertujuan agar masyarakat tidak mudah tertipu dan lebih kritis dalam menghadapi konten manipulatif berbasis AI di ruang digital.

Seluruh upaya tersebut menjadi bagian dari komitmen pemerintah untuk mengembangkan teknologi digital secara aman, etis, dan inklusif, sejalan dengan perkembangan ekosistem digital nasional.