Pantau - Anggota Komisi I DPR RI Amelia Anggraini menilai penyalahgunaan teknologi kecerdasan buatan Grok AI untuk memproduksi dan menyebarkan konten pornografi merupakan pelanggaran serius terhadap martabat manusia.
Penyalahgunaan tersebut terutama berkaitan dengan pemanfaatan foto atau video orang nyata tanpa persetujuan pemilik identitas visual.
Amelia menyampaikan pandangan tersebut kepada Parlementaria pada Jumat 9 Januari 2026.
Manipulasi Identitas Visual Dinilai Kekerasan Berbasis Teknologi
Amelia menegaskan bahwa manipulasi wajah foto atau identitas visual seseorang ke dalam konten asusila tanpa consent tidak dapat dipandang hanya sebagai persoalan kesusilaan.
Menurutnya, tindakan tersebut telah masuk kategori kekerasan berbasis teknologi yang melanggar hak privasi dan pelindungan data pribadi.
Kekerasan berbasis teknologi tersebut dinilai berpotensi menimbulkan kerugian psikologis sosial hingga reputasional bagi korban.
Amelia menyampaikan, “Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya,” ungkapnya.
Politisi dari Fraksi Partai NasDem itu juga mencatat pernyataan Kementerian Komunikasi dan Digital melalui Direktorat Jenderal Pengawasan Ruang Digital.
Pernyataan tersebut menyebutkan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi pornografi berbasis foto nyata.
Dorongan Regulasi dan Penegakan Hukum
Amelia menilai temuan tersebut harus menjadi perhatian serius pemerintah dan meminta Kementerian Komunikasi dan Digital bersikap proaktif.
Ia menegaskan pemerintah tidak boleh menunggu hingga kasus serupa menjadi viral karena negara wajib hadir melindungi warga di ruang digital.
Perlindungan tersebut, menurutnya, harus dilakukan melalui kebijakan yang tegas terukur dan dapat diawasi publik.
Dalam perspektif Undang-Undang Pelindungan Data Pribadi, Amelia menegaskan bahwa foto wajah dan video merupakan bagian dari data pribadi yang tidak boleh diproses secara sembarangan.
Ia mendorong Kementerian Komunikasi dan Digital untuk menagih kepatuhan platform digital dan penyedia layanan kecerdasan buatan berdasarkan standar yang jelas dan dapat diuji.
Amelia menyampaikan, “Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius. Selain itu, negara juga harus memastikan adanya respons cepat bagi korban melalui kanal pelaporan yang efektif, mekanisme takedown cepat, serta pencegahan unggah ulang,” tegasnya.
Sebagai politisi daerah pemilihan Jawa Tengah VII, Amelia juga mendorong penguatan standar kepatuhan Penyelenggara Sistem Elektronik termasuk platform X dan penyedia layanan AI.
Standar kepatuhan tersebut harus mencakup pencegahan sejak desain sistem atau prevention by design terhadap permintaan seksual berbasis orang nyata.
Ia juga menekankan perlunya sistem moderasi konten yang transparan dan dapat diaudit publik.
Terkait penegakan hukum, Amelia menekankan langkah administratif harus berjalan seiring dengan ketentuan pidana yang berlaku.
Ia mengingatkan bahwa Kitab Undang-Undang Hukum Pidana Nasional telah berlaku sejak 2 Januari 2026 dengan ketentuan pornografi antara lain diatur dalam Pasal 172 dan Pasal 407.
Amelia menegaskan, “Ini menegaskan bahwa ruang digital bukan ruang tanpa hukum,” ujarnya.
Sebagai bagian dari fungsi pengawasan DPR, Amelia menyatakan Komisi I DPR RI akan mengawal penanganan kasus penyalahgunaan AI agar menghasilkan perlindungan nyata bagi korban.
Ia juga menyoroti perlunya kejelasan penanggung jawab indikator kepatuhan tenggat waktu serta konsekuensi atas setiap pelanggaran.
Amelia menyampaikan, “Jika platform AI lain bisa memasang pagar pengaman dan pembatasan yang jelas, maka tidak ada alasan Grok AI tidak melakukan hal yang sama,” katanya.
- Penulis :
- Ahmad Yusuf
- Editor :
- Tria Dianti
