Pantau - Pemerintah melalui Kementerian Komunikasi dan Digital (Kominfo) melakukan pemutusan akses sementara terhadap aplikasi Grok untuk melindungi perempuan, anak, dan masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan kecerdasan buatan.
Langkah Preventif dan Tanggung Jawab Negara
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa kebijakan ini merupakan bentuk tanggung jawab negara dalam menjaga ruang digital yang aman, beretika, dan menghormati hak asasi manusia.
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," ungkapnya.
Pemutusan akses bersifat sementara dan dilakukan sebagai langkah preventif serta korektif. Pemerintah menilai penting memastikan setiap platform digital memiliki mekanisme pengamanan yang memadai agar tidak dimanfaatkan untuk memproduksi atau menyebarkan konten terlarang.
Selain pemutusan akses, Kominfo meminta Platform X untuk segera memberikan klarifikasi terkait dampak negatif penggunaan Grok dan langkah mitigasi yang akan dilakukan.
Dasar Hukum dan Kritik Internasional
Tindakan pemutusan akses didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Dalam regulasi tersebut, penyelenggara sistem elektronik diwajibkan memastikan sistemnya tidak memuat atau menyebarkan konten yang dilarang peraturan perundang-undangan.
Grok menuai kritik internasional karena memungkinkan pembuatan gambar bermuatan pornografi. Grok menyatakan bahwa hanya pelanggan berbayar di Platform X yang dapat membuat dan mengedit gambar, meskipun muncul tudingan bahwa pembuatan gambar tetap bisa dilakukan tanpa berlangganan.
Beberapa negara secara terbuka mengecam Platform X dan Grok, antara lain Inggris, Uni Eropa, dan India. Uni Eropa meminta xAI menyimpan seluruh dokumentasi terkait chatbot Grok, sementara India memerintahkan Platform X untuk segera melakukan perubahan agar penyalahgunaan fitur tidak terjadi lagi.
Pemerintah India juga mengancam pencabutan perlindungan safe harbor jika perubahan tidak dilakukan. Lembaga pengawas komunikasi Inggris turut menghubungi xAI terkait masalah penyalahgunaan Grok.
- Penulis :
- Aditya Yohan
