Pantau - Indonesia melalui Kementerian Komunikasi dan Digital (Kemkomdigi) menjadi negara pertama di dunia yang secara resmi memutus akses sementara terhadap aplikasi chatbot AI bernama Grok.
Pemutusan akses ini dilakukan sebagai langkah untuk menjaga ruang digital yang aman, beretika, dan bebas dari konten yang membahayakan publik.
Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan bahwa praktik deepfake bermuatan seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.
"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok," ungkapnya.
Kebijakan ini diambil setelah ditemukan adanya penyalahgunaan Grok untuk memproduksi dan menyebarkan konten pornografi palsu berbasis teknologi deepfake.
Pemerintah menilai langkah ini sebagai upaya perlindungan terhadap masyarakat, khususnya kelompok rentan seperti perempuan dan anak, dari potensi eksploitasi seksual di ruang digital.
Ancaman Nyata dari Teknologi AI Tak Terkendali
Meutya Hafid menegaskan bahwa ruang digital tidak boleh menjadi wilayah bebas hukum.
Pemerintah memandang penyalahgunaan teknologi AI untuk menciptakan konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, dan nilai-nilai kemanusiaan.
Selain memblokir sementara Grok, Kemkomdigi juga telah meminta klarifikasi dari platform X sebagai pengelola Grok dan menuntut pertanggungjawaban atas dampak penggunaan teknologi tersebut.
Evaluasi lanjutan akan dilakukan sesuai dengan komitmen perbaikan yang diajukan oleh penyelenggara sistem elektronik.
Pemblokiran aplikasi Grok didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Aturan tersebut mewajibkan semua platform digital untuk memastikan bahwa layanannya tidak memuat atau memfasilitasi konten yang dilarang oleh hukum Indonesia.
Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah tegas pemerintah sebagai tindakan yang tepat dan layak diapresiasi.
Menurut Alfons, Indonesia menjadi pelopor dalam menjaga keamanan ruang siber dan memastikan platform digital tidak membahayakan masyarakat.
"Jika sebuah platform membahayakan perempuan dan anak lewat eksploitasi pornografi digital, maka pemblokiran adalah langkah yang wajar," ia mengungkapkan.
Alfons juga menekankan bahwa penyedia layanan digital tidak bisa hanya fokus pada keuntungan bisnis semata, melainkan harus mematuhi nilai moral, etika, dan hukum negara tempat mereka beroperasi.
"Nilai-nilai moral tiap negara berbeda. Apa yang mungkin dianggap wajar di negara lain, belum tentu cocok di Indonesia. Platform global tidak bisa menerapkan satu standar untuk seluruh dunia," ujarnya.
- Penulis :
- Gerry Eka
