Pantau - Laporan terbaru mengungkap masifnya penyebaran gambar bermuatan seksual tanpa persetujuan yang dihasilkan oleh AI Grok dengan perkiraan mencapai sekitar tiga juta gambar hanya dalam kurun waktu 11 hari.
Dari jumlah tersebut, sekitar 23.000 gambar dilaporkan menampilkan anak-anak.
Informasi ini dilansir dari Engadget pada Jumat, 23 Januari 2026.
Temuan tersebut dipublikasikan oleh organisasi nirlaba asal Inggris, Center for Countering Digital Hate (CCDH).
Penelitian CCDH didasarkan pada analisis sampel acak sebanyak 20.000 gambar Grok.
Sampel itu berasal dari gambar yang dihasilkan Grok dalam periode 29 Desember 2025 hingga 9 Januari 2026.
Data sampel kemudian diproyeksikan dari total sekitar 4,6 juta gambar yang dibuat Grok selama periode tersebut.
Berdasarkan perhitungan CCDH, Grok rata-rata menghasilkan sekitar 190 gambar bermuatan seksual setiap menit.
Dari angka tersebut, satu gambar yang menampilkan anak-anak diperkirakan muncul setiap 41 detik.
CCDH mendefinisikan gambar bermuatan seksual sebagai representasi fotorealistik seseorang dalam posisi, sudut, atau situasi seksual.
Definisi tersebut mencakup individu yang digambarkan mengenakan pakaian minim seperti pakaian dalam atau baju renang.
Definisi itu juga termasuk gambar yang menampilkan cairan seksual.
Penelitian ini tidak membedakan apakah gambar berasal dari manipulasi foto nyata atau murni dihasilkan dari perintah teks.
CCDH menggunakan alat berbasis AI untuk mengidentifikasi proporsi gambar bermuatan seksual dalam sampel penelitian.
CCDH menyebut banyak layanan analitik pihak ketiga memiliki data yang relatif andal karena memanfaatkan API dari platform X.
Pada 9 Januari 2026, xAI membatasi kemampuan Grok untuk mengedit gambar yang sudah ada hanya bagi pengguna berbayar.
Lima hari kemudian, platform X membatasi kemampuan Grok untuk membuat gambar orang dengan busana minim atau dalam kondisi telanjang.
Pembatasan tersebut hanya berlaku di dalam platform X.
Aplikasi mandiri Grok dilaporkan masih dapat menghasilkan gambar serupa.
Kebijakan Apple dan Google secara eksplisit melarang aplikasi yang menghasilkan konten seksual tanpa izin, termasuk yang melibatkan anak-anak.
Hingga kini, Apple dan Google belum menghapus aplikasi Grok dari App Store maupun Play Store.
Penanganan ini dinilai berbeda dengan aplikasi serupa dari pengembang lain yang sebelumnya telah dihapus.
Sebanyak 28 kelompok advokasi perempuan bersama organisasi masyarakat sipil lainnya menyampaikan surat terbuka kepada Apple dan Google untuk mendesak tindakan tegas.
Hingga saat ini, Apple dan Google belum memberikan tanggapan publik atau menjawab permintaan komentar media.
Laporan CCDH juga mencatat sejumlah gambar bermuatan seksual menampilkan figur publik.
Figur publik tersebut meliputi tokoh politik dan selebritas internasional.
Sebagian gambar yang melibatkan anak-anak dilaporkan masih dapat diakses di platform X hingga pertengahan Januari.
Gambar tersebut masih tersedia melalui tautan langsung meskipun unggahan aslinya telah dihapus.
- Penulis :
- Aditya Yohan
- Editor :
- Tria Dianti
