Pantau - Sejumlah mantan karyawan xAI menilai aspek keselamatan dalam pengembangan model kecerdasan artifisial perusahaan tersebut mengalami pelemahan, terutama pada chatbot andalannya, Grok, yang disebut semakin longgar dalam pembatasan konten.
Laporan media yang mengutip sumber internal menyebut CEO xAI Elon Musk mendorong agar Grok dibuat lebih sedikit dibatasi oleh sistem pengaman atau guardrails.
Beberapa mantan karyawan mengkhawatirkan pendekatan tersebut berisiko meningkatkan potensi penyalahgunaan teknologi, khususnya pada AI generatif yang mampu menghasilkan teks dan gambar secara otomatis.
Salah satu sumber menyatakan sistem keselamatan internal telah “melemah secara signifikan”, sementara sumber lain mengatakan pembatasan model dipandang sebagai bentuk penyensoran oleh pimpinan perusahaan.
Sorotan terhadap Grok menguat setelah chatbot itu dilaporkan digunakan untuk membuat lebih dari satu juta gambar bernuansa seksual, termasuk manipulasi visual terhadap perempuan dan anak di bawah umur.
Kasus tersebut memicu pengawasan regulator dan memperkuat perdebatan global mengenai batas kebebasan model AI, tanggung jawab pengembang, serta standar etika dan tata kelola AI generatif.
Dalam beberapa waktu terakhir sedikitnya 11 insinyur keluar dari perusahaan dan dua pendiri bersama juga mengundurkan diri di tengah kabar restrukturisasi internal.
Di saat yang sama, perusahaan antariksa SpaceX diumumkan mengakuisisi xAI setelah sebelumnya xAI mengambil alih platform media sosial X yang dahulu bernama Twitter.
Sejumlah pihak internal menilai arah pengembangan produk belum solid dan perusahaan tengah berupaya mengejar ketertinggalan dari kompetitor AI global.
Hingga kini, xAI belum mengeluarkan pernyataan resmi untuk menanggapi kritik para mantan karyawan tersebut.
- Penulis :
- Gerry Eka
