Universitas Monash dan Kepolisian Australia Kembangkan Alat AI untuk Tangkal Gambar Deepfake dan Pelecehan Anak

Pantau - Peneliti dari Universitas Monash, Australia, bekerja sama dengan Kepolisian Federal Australia (AFP) mengembangkan alat kecerdasan buatan baru bernama Silverer guna melawan penyebaran gambar deepfake, termasuk materi pelecehan anak yang dihasilkan oleh AI.

Pengembangan Alat dan Metode Kerja

Alat ini dirancang untuk mengurangi kemampuan model AI dalam memproduksi konten palsu melalui metode data poisoning, yakni teknik yang mengubah data secara halus sehingga menyulitkan AI dalam menghasilkan gambar atau video manipulatif.

Menurut AI for Law Enforcement and Community Safety (AiLECS), sebuah proyek kolaboratif antara AFP dan Universitas Monash, pendekatan ini ditujukan untuk merusak akurasi sistem AI yang digunakan pelaku kejahatan dengan mencemari kumpulan data daring yang menjadi dasar pelatihan model tersebut.

Campbell Wilson, ahli forensik digital dan salah satu direktur AiLECS, mengungkapkan kekhawatirannya terhadap maraknya penyebaran konten ilegal berbasis AI. Ia menegaskan pentingnya alat seperti Silverer untuk mendukung penegakan hukum dan perlindungan masyarakat.

Manfaat dan Potensi Penggunaan Silverer

AFP melaporkan adanya peningkatan signifikan dalam pembuatan materi pelecehan anak menggunakan AI, yang didistribusikan secara luas melalui teknologi sumber terbuka dengan pembatasan akses yang rendah.

Alat Silverer masih dalam tahap prototipe namun dirancang agar ke depannya dapat digunakan secara luas oleh masyarakat Australia, khususnya dalam melindungi data visual yang diunggah ke media sosial.

"Sebelum seseorang mengunggah gambar ke media sosial atau internet, mereka dapat memodifikasinya menggunakan Silverer. Hal ini akan mengubah piksel untuk mengecoh model AI, dan hasil produksinya akan memiliki kualitas yang sangat rendah, dipenuhi pola buram, atau bahkan tidak dapat dikenali sama sekali," ungkapnya.

Dengan teknik ini, jumlah konten manipulatif yang perlu dianalisis penyidik dapat dikurangi secara signifikan, sehingga meningkatkan efisiensi investigasi dan keamanan digital secara keseluruhan.