Pantau - Wakil Menteri Komunikasi dan Digital Nezar Patria menekankan pentingnya tata kelola kecerdasan artifisial (AI) di sektor keuangan seiring berkembangnya agentic AI yang dapat mengambil keputusan dan menjalankan transaksi secara lebih mandiri.
Nezar menilai perkembangan tersebut menimbulkan risiko baru karena keputusan yang sebelumnya berada di tangan manusia dapat dilakukan langsung oleh sistem AI.
"Agentic AI apabila diberikan otoritas tertentu untuk pengambilan keputusan, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi," kata Nezar.
Menurut Nezar, kesalahan sistem dapat berdampak langsung terhadap transaksi dan konsumen ketika AI diberikan kewenangan mengambil keputusan serta mengeksekusi tindakan.
"Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang," kata Nezar.
Pemerintah dinilai perlu menyiapkan tata kelola sebelum penggunaan AI dengan tingkat otonomi tinggi berkembang semakin luas di sektor keuangan.
Kerangka tersebut perlu mencakup batas kewenangan AI, pengawasan manusia, akuntabilitas keputusan, keamanan data, serta mitigasi risiko ketika satu sistem AI berinteraksi dengan sistem lainnya.
Kementerian Komunikasi dan Digital telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan penggunaan AI secara bertanggung jawab.
Pemerintah juga tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan panduan etika AI sebagai bagian dari kerangka tata kelola teknologi tersebut di Indonesia.
"Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika AI," ujar Nezar.
Perkembangan AI turut mengubah kebutuhan kompetensi tenaga kerja di sektor keuangan karena kemampuan menggunakan teknologi saja dinilai tidak lagi mencukupi.
Talenta di sektor tersebut juga perlu menguasai tata kelola data, manajemen risiko AI, keamanan siber, serta aspek etika dan akuntabilitas.
"Talenta yang unggul di era AI ini bukan hanya mahir menggunakan teknologi, tetapi, mereka juga harus mampu memastikan teknologi tetap berpihak pada manusia," kata dia.
Nezar menilai Kemkomdigi dan Otoritas Jasa Keuangan memiliki ruang kerja sama strategis dalam memastikan inovasi AI di sektor keuangan tetap aman dan memberikan manfaat bagi masyarakat.
Kerja sama tersebut dapat mencakup penyelarasan prinsip tata kelola AI, pengembangan talenta, serta pengujian inovasi melalui sandbox lintas sektor.
"Kolaborasi antara Kemkomdigi dan OJK inilah yang akan menjadi tulang punggung ekosistem keuangan digital yang inovatif sekaligus aman," kata dia.
Tata kelola AI menjadi penting bagi masyarakat karena keputusan sistem di sektor keuangan dapat bersinggungan langsung dengan transaksi, layanan, data pribadi, serta akses terhadap produk keuangan.
Pemerintah perlu memastikan terdapat mekanisme pertanggungjawaban yang jelas apabila keputusan AI menimbulkan risiko atau kerugian bagi konsumen.
Masuknya agentic AI ke sektor keuangan membuat tantangan regulasi tidak lagi hanya menyangkut penggunaan teknologi, tetapi juga pihak yang bertanggung jawab atas keputusan AI, mekanisme pengawasan, dan perlindungan konsumen.
- Penulis :
- Aditya Yohan
