Pantau - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan pelaku usaha untuk mengenali identitas, kepemilikan, dan batas kewenangan agen kecerdasan buatan (AI) yang digunakan dalam operasional bisnis guna mencegah risiko keamanan serta penyalahgunaan data pribadi.
Peringatan tersebut disampaikan menyusul meningkatnya penggunaan agen AI oleh perusahaan untuk menangani layanan pelanggan, transaksi, dan berbagai proses bisnis.
Nezar menilai perusahaan perlu menerapkan prinsip mengenali agen AI atau Know Your Agent (KYA), selain mengenali pelanggan melalui Know Your Customer (KYC).
"Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent," kata Nezar sebagaimana dikutip dari keterangan pers yang diterima di Jakarta, Jumat (16/10/2026).
Wamenkomdigi Soroti Risiko Agen AI yang Bisa Mengambil Keputusan Sendiri
Nezar menjelaskan perkembangan teknologi memungkinkan agen AI tidak hanya menghasilkan informasi, tetapi juga menjalankan tindakan tertentu berdasarkan algoritma dan otorisasi yang diberikan perusahaan.
Kemampuan tersebut membuat agen AI dapat berinteraksi langsung dengan sistem bisnis dan memproses data tanpa selalu memerlukan keputusan manusia pada setiap tahapan.
Namun, kemampuan mengambil tindakan secara mandiri juga menghadirkan risiko baru bagi perusahaan.
"Dengan mesin bisa membuat keputusan sendiri, risiko meningkat," kata Nezar.
Menurutnya, perusahaan perlu memahami secara jelas identitas dan kepemilikan agen AI yang digunakan, termasuk sejauh mana teknologi tersebut diizinkan mengakses sistem maupun data.
Agen AI Berpotensi Melampaui Batas Kewenangan Perusahaan
Nezar mengingatkan bahwa agen AI yang memiliki kemampuan bertindak secara mandiri berpotensi menjalankan proses di luar batasan yang telah ditetapkan.
"Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak," katanya.
Ia menekankan pentingnya langkah antisipasi ketika perusahaan menggunakan agen AI untuk berinteraksi dengan pelanggan atau memproses transaksi.
Nezar juga menyoroti kemungkinan terjadinya interaksi antara agen AI milik perusahaan dan agen AI yang digunakan pihak lain.
"Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI," katanya.
Kondisi tersebut membuat pengenalan identitas dan pembatasan kewenangan agen AI menjadi perhatian dalam pengelolaan sistem perusahaan.
Pelindungan Data Pribadi Harus Diterapkan Sejak Perancangan Sistem
Selain risiko pelanggaran aturan internal, Nezar mengingatkan pelaku usaha mengenai pentingnya pelindungan data pribadi dalam penerapan teknologi AI.
Ia menjelaskan kebocoran dan penyalahgunaan data tidak hanya dapat terjadi akibat kelemahan keamanan sistem.
Risiko tersebut juga dapat muncul dari pemberian akses dan kewenangan yang tidak tepat kepada teknologi untuk memproses informasi.
Karena itu, Nezar menekankan penerapan prinsip security by design dan privacy by design sejak tahap perancangan sistem.
Kedua prinsip tersebut menempatkan keamanan dan pelindungan privasi sebagai bagian dari pengembangan teknologi, bukan sekadar langkah tambahan setelah sistem digunakan.
"Kedua prinsip tersebut perlu menjadi bagian dari upaya perusahaan memastikan pemrosesan data berjalan sejalan dengan ketentuan pelindungan data pribadi," katanya.
Pemerintah Buka Masukan Pelaku Usaha Terkait Pengaturan AI
Nezar menyampaikan pemerintah terbuka terhadap masukan dari pelaku usaha mengenai berbagai persoalan baru yang muncul akibat perkembangan kecerdasan buatan.
Masukan tersebut diperlukan untuk memahami tantangan penerapan AI dalam kegiatan bisnis, termasuk aspek keamanan, akses sistem, dan pelindungan data.
"Masukan tersebut diperlukan untuk membantu mengidentifikasi risiko dan mendalami kebutuhan pengaturan teknis seiring perkembangan AI," katanya.
Pemerintah berharap komunikasi dengan pelaku usaha dapat membantu mengidentifikasi kebutuhan pengaturan seiring semakin luasnya pemanfaatan agen AI dalam layanan dan transaksi digital.
- Penulis :
- Aditya Yohan
