Pantau - Wakil Menteri Komunikasi dan Digital, Nezar Patria, menekankan pentingnya pendekatan sandboxing dalam pemanfaatan teknologi kecerdasan artifisial (AI) di sektor kesehatan agar aman, etis, dan sesuai dengan regulasi yang berlaku.
Menurut Nezar, sistem AI tidak boleh langsung diimplementasikan secara luas, melainkan harus melewati tahap pengujian terbatas dalam lingkungan yang terkontrol.
"AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat," ujar Nezar dalam keterangan resminya di Jakarta pada Sabtu.
Nezar menjelaskan bahwa pendekatan sandboxing memungkinkan penilaian menyeluruh terhadap kesesuaian sistem AI dengan peraturan yang ada dan relevansi dengan kebutuhan sektor kesehatan.
Libatkan Pemangku Kepentingan dan Bangun AI Nasional
Nezar menambahkan bahwa semua pemangku kepentingan harus dilibatkan dalam proses sandboxing untuk mengevaluasi aspek teknis, etis, kesiapan operasional, serta dampaknya terhadap masyarakat.
Ia mencontohkan penerapan yang berhasil di China, di mana pengujian sistem AI dilakukan terlebih dahulu di pasar domestik sebelum diluncurkan secara global.
"China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas. Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxing-nya sudah berlangsung di negara mereka lebih dulu," jelas Nezar.
Meski begitu, Nezar mengakui bahwa tantangan besar tetap ada, terutama dalam penerapan model Agentic AI yang dapat mengambil keputusan sendiri.
Risiko teknologi AI dalam sektor kesehatan tidak hanya teknis, tetapi juga menyangkut aspek sosial dan etis, termasuk disinformasi dan bias kepentingan komersial.
"AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” ungkap Nezar.
Sebagai solusi, Nezar mendorong pembangunan sistem AI berbasis data nasional yang telah dikurasi dan divalidasi oleh para ahli dalam negeri.
Sistem tersebut diharapkan mampu menciptakan teknologi AI yang inovatif namun tetap aman, etis, dan sesuai dengan nilai-nilai Pancasila.
- Penulis :
- Arian Mesa
