Wamenkomdigi Nezar Patria dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat. (Foto: Humas Kemkomdigi)
Jakarta, InfoPublik – Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, menekankan pentingnya penerapan prinsip Know Your Agent (KYA) untuk mengantisipasi risiko penggunaan agentic artificial intelligence (agentic AI), terutama terkait penyalahgunaan data dan tindakan agen kecerdasan artifisial yang melampaui batas kewenangannya.
“Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent,” ujar Nezar Patria dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, Kamis (15/10/2026).
Nezar Patria menjelaskan, perusahaan semakin banyak memanfaatkan agentic AI untuk mendukung layanan pelanggan, transaksi, dan berbagai proses bisnis. Berbeda dengan AI generatif yang umumnya merespons perintah atau menghasilkan konten, agentic AI dapat menjalankan serangkaian tindakan berdasarkan tujuan, data, dan kewenangan yang diberikan. “Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.
Menurut Nezar, penggunaan agen AI perlu diikuti pemahaman mengenai identitas, kepemilikan, serta batas kewenangannya. Hal ini penting karena agen AI dapat berinteraksi dengan sistem perusahaan dan memproses data berdasarkan otorisasi yang diberikan.
“Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak,” ungkap Nezar.
Ia menilai, perusahaan perlu mengantisipasi risiko tersebut seiring meluasnya penggunaan agen AI dalam aktivitas bisnis, termasuk untuk berinteraksi dengan pelanggan dan menjalankan transaksi.
“Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI,” ujar Wamen Nezar.
Selain pengawasan terhadap kewenangan agen AI, Nezar Patria mengingatkan pentingnya pelindungan data pribadi dalam penerapan teknologi tersebut. Risiko kebocoran dan penyalahgunaan data tidak hanya berkaitan dengan keamanan sistem, tetapi juga dapat muncul dari pemberian akses dan kewenangan pemrosesan data kepada teknologi AI.
Karena itu, ia menekankan penerapan prinsip security by design dan privacy by design sejak tahap perancangan sistem. Kedua prinsip tersebut diperlukan untuk memastikan aspek keamanan dan pelindungan privasi menjadi bagian dari pengembangan teknologi, bukan sekadar ditambahkan setelah sistem diterapkan.
Nezar Patria juga menyatakan pemerintah terbuka terhadap masukan dari pelaku usaha mengenai berbagai persoalan baru yang muncul dalam penerapan teknologi AI.
“Masukan tersebut diperlukan untuk membantu mengidentifikasi risiko dan mendalami kebutuhan pengaturan teknis seiring perkembangan AI,” ungkapnya.
Melalui pendekatan KYA, perusahaan diharapkan dapat mengenali agen AI yang berinteraksi dengan sistem bisnisnya, memahami kewenangan yang dimiliki, serta mengantisipasi potensi risiko dalam pemrosesan data dan pelaksanaan transaksi.
