Perkembangan Agentic Artificial Intelligence (Agentic AI) menghadirkan kemampuan baru bagi teknologi kecerdasan artifisial untuk tidak sekadar memberikan respons, tetapi juga mengambil keputusan dan menjalankan serangkaian tindakan secara mandiri. (Foto: Humas Kemkomdigi)
Jakarta, InfoPublik - Perkembangan Agentic Artificial Intelligence (Agentic AI) menghadirkan kemampuan baru bagi teknologi kecerdasan artifisial untuk tidak sekadar memberikan respons, tetapi juga mengambil keputusan dan menjalankan serangkaian tindakan secara mandiri.
Di tengah perkembangan tersebut, Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, menekankan pentingnya memastikan batas otoritas dan keterlibatan manusia tetap jelas dalam setiap pemanfaatan Agentic AI. “Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?” ujar Wamen Nezar dalam acara Techpresso Metro TV di Jakarta Barat, Kamis (10/9/2026).
Wamen Nezar mencontohkan pemanfaatan Agentic AI sebagai asisten perjalanan. Teknologi tersebut dapat membantu memilih tiket, mengatur akomodasi, menghubungi penyedia layanan, hingga melakukan pembayaran.
Kemampuan tersebut memberikan kemudahan, tetapi sekaligus menimbulkan pertanyaan mengenai sejauh mana kewenangan dapat diberikan kepada AI. “Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.
Menurut Wamen Nezar, risiko semakin kompleks ketika Agentic AI dapat berkomunikasi dan berkoordinasi dengan Agentic AI lainnya. Dalam kondisi tersebut, proses pengambilan keputusan dapat berlangsung antarmesin tanpa selalu melibatkan manusia secara langsung.
Ia juga mengingatkan adanya potensi silent autonomy, ketika sistem dapat membangun penalaran dan mengambil keputusan tanpa diketahui manusia. Karena itu, menurutnya, persoalan yang perlu diperhatikan bukan hanya kemampuan AI menyelesaikan tugas, tetapi juga bagaimana memastikan manusia tetap memiliki kendali atas keputusan dan tindakan yang dihasilkan. “Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan antara ruang inovasi dan perlindungan terhadap manusia,” tegas Nezar Patria.
Dalam kerangka tersebut, Wamen Nezar menyebut prinsip human centric dan human in the loop sebagai bagian penting dalam tata kelola AI.
Artinya, AI dapat mengambil alih tugas tertentu untuk meningkatkan efisiensi, tetapi batas otoritas yang diberikan harus dirancang secara jelas. Pada keputusan tertentu, keterlibatan manusia tetap diperlukan.
Lebih lanjut, Wamen Nezar mengatakan risiko AI perlu diperhitungkan sejak pengelolaan data, pengembangan model, hingga proses pengambilan keputusan.
Ancaman seperti prompt injection dan data poisoning, misalnya, dapat memengaruhi keputusan yang dibuat AI. Karena itu, tata kelola AI perlu berjalan beriringan dengan keamanan siber melalui pendekatan AI safety. “Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.
Wamen Nezar mengatakan Indonesia saat ini terus menyiapkan kerangka tata kelola AI, antara lain melalui Surat Edaran tentang Etika Kecerdasan Artifisial, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP), serta penyusunan peta jalan nasional AI dan regulasi mengenai etika AI.
Ia menjelaskan bahwa regulasi tidak dimaksudkan untuk menghambat perkembangan teknologi. Sebaliknya, kerangka tersebut diperlukan agar inovasi AI dapat berkembang dengan risiko yang termitigasi dan memberikan manfaat yang lebih besar bagi masyarakat. “Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” pungkas Wamenkomdigi Nezar Patria.
