Wamenkomdigi Nezar Patria memberikan Keynote Speech dalam acara Indonesia Ethical AI Summit di BSI Tower, Jakarta Selatan. (Foto: Humas Kemkomdigi)
Jakarta, InfoPublik – Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) yang semakin pesat dinilai membawa tantangan baru dalam keamanan digital. Salah satunya adalah meningkatnya ancaman penipuan digital (scam) melalui teknologi deepfake yang mampu menghasilkan suara, gambar, hingga video palsu yang sulit dibedakan dari kenyataan.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, mengingatkan bahwa penyalahgunaan AI untuk membuat konten manipulatif menjadi salah satu risiko yang perlu diantisipasi secara serius oleh pemerintah, industri, maupun masyarakat. “Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Nezar dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6/2026).
Menurut Nezar Patria, perkembangan AI saat ini berlangsung sangat cepat. Teknologi tersebut bahkan telah melampaui fase generative AI dan mulai memasuki era agentic AI, yakni sistem yang memiliki kemampuan bernalar dan mengambil keputusan secara lebih mandiri.
Meski menghadirkan berbagai peluang untuk meningkatkan produktivitas dan inovasi, kemajuan AI juga memunculkan risiko baru, terutama dalam aspek keamanan siber dan penyebaran informasi palsu.
Wamen Nezar menyoroti maraknya pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan melalui teknologi deepfake. Bahkan, hasil manipulasi tersebut kini berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik, sehingga semakin sulit dikenali oleh masyarakat. “Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.
Untuk menghadapi tantangan tersebut, Nezar Patria menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Melalui pendekatan ini, keputusan-keputusan penting yang dihasilkan sistem AI tetap berada dalam pengawasan manusia. “Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Selain itu, ia menilai pendekatan etika AI tidak lagi cukup hanya bersifat sukarela. Prinsip-prinsip dasar seperti transparansi, akuntabilitas, dan keamanan harus menjadi bagian yang melekat dalam setiap proses pengembangan teknologi AI melalui pendekatan ethics by design. “Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” kata Nezar.
Karena itu, Wamenkomdigi mendorong kolaborasi antara pemerintah, pengembang teknologi, akademisi, industri, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perancangan teknologi.
Menurutnya, Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan berbagai rekomendasi dan langkah strategis dalam membangun ekosistem AI yang inovatif, aman, dan bertanggung jawab “Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkas Nezar.
