Diskominfo Tabanan Ajak Masyarakat Kenali Agentic AI dan Risikonya
- Diskominfo Tabanan mengajak masyarakat memahami Agentic AI, sistem yang mampu merencanakan, mengambil keputusan, memakai alat eksternal, dan menjalankan tugas bertahap dengan intervensi manusia minimal.
- Kemampuan otonom Agentic AI memunculkan risiko privasi dan kebocoran data, halusinasi, bias, serangan prompt, serta persoalan akuntabilitas dan audit atas keputusan agen.
- Masyarakat didorong memakai Agentic AI secara kritis dan bertanggung jawab untuk pembelajaran, produktivitas, riset, usaha, serta layanan; tetap verifikasi informasi dan lindungi data sensitif.
Tabanan, IDNTimes- Perkembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI) terus bergerak semakin pesat. Setelah masyarakat mengenal berbagai layanan AI yang mampu menjawab pertanyaan dan menghasilkan informasi berdasarkan perintah pengguna, kini berkembang teknologi Agentic AI.
Agentic AI adalah sistem AI memiliki kemampuan lebih otonom dalam merencanakan, mengambil keputusan dan menjalankan rangkaian tugas untuk mencapai tujuan tertentu. Merujuk hal itu, Dinas Komunikasi dan Informatika Kabupaten Tabanan memandang perkembangan tersebut perlu dipahami masyarakat secara lebih luas.
Sekretaris Dinas Komunikasi dan Informatika Kabupaten Tabanan I Gusti Putu Winiantara, mengatakan, Agentic AI tidak sekadar berfungsi sebagai chatbot yang memberikan jawaban atas pertanyaan.
"Agentic AI dapat bekerja sebagai sistem yang mampu memecah suatu tujuan menjadi sejumlah tugas, menentukan langkah yang diperlukan, menggunakan alat atau sumber daya eksternal, kemudian mengevaluasi hasil dan melakukan penyesuaian berdasarkan umpan balik," ujarnya, Sabtu (12/9/2026).
1. Agentic AI menunjukkan adanya perubahan cara manusia berinteraksi dengan AI
ilustrasi AI, teknologi (vecteezy.com/Ilham Bahrun) Winiantara mengatakan, perkembangan Agentic AI menunjukkan adanya perubahan cara manusia berinteraksi dengan teknologi kecerdasan buatan. Menurutnya, Agentic AI merupakan perkembangan kecerdasan buatan yang memungkinkan sistem bekerja lebih otonom dalam mencapai suatu tujuan.
"Agen dapat memahami instruksi, menyusun rencana, mengambil keputusan, menggunakan berbagai alat yang tersedia dan menjalankan pekerjaan dalam beberapa tahapan dengan intervensi manusia yang lebih minimal,” jelasnya.
Perbedaan Agentic AI dengan AI reaktif atau chatbot sederhana terletak pada kemampuan agen untuk memiliki agency. Sistem tidak hanya memberikan respons satu per satu, tetapi dapat menguraikan tujuan yang lebih luas menjadi tugas-tugas berurutan, mengambil keputusan berdasarkan kondisi yang dihadapi serta melakukan koreksi berdasarkan hasil yang diperoleh.
Dalam pengembangannya, Agentic AI dapat memanfaatkan berbagai teknik kecerdasan buatan.
2. Risiko penggunaan Agentic AI
Ilustrasi AI sebagai asisten kerja pintar di kantor (Vecteezy/ Menurut Winiantara, karena memiliki kemampuan menjalankan sejumlah tindakan secara mandiri, masyarakat juga perlu memahami penggunaan Agentic AI memiliki risiko yang berbeda dengan penggunaan AI biasa. "Semakin besar kewenangan yang diberikan kepada sebuah agen, semakin besar pula kebutuhan terhadap pengawasan, keamanan dan tata kelola,” katanya.
Salah satu perhatian utama adalah perlindungan data dan privasi. Ketika agen diberikan akses untuk memproses data sensitif atau terhubung dengan sejumlah sistem, terdapat risiko informasi digunakan di luar tujuan awal, termasuk kemungkinan terjadinya data exfiltration atau keluarnya data ke sistem, antarmuka maupun pihak yang tidak seharusnya memperoleh informasi tersebut.
Selain itu, risiko hallucination, bias model dan serangan melalui adversarial prompt juga perlu menjadi perhatian. Isu etika juga menjadi bagian penting dalam perkembangan Agentic AI."Kita perlu menentukan siapa yang bertanggung jawab ketika sebuah agen mengambil keputusan, bagaimana proses pengambilan keputusan dapat ditelusuri dan diaudit. Serta bagaimana memastikan penggunaan teknologi tidak menghilangkan peran manusia dalam keputusan-keputusan yang memiliki dampak besar,” ujar Winiantara.
3. Manfaatkan Agentic AI secara tepat guna
ilustrasi AI (Dok. img.lab45.id) Di tengah perkembangan teknologi, masyarakat diharapkan tidak hanya menjadi pengguna, tetapi mampu menjadi pengguna teknologi yang kritis, cerdas dan bertanggung jawab. Agentic AI dapat dimanfaatkan untuk berbagai kebutuhan positif, seperti membantu pembelajaran, produktivitas, riset, pengolahan informasi, pengembangan usaha, pelayanan, kreativitas dan berbagai aktivitas lain yang memberikan manfaat bagi masyarakat.
“Kami mengajak masyarakat untuk tidak takut terhadap perkembangan AI, tetapi juga tidak menggunakannya secara sembarangan. Manfaatkan Agentic AI untuk hal-hal yang positif, produktif dan memberikan nilai tambah. Tetap periksa informasi yang dihasilkan, jangan sembarangan memberikan data pribadi atau data sensitif, dan gunakan teknologi dengan mempertimbangkan etika serta tanggung jawab,” kata Winiantara.
