Diskominfo Tabanan Ajak Masyarakat Kenali Agentic AI dan Risikonya

Winiantara mengatakan, perkembangan Agentic AI menunjukkan adanya perubahan cara manusia berinteraksi dengan teknologi kecerdasan buatan. Menurutnya, Agentic AI merupakan perkembangan kecerdasan buatan yang memungkinkan sistem bekerja lebih otonom dalam mencapai suatu tujuan.

"Agen dapat memahami instruksi, menyusun rencana, mengambil keputusan, menggunakan berbagai alat yang tersedia dan menjalankan pekerjaan dalam beberapa tahapan dengan intervensi manusia yang lebih minimal,” jelasnya.

Perbedaan Agentic AI dengan AI reaktif atau chatbot sederhana terletak pada kemampuan agen untuk memiliki agency. Sistem tidak hanya memberikan respons satu per satu, tetapi dapat menguraikan tujuan yang lebih luas menjadi tugas-tugas berurutan, mengambil keputusan berdasarkan kondisi yang dihadapi serta melakukan koreksi berdasarkan hasil yang diperoleh.

Dalam pengembangannya, Agentic AI dapat memanfaatkan berbagai teknik kecerdasan buatan.

Menurut Winiantara, karena memiliki kemampuan menjalankan sejumlah tindakan secara mandiri, masyarakat juga perlu memahami penggunaan Agentic AI memiliki risiko yang berbeda dengan penggunaan AI biasa. "Semakin besar kewenangan yang diberikan kepada sebuah agen, semakin besar pula kebutuhan terhadap pengawasan, keamanan dan tata kelola,” katanya.

Salah satu perhatian utama adalah perlindungan data dan privasi. Ketika agen diberikan akses untuk memproses data sensitif atau terhubung dengan sejumlah sistem, terdapat risiko informasi digunakan di luar tujuan awal, termasuk kemungkinan terjadinya data exfiltration atau keluarnya data ke sistem, antarmuka maupun pihak yang tidak seharusnya memperoleh informasi tersebut.

Selain itu, risiko hallucination, bias model dan serangan melalui adversarial prompt juga perlu menjadi perhatian. Isu etika juga menjadi bagian penting dalam perkembangan Agentic AI.

"Kita perlu menentukan siapa yang bertanggung jawab ketika sebuah agen mengambil keputusan, bagaimana proses pengambilan keputusan dapat ditelusuri dan diaudit. Serta bagaimana memastikan penggunaan teknologi tidak menghilangkan peran manusia dalam keputusan-keputusan yang memiliki dampak besar,” ujar Winiantara.

Di tengah perkembangan teknologi, masyarakat diharapkan tidak hanya menjadi pengguna, tetapi mampu menjadi pengguna teknologi yang kritis, cerdas dan bertanggung jawab. Agentic AI dapat dimanfaatkan untuk berbagai kebutuhan positif, seperti membantu pembelajaran, produktivitas, riset, pengolahan informasi, pengembangan usaha, pelayanan, kreativitas dan berbagai aktivitas lain yang memberikan manfaat bagi masyarakat.

“Kami mengajak masyarakat untuk tidak takut terhadap perkembangan AI, tetapi juga tidak menggunakannya secara sembarangan. Manfaatkan Agentic AI untuk hal-hal yang positif, produktif dan memberikan nilai tambah. Tetap periksa informasi yang dihasilkan, jangan sembarangan memberikan data pribadi atau data sensitif, dan gunakan teknologi dengan mempertimbangkan etika serta tanggung jawab,” kata Winiantara.