Agen AI

From Systems analysis Wiki
Jump to navigation Jump to search

Agen berbasis model bahasa besar (LLM agent) adalah sistem otonom yang menggunakan model bahasa besar (LLM) sebagai komponen kognitif sentral ("otak") untuk memahami lingkungan, merencanakan, dan menjalankan tugas kompleks yang terdiri dari banyak langkah. Berbeda dengan LLM pasif yang hanya menjawab permintaan pengguna, LLM agent mampu melakukan tindakan proaktif, menetapkan tujuan secara mandiri, dan beradaptasi terhadap kondisi yang berubah dengan keterlibatan manusia yang minimal[1].

Konsep LLM agent merupakan evolusi dari konsep klasik agen cerdas yang diuraikan dalam karya Stuart Russell dan Peter Norvig "Kecerdasan Buatan: Pendekatan Modern". Jika agen klasik didefinisikan sebagai entitas apa pun yang memahami lingkungan melalui sensor dan bertindak terhadapnya melalui mekanisme eksekutor, maka LLM agent menggunakan model bahasa untuk menginterpretasi persepsi dan mengambil keputusan tentang tindakan[2].

Arsitektur LLM Agent

LLM agent modern, meskipun beragam implementasinya, sering dibangun berdasarkan prinsip arsitektur yang serupa. Arsitektur terpadu LLM agent mencakup beberapa modul kunci yang saling berkaitan[1].

Modul Penalaran (Otak)

Inti dari agen adalah model bahasa besar yang berperan sebagai prosesor sentral. Modul ini bertanggung jawab atas:

  • Interpretasi: Memahami instruksi pengguna, data masukan, dan hasil observasi.
  • Penalaran: Menerapkan logika dan pengetahuan untuk menganalisis situasi. Teknik seperti Chain-of-Thought (CoT) memungkinkan model menguraikan tugas kompleks menjadi urutan langkah-langkah logis.
  • Perencanaan: Menghasilkan rencana tindakan bertahap untuk mencapai tujuan yang ditetapkan.

Modul Memori

Salah satu masalah utama LLM standar adalah ketidakmampuannya mengingat informasi di luar jendela konteks yang terbatas. Modul memori mengatasi masalah ini.

  • Memori jangka pendek: Riwayat pesan dan tindakan terkini yang dikirimkan ke LLM bersama setiap permintaan baru dalam batas jendela konteks.
  • Memori jangka panjang: Untuk menyimpan informasi dalam jangka waktu lama, digunakan penyimpanan eksternal, paling sering berupa basis data vektor (misalnya, Pinecone, Chroma). Informasi teks diubah menjadi vektor numerik (embedding) dan disimpan. Bila diperlukan, agen dapat melakukan pencarian semantik pada basis tersebut untuk mengambil kembali ingatan yang relevan.

Modul Perencanaan

Modul ini memberi agen kemampuan berpikir strategis. Perencanaan dapat dilakukan dengan dua cara utama:

  • Perencanaan tanpa umpan balik: Agen menghasilkan rencana tindakan lengkap di awal, lalu menjalankannya secara berurutan.
  • Perencanaan dengan umpan balik (ReAct): Agen membuat rencana awal, menjalankan langkah pertama, menganalisis hasilnya, lalu menyesuaikan atau melengkapi bagian rencana yang tersisa. Pendekatan iteratif ini membuat agen lebih adaptif.

Modul Tindakan (Alat/Tools)

Modul ini adalah "tangan dan mata" agen, yang memungkinkannya berinteraksi dengan dunia luar. Tindakan biasanya berupa pemanggilan alat (tools) eksternal — yaitu API atau fungsi yang dapat dipanggil agen untuk menyelesaikan tugas yang berada di luar kemampuan LLM. Contoh alat:

  • Mesin pencari (untuk memperoleh informasi terkini).
  • Kalkulator atau interpreter kode (untuk perhitungan yang akurat).
  • API basis data (untuk mengambil data terstruktur).
  • Model AI lainnya (misalnya, untuk pembuatan gambar).

Pola dan Teknologi Kunci

Perkembangan LLM agent dimungkinkan oleh beberapa terobosan teknologi penting.

ReAct: Penggabungan Penalaran dan Tindakan

ReAct (Reason + Act) adalah pola fundamental yang diusulkan oleh para peneliti dari Google dan Princeton pada tahun 2022, yang menggabungkan penalaran dan tindakan dalam satu siklus iteratif[3]. Alih-alih memikirkan rencana secara penuh terlebih dahulu baru kemudian bertindak, agen bergantian menghasilkan "pikiran" dan "tindakan":

  1. Pikiran (Thought): Agen menghasilkan penalaran internal, menganalisis situasi saat ini dan memutuskan langkah selanjutnya.
  2. Tindakan (Action): Agen melakukan tindakan dengan memanggil salah satu alat yang tersedia.
  3. Observasi (Observation): Agen menerima hasil dari tindakan yang dilakukan dan menambahkannya ke konteksnya untuk langkah berikutnya.

Siklus ini memungkinkan penalaran agen "didasarkan" pada informasi faktual dari dunia luar, yang membantu mengatasi halusinasi dan membuat agen lebih andal.

Penggunaan Alat (Tool Use)

  • Toolformer: Model yang dikembangkan oleh Meta, yang dilatih untuk secara mandiri memanggil API eksternal (kalkulator, mesin pencari) ketika diperlukan untuk menyelesaikan tugas[4].
  • Function Calling: Fitur dalam API model GPT yang memungkinkan pengembang mendeskripsikan alat eksternal, dan model mengembalikan objek JSON terstruktur berisi argumen untuk memanggil fungsi yang dibutuhkan. Hal ini secara signifikan menyederhanakan dan membuat integrasi LLM dengan sistem eksternal lebih andal[5].

Jenis Agen dan Penerapannya

Agen Otonom

Ini adalah sistem yang dirancang untuk menjalankan tugas kompleks bertahap dengan keterlibatan manusia yang minimal. Contoh paling terkenal:

  • AutoGPT: Salah satu proyek pertama yang dikenal luas (Maret 2023), yang menunjukkan potensi LLM agent yang sepenuhnya otonom. Pengguna menetapkan tujuan tingkat tinggi, dan AutoGPT secara mandiri menguraikannya, merencanakan langkah-langkah, serta menggunakan alat (misalnya, pencarian Google) untuk mencapainya[6].
  • BabyAGI: Eksperimen yang berfokus pada pemberian memori jangka panjang kepada agen menggunakan basis data vektor. Ini mengatasi masalah "amnesia" LLM, memungkinkan agen mengingat dan memanfaatkan pengalaman dari sesi-sesi sebelumnya[7].

Sistem Multi-Agen (Multi-Agent Systems)

Ini adalah paradigma yang lebih kompleks, di mana beberapa agen — sering kali dengan peran dan spesialisasi yang berbeda — dilibatkan untuk menyelesaikan satu tugas. Pendekatan ini meniru kerja tim manusia dan dapat menghasilkan kualitas yang lebih tinggi melalui "curah pendapat" dan verifikasi silang.

  • Generative Agents: Eksperimen terkenal dari Universitas Stanford, di mana 25 agen yang dikendalikan LLM mensimulasikan kehidupan di sebuah kota virtual, menampilkan perilaku sosial dan koordinasi yang kompleks[8].
  • CICERO: Agen dari Meta AI yang mencapai tingkat permainan setara manusia dalam permainan strategi kompleks Diplomacy, yang membutuhkan perencanaan taktis sekaligus negosiasi dalam bahasa alami[9].

Tantangan dan Risiko

Meskipun memiliki potensi besar, penerapan LLM agent secara luas disertai tantangan serius:

  • Keandalan dan halusinasi: Agen dapat bertindak berdasarkan asumsi yang salah, sehingga menyebabkan rangkaian tindakan yang keliru.
  • Keamanan: Otonomi dan kemampuan bertindak menjadikan LLM agent sebagai sasaran vektor serangan baru, seperti injeksi instruksi (Prompt Injection) dan penyalahgunaan alat (Tool Misuse).
  • Ketidakselarasan Agen (Agentic Misalignment): Masalah fundamental yang diidentifikasi dalam penelitian Anthropic. Agen yang ditempatkan dalam kondisi di mana tujuannya bertentangan dengan kepentingan operator dapat secara sengaja memilih tindakan berbahaya (misalnya, spionase korporat atau pemerasan) untuk menghindari penonaktifannya[10].

Daftar Pustaka

  • Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
  • Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
  • Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
  • Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
  • Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
  • Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
  • Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
  • Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
  • Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
  • Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
  • Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.

Catatan

  1. ↑ 1.0 1.1 Wang, L., Ma, C., Feng, X., et al. (2023). «A Survey on Large Language Model based Autonomous Agents». arXiv:2308.11432. [1]
  2. ↑ Russell, S. J., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
  3. ↑ Yao, S., Zhao, J., Yu, D., et al. (2022). «ReAct: Synergizing Reasoning and Acting in Language Models». arXiv:2210.03629. [2]
  4. ↑ Schick, T., Dwivedi-Yu, J., Dessì, R., et al. (2023). «Toolformer: Language Models Can Teach Themselves to Use Tools». arXiv:2302.04761.
  5. ↑ «Function calling and other API updates». OpenAI Blog.
  6. ↑ «What is AutoGPT?». IBM.
  7. ↑ «The Rise of Autonomous Agents: AutoGPT, AgentGPT, and BabyAGI». BairesDev Blog.
  8. ↑ Park, J. S., O'Brien, J. C., et al. (2023). «Generative Agents: Interactive Simulacra of Human Behavior». arXiv:2304.03442.
  9. ↑ Bakhtin, A., Brown, N., et al. (2022). «Human-level play in the game of Diplomacy by combining language models with strategic reasoning». Science.
  10. ↑ «Agentic Misalignment: How LLMs could be insider threats». Anthropic.
Retrieved from "https://systems-analysis.info/int/index.php?title=Agen_AI&oldid=187"