[Paper Note] A Survey on the Memory Mechanism of Large Language Model based Agents, Zeyu Zhang+, arXiv'24

[AkihikoWatanabe]

URL

• https://arxiv.org/abs/2404.13501

Authors

• Zeyu Zhang
• Xiaohe Bo
• Chen Ma
• Rui Li
• Xu Chen
• Quanyu Dai
• Jieming Zhu
• Zhenhua Dong
• Ji-Rong Wen

Abstract

• Large language model (LLM) based agents have recently attracted much attention from the research and industry communities. Compared with original LLMs, LLM-based agents are featured in their self-evolving capability, which is the basis for solving real-world problems that need long-term and complex agent-environment interactions. The key component to support agent-environment interactions is the memory of the agents. While previous studies have proposed many promising memory mechanisms, they are scattered in different papers, and there lacks a systematical review to summarize and compare these works from a holistic perspective, failing to abstract common and effective designing patterns for inspiring future studies. To bridge this gap, in this paper, we propose a comprehensive survey on the memory mechanism of LLM-based agents. In specific, we first discuss ''what is'' and ''why do we need'' the memory in LLM-based agents. Then, we systematically review previous studies on how to design and evaluate the memory module. In addition, we also present many agent applications, where the memory module plays an important role. At last, we analyze the limitations of existing work and show important future directions. To keep up with the latest advances in this field, we create a repository at \url{https://github.com/nuster1128/LLM_Agent_Memory_Survey}.

Translation (by gpt-4o-mini)

• 大規模言語モデル（LLM）に基づくエージェントは、最近、研究および産業界から多くの注目を集めている。従来のLLMと比較して、LLMベースのエージェントは自己進化能力を特徴としており、これは長期的かつ複雑なエージェントと環境の相互作用を必要とする現実の問題を解決するための基盤となる。エージェントと環境の相互作用を支える重要な要素は、エージェントのメモリである。これまでの研究では、多くの有望なメモリメカニズムが提案されているが、それらは異なる論文に散在しており、これらの研究を包括的な視点から要約し比較する体系的なレビューが欠けているため、将来の研究を刺激するための共通かつ効果的な設計パターンを抽象化することができていない。このギャップを埋めるために、本論文ではLLMベースのエージェントのメモリメカニズムに関する包括的な調査を提案する。具体的には、まず「メモリとは何か」と「なぜLLMベースのエージェントにメモリが必要なのか」について議論する。次に、メモリモジュールの設計と評価に関する以前の研究を体系的にレビューする。さらに、メモリモジュールが重要な役割を果たす多くのエージェントアプリケーションも紹介する。最後に、既存の研究の限界を分析し、重要な将来の方向性を示す。この分野の最新の進展に追いつくために、私たちはリポジトリを作成した（\url{https://github.com/nuster1128/LLM_Agent_Memory_Survey}）。

Summary (by gpt-4o-mini)

• LLMベースのエージェントのメモリメカニズムに関する包括的な調査を提案。メモリの重要性を論じ、過去の研究を体系的にレビューし、エージェントアプリケーションでの役割を紹介。既存研究の限界を分析し、将来の研究方向性を示す。リポジトリも作成。

[AkihikoWatanabe]

元ポスト:https://x.com/jiqizhixin/status/1954797669957968169?s=46&t=Y6UuIHB0Lv0IpmFAjlc2-Q