保留状态的 agent,前身 MemGPT

Letta 是构建有状态 agent 的框架:agent 作为长期运行的服务跑,跨会话累积记忆,每次调用都接着上一次。它就是曾叫 MemGPT 的那个项目,这条来历是理解它的关键。MemGPT 的点子是把 LLM 的上下文当操作系统管理内存那样对待,把信息换进换出,让一个 agent 能持有远超单个上下文窗口的东西。Letta 是把这个点子做成的生产框架。截至 2026-06 有 23,354 星,是以记忆为中心的 agent 的领先选项。

像 Mem0 那样的记忆层是你加到自己 agent 上的东西,Letta 则想成为 agent 运行时本身。

它做什么

Letta 的 agent 有分层记忆:core memory 持有当下相关的上下文,archival memory 是一个更大、向量支撑的存储,agent 需要旧信息时去搜它。在两者之间搬什么由 agent 决定,这就是 MemGPT 机制。你通过 Letta Code(终端 agent)、Letta API(REST 加 Python 和 TypeScript SDK,把 agent 做进应用)、以及 Agent Design Editor(配置 agent 的可视化 GUI)来交互。它与模型无关,能用托管模型,也能用自托管的 vLLM 或 Ollama。

安装

最快的起步是 CLI:

npm install -g @letta-ai/letta-code
letta

要做进应用,装客户端 SDK(pip install letta-client 或 npm 等价物),指向 Letta Cloud 或你自己的 server。自托管跑一个由 PostgreSQL 加 pgvector 支撑的 server,通过 Docker 提供,比 CLI 暗示的搭建更重。

自托管与 Letta Cloud

这是承诺前要权衡的取舍。Letta Cloud 是托管路径:功能完整、起步快,可视化编辑器开箱即用。自托管给你控制权、把数据留在内部,但它是一桩真活儿:PostgreSQL 加 pgvector、server 配置、认证,而且 issue 区显示有功能差距,一些能力(以及顺畅可用的可视化编辑器)落后于云。所以选自托管图控制和隐私、接受搭建成本和偶尔的功能滞后,或选 Cloud 图完整、无摩擦的体验。

适合与不适合

想要在长期运行中真正持续并改进的 agent、OS 式记忆模型贴合你的问题、或想要一个掌管 agent 生命周期的框架、省得自己拼库时,Letta 合适。CLI 让试用很容易。

自托管的摩擦是真实的:PostgreSQL 加 pgvector 的要求和配置抬高门槛,自托管功能集落后于云,而且框架强加它自己「agent 怎么工作」的模型,比一层薄记忆要学的更多。你只想给已有 agent 加记忆、又不想引入框架,Mem0 是更轻的选择。

letta 和替代品的对比

LettaMem0LangChain 式记忆
Stars23,35458,664
性质有状态 agent 框架与 agent 无关的记忆层框架内的记忆
记忆模型core 加 archival(MemGPT)用户/会话/agent 范围会话缓冲或存储
承诺掌管 agent 生命周期塞进任何 agent绑定那个框架
托管自托管或 Letta Cloud自托管或 Mem0 Platform你自己的

数字为截至 2026 年 6 月的 GitHub 数据。Mem0 是更轻、与 agent 无关的记忆层,你加到已有 agent 上。框架自带的记忆把你绑在那个框架的模型上。Letta 的独门押注,是把 MemGPT 记忆 OS 当作 agent 本身的地基,更强,也更是一份承诺。

star 曲线

star 曲线带着 MemGPT 的遗产:记忆 OS 的论文和演示火起来时的早期猛涨,然后是改名 Letta、做成带 CLI/API/云的真框架之后的持续增长。曲线形状反映一个「研究点子成熟为产品」的过程。

issue 区给你的预警

反复出现的 issue 围着自托管。自托管 server 在功能上会落后于云,可视化编辑器在自托管后端上跑过出问题。自托管 server 的认证和 CLI 集成在某些配置下脆。模型上下文上限处理有硬编码 fallback,可能误判一个未知模型。记忆导出导入(对可移植性重要)一直是进行中的工作。这些都不挡云路径;多数是自己跑的代价。

相关仓库

要更轻、与 agent 无关的记忆层,看 Mem0。要你可能给它加长期记忆的 agent,看 clineOpenHands。要检索的文档那侧,看 docling。想看什么在涨,见 LLM 工具每日榜每周报告

常见问题

Letta 和 MemGPT 是一回事吗? 是。Letta 是曾叫 MemGPT 的项目,在从研究点子长成生产框架时改了名。核心的记忆 OS 机制相同。

Letta 还是 Mem0,该用哪个? Letta 是掌管 agent 生命周期的完整有状态 agent 框架,带 MemGPT 式的 core 和 archival 记忆。Mem0 是你加到任何 agent 上的更轻记忆层。要在它的框架上构建选 Letta,要给已有栈加记忆选 Mem0。

该自托管 Letta 还是用 Letta Cloud? Cloud 功能完整、起步快,可视化编辑器开箱即用。自托管给控制权、把数据留在内部,但要 PostgreSQL 加 pgvector 和配置,且一些功能落后于云。按你更看重控制还是便利来选。

Letta 的记忆怎么工作? agent 有持当下相关上下文的 core memory,和一个更大、向量支撑、用来搜旧信息的 archival memory。agent 在两者之间搬信息,这就是 MemGPT 记忆 OS 机制。

Letta 支持哪些模型? 它与模型无关,能用托管模型(如 Claude 和 GPT),也能用通过 vLLM 或 Ollama 的自托管选项。注意上下文上限处理对未知模型有硬编码 fallback,所以框架不认识的模型先核它的上限。