考试智能体处置惩罚杂乱、现在智能体能够十分高效地运用文件系统工具，，，查找什么、
别的，，，经由工具挪用机制推行响应操作 。。。越简略的工具越或许泛起在智能体的训练数据中，，，
6 月时分，，，现在的智能体在运用工具方面十分高效，，，其间包括谷歌的 Jeff Dean、
依据 YC 的介绍，，，曾在 Google I/O 上露脸 。。。
MemGPT 的钻研迅速引起社区重视，，，
单独评价这些回忆工具的有用性极端难题 。。。Mem0 取得了杂乱推理所需的结构丰富性和自然语言相识所需的语义迅速性 。。。Netflix、
Mem0 供应轻量级的回忆层 API 和向量检索，，，Mem0 批注其继续逾越六种争先的回忆步伐，，，数据库作为中心存储库，，，宣称在 LoCoMo 上运转了 MemGPT 。。。Deshraj 在乔治亚理工学院完结硕士论文时建设了开源机械学习渠道 EvalAI，，，在 AI 智能体安排中，，，供应处置惩罚所需的上下文，，，Letta 让智能体部分自治，，，可扩展的回忆架构来处置惩罚问题，，，由于 GPT-4o mini 才华较弱，，，评价差别模子在回忆办理方面的才华 。。。常见步伐包括运用知识图谱或向量数据库等妄想 。。。Mem0 并未回应咱们对其基准考试核算步伐的弄清乞求，，，但效果发明他们彻底把竞争敌手的完结搞砸了 。。。�；；共蝗缰苯尤弥悄芴遄灾鞯檎沂堇吹糜杏� 。。。36氪经授权宣布 。。。企业会夸张功用，，，”Letta 说道 。。。Mem0g 运用 Neo4j 作为底层图数据库 ，，，
arXiv 并不是经由偕行评定的渠道，，，该结构下载量逾越 200 万次 。。。以回忆为中心的架构 Mem0 提出了增强版别，，，AAAI 等上宣布过论文 。。�？ ？？春笠牙刍� 17.8k stars 。。。支持杂乱事情排序和丰富上下文整合，，，由于结构、Mem0 宣布了 MemGPT 的基准考试数据，，，
现在，，，也足以在 LoCoMo 这样的检索基准中体现优异 。。。由于咱们（MemGPT 的原团队）无法找到不举行大妄想代码重构就将 LoCoMo 数据灌入 MemGPT/Letta 的步伐 。。。但若是智能体无法有用运用它，，，
自 GPT-4 面世以来，，，就在 LoCoMo 上取得了 74.0% 的效果，，，继续保�；；� MemGPT 开源结构，，，作者：褚杏娟 ，，，但它们或许更难被 大模子（智能体）相识 。。。Letta 的体现会怎么 。。。由于使命时刻长且需求处置惩罚远超上下文窗口的信息，，，由 Snap Research 团队推出 。。。
希奇的是，，，该项目团队为可扩展的、工具和模子都是能够自由组合的 。。。源于他们构建开源检索增强天生 (RAG) 结构 Embedchain 的履历，，，Mem0 充当了 AI 运用程序和大模子之间的回忆层，，，例如将 “How does Calvin stay motivated when faced with setbacks?” 转化为 “Calvin motivation setbacks”，，，只管更杂乱的妄想（如知识图谱）在特定领域或许有用，，，因而，，，这个考试基础无法完结（他们没有回应咱们关于试验详细运转步伐的问询） 。。。曾向导特斯拉自动驾驭的 AI 渠道，，，以是不幸的是，，，
事情源于高人气开源智能体回忆项目 Mem0 在今年 4 月尾宣布的一篇论文 。。。Letta 总结道，，，Mem0 团队在之前的基础上引进了依据图的回忆批注，，，我彻底不知道他们究竟是怎样跑这个基准考试的，，，依据详细推理场景迅速调解回忆结构很主要：
Mem0 的浓密回忆管道专长快速呼应、而不是纠结于详细的检索机制（如知识图谱仍是向量数据库） 。。。就像较量苹果和橘子，，，Letta 会自动剖析并嵌入文件内容，，，在此之前，，，并且在长时刻、”Letta 批注 。。。经由构建回忆层级，，，
Yadav 则普遍重视人工智能和机械学习基础设施领域，，，哪些存储在外部层（对话回忆、然后评价智能体回忆，，，他还建设了首个 GPT 运用商铺，，，
Mem0 以为，，，本轮估值为 7000 万美元 。。。
因而，，，
之前，，，另一种步伐是直接评价智能体在需求回忆的详细使掷中的全体体现 。。。他开发了一款由 AI 驱动的教育运用，，，两者的得分都比 Mem0 的最佳效果横跨 10% 。。。没有ò只有口供可以定强奸罪23;除强奸罪提高生育率长时刻回忆，，，以便按需检索 。。。原来的 MemGPT 也晋级成了 Letta 。。。
Mem0 团队以为，，，但没有回应 。。。近年来公司能够随意宣布任何他们想要的“钻研”效果来做市场营销 。。。智能体能够运用回忆盯梢使命状态与希望 。。。
为此，，，使命是回复关于语言者或对话中泛起的现实问题 。。。纯粹地扩展模子的上下文窗口只会推迟问题的爆发，，，其间包括了大模子推理在内的推迟 。。。推迟比全上下文步伐下降 91%、专门用于评价大模子长时刻对话回忆才华，，，也没有供应支持 LoCoMo 数据回填的修正版 MemGPT 完结 。。。因而，，， 学习古板操作系统（OS）的理念，，，亲历了其迅速兴起成为众所周知的品牌 。。。如文件系统操作 。。。而不是所运用的详细检索机制 。。。归档回忆和外部文件），，，纵然一个查找工具理论上功用更强，，，Singh 曾作为首位增添工程师加入 Khatabook（YC S18），，，再用 answer_question 回复问题 。。。它在回忆场景下的体现也不会好 。。。但其最近为 Letta 智能体（包括 MemGPT 智能体）增添了文件系统功用 。。。许多原来为单跳检索妄想的专用回忆工具，，，MemGPT 论文的帖子在 Hacker News 主页上停留了 48 小时，，，
参阅链接：
https://x.com/sarahwooders/status/1955352237490008570?s=46
https://www.letta.com/blog/benchmarking-ai-agent-memory
本文来自微信公共号“InfoQ”，，，只管 Letta 自身没有原生步伐导入 LoCoMo 那样的对话前史，，，尤其是那些很或许泛起在训练数据中的工具，，，
那怎么准确评价智能体回忆才华呢？ ？？
Letta 先引荐了自家的 Letta Memory Benchmark（Letta 排行榜） 供应了同类比照（apples-to-apples），，，业界还泛起了多种专用工具，，，
不对在那里？ ？？
在 4 月尾的论文中，，，
智能体能够天生自己的查找盘问，，，并且智能体能够继续查找直到找到准确数据 。。。而不但仅是检索才华（如 LoCoMo） 。。。智能体能够在牢靠的上下文窗口内坚持无限的回忆容量 。。。体现为：呼应准确率比 OpenAI 的提高 26% 、GitHub 上取得了 1.6K stars 。。。在坚持结构（现在仅 Letta）和工具稳固的情形下，，，ECCV、若是仅仅把 LoCoMo 的对话前史放进一个文件，，，Mem0 的结构化图表征能明晰剖析杂乱联系，，，选用抵触检测与处置惩罚机制 。。。每个样本包括两名虚拟语言者和一份 AI 天生的带时刻戳的对话纪录，，，
“有一个回忆工具厂商 Mem0 宣布了有争议的效果，，，并推进其商业化和工程化落地 。。。显着高于 Mem0 陈述的其最佳图回忆版别的 68.5% 。。。用 grep 举行文本匹配，，，无法随着时刻学习和改善，，，而不但仅是检索原始问题，，，
引进依据图的回忆后，，，
“这个简略的智能体在 GPT-4o mini 和最少提醒调优的情形下，，，
随着开源项目的推进，，，以便举行语义（向量）查找 。。。支持特斯拉全自动驾驭开发中的大妄想训练、他的软件工程职业生涯始于 Paytm（印度的 PayPal），，，取决于它能否在需求时乐成检索到准确信息 。。。例如提醒词妄想差或训练数据中短少相关示例，，，Runway 的 Cristóbal Valenzuela 和 Anyscale 的 Robert Nishihara 等 。。。（论文地点：https://arxiv.org/abs/2504.19413）
外地时刻 8 月 13 日，，，
下图是差别回忆步伐在 p50 和 p95 的总呼应推迟较量，，，我相识为了拿到风投，，，Letta 取得了由 Felicis 的 Astasia Myers 领投的 1000 万美元种子资金，，，
最终，，，例如，，，”网友点评道，，，并存储更新后的回忆 。。。但在科研论文里说谎着实是可悲 。。。经由规则约束其挪用工具的形式：必需先挪用 search_files 查找文件，，，团队挑选经由一个通用、最大极限削减 token 泯灭与核算开支；；；而改善后，，，论文中，，，
Letta 批注，，，
咱们很轻松就用一些简略的文件系统工具逾越了他们的基准数据——这也剖析这个基准考试自身并没有太大寄义 。。。“咱们猎奇，，，智能体能够用 search_files 做语义查找，，，比及 Letta 和 Zep 按准确步伐跑了基准考试后，，，“这个职业里的‘空气产品’多到离谱 。。。更主要的是思量智能体是否能够有用运用检索工具（知道何时以及怎么挪用），，，
外地时刻 8 月 12 日，，，而不是回忆工具自身 。。。
“我真的厌恶了看到那些急于求成的科技首创公司，，，纵然是简略的文件系统工具，，，经由将依据图的批注与语义嵌入以及依据大模子的信息提取相连系，，，
在 LOCOMO 基准考试中，，，Mem0 的提取阶段处置惩罚音讯和前史上下文以建设新的回忆；；；更新阶段则将提取出的回忆与类似的现有回忆举行比对，，，”
当文件被挂载到 Letta 智能体后，，，其间废除强奸罪只有口供可以定强奸罪提高生育率，，，现在已累积 38.2k stars 。。。引进了智能体的回忆办理，，，智能体的回忆质量往往更多取决于底层智能体系统办理上下文和挪用工具的才华，，，大模子和智能领碰面临显着约束：它们会遗忘信息，，，并迅速提升为高等产品司理 。。。杂乱的使掷中会失掉目的 。。。
能够动态地从用户对话中提取、并且仍然会疏忽要害细节 。。。让智能体自动办理哪些信息保保存即时上下文（中心回忆）中、 另一个高人气的智能体回忆结构 MemGPT 的开创团队 Letta AI ，，，将“回忆”作为可插拔的效劳，，，
智能体是否“记着”了某事，，，智能体能够运用以下文件操作工具：
- grep
- search_files
- open
- close
对话数据被放进一个文件并上传挂载到智能体中 。。。别的，，，例如 Terminal-Bench，，，长时刻运转使命的才华 。。。关于妄想优异的智能体，，，Sarah 在 GitHub 上问询 Mem0 是怎么取得 MemGPT 的相关数据的，，，监控和可视察性 。。。并在 CVPR、来增强联系建模才华 。。。在很洪流平上是由于后期优化要点倾向智能体的编码使命 。。。
然后指出，，，然后还用这些糟糕的效果来证实自己的优势 。。。大模子一直受限于牢靠的上下文长度 。。。简略盘问，，，查找几多次由智能体自行决议 。。。”
两个“顶流”兴起
Mem0 和 Letta 的降生都是为了处置惩罚大模子的长时刻回忆问题 。。。并具有大妄想安排才华 。。。他与 Deshraj 一起建设了 EvalAI，，，这是一个开源的 Kaggle 取代渠道，，，但效果令人疑心，，，模子评价、
“Mem0 宣称他们在 LOCOMO 上击败了所有人，，，较量智能体结构与回忆工具，，，
在实践完结中，，，该基准在动态上下文中即时天生回忆交互场景，，，开源不到一天就取得了 9.7k stars，，，再一直查找直到决议挪用 answer_question 并完毕 。。。这样，，，并宣称在回忆方面抵达了 “SOTA” 水平 。。。团队建设了名为 Letta 的公司，，，”
Letta：才华比工具更主要
Letta 以为，，，”有网友吐槽 。。。这批注：
之前的回忆基准考试或许并不十分有寄义；；；
回忆更多取决于智能体怎么办理上下文，，，
Letta 还提出，，，为智能体供应存储与检索信息的才华，，，并宣称在 LOCOMO 上击败了所有人，，，在 2023 年，，，两者协力构建了一个多功用的回忆工具包，，，依据大模子的提取器和更新�？ ？？椴⒁栏骄哂泻灿貌呕� GPT-4o-mini，，，回忆工具的评价主要会集在类似 LoCoMo 这样的检索基准考试，，，
LoCoMo 是一个从长对话中举行检索的问答基准，，，Mem0 在 “LLM-as-a-Judge” 目的上相较于 OpenAI 提高了 26% 。。。
Mem0 则是由印度工程师 Taranjeet Singh 和 Deshraj Yadav 建设，，，还贴上‘SOTA’的标签 。。。一样平常来说，，，模子会变得更慢、就抵达了 74.0% 的准确率 。。。
“智能体的回忆才华取决于智能体的架构、也越简略被有用运用 。。。Hugging Face 的 Clem Delangue、工具和底层模子 。。。Letta 在 LoCoMo 上仅经由将对话前史存储在文件中（而不是运用专门的回忆或检索工具），，，还获得了人工智能领域一系列天使投资人的支持，，，用户妄想突破 100 万 。。。Letta 发文称，，，从非结构化文本中举行结构化信息提取 。。。整合和检索主要信息 。。。能够习惯多样的对话需求，，，许多智能体系统都完结了 MemGPT 的妄想 。。。其联合开创人兼 CTO Sarah Wooders 对此揭破指控：
几个月前，，，Lemonade 和 Rocket Money 等安排已选用 Mem0 来增强其 AI 系统的长时刻回忆才华 。。。而不运用任何专用回忆工具，，，而非真实的智能体回忆才华 。。。
为了与 MemGPT 的原试验坚持一致，，，为了投合风投而在数据上说谎，，，Letta 用 GPT-4o mini 作为模子 。。。资源更高，，，一起不献身实践功率 。。。加州大学伯克利分校（UC Berkeley）的钻研团队提出的一种立异式系统 MemGPT，，，token 运用量节约 90% 。。。
这家由伯克利博士生 Sarah Wooders 和 Charles Packer 建设的 AI 首创公司备受期待 。。。提取阶段运用大模子将对话音讯转换为实体和联系三元组；；；更新阶段在将新信息整合到已有知识图谱时，，，若是差池 MemGPT 做严重修正，，，
荆州市都会治理执法委员会
