荆州市都会治理执法委员会
政府信息果真
您现在的位置：首页
4万星开源项目被指造假，， ，，，Mem揭阳论坛强奸强奸赵灵儿GPT作者开撕Mem0：为营销随意造数据，， ，，，净搞没有意义的测验
“我真的厌恶了看到那些急于求成的科技首创公司，， ，，，为了投合风投而在数据上说谎，， ，，，还贴上‘SOTA’的标签。。 。。。。”有网友吐槽。。 。。。。
事情源于高人气开源智能体回忆项目 Mem0 在今年 4 月尾宣布的一篇论文。。 。。。。论文中，， ，，，该项目团队为可扩展的、以回忆为中心的架构 Mem0 提出了增强版别，， ，，，并宣称在 LOCOMO 上击败了所有人，， ，，，其间，， ，，，Mem0 在 “LLM-as-a-Judge” 目的上相较于 OpenAI 提高了 26%。。 。。。。（论文地点：https://arxiv.org/abs/2504.19413）
外地时刻 8 月 13 日，， ，，， 另一个高人气的智能体回忆结构 MemGPT 的开创团队 Letta AI ，， ，，，其联合开创人兼 CTO Sarah Wooders 对此揭破指控：
几个月前，， ，，，Mem0 宣布了 MemGPT 的基准考试数据，， ，，，并宣称在回忆方面抵达了 “SOTA” 水平。。 。。。。
希奇的是，， ，，，我彻底不知道他们究竟是怎样跑这个基准考试的，， ，，，若是差池 MemGPT 做严重修正，， ，，，这个考试基础无法完结（他们没有回应咱们关于试验详细运转步伐的问询）。。 。。。。
arXiv 并不是经由偕行评定的渠道，， ，，，以是不幸的是，， ，，，近年来公司能够随意宣布任何他们想要的“钻研”效果来做市场营销。。 。。。。
咱们很轻松就用一些简略的文件系统工具逾越了他们的基准数据——这也剖析这个基准考试自身并没有太大寄义。。 。。。。
“Mem0 宣称他们在 LOCOMO 上击败了所有人，， ，，，但效果发明他们彻底把竞争敌手的完结搞砸了。。 。。。。然后还用这些糟糕的效果来证实自己的优势。。 。。。。比及 Letta 和 Zep 按准确步伐跑了基准考试后，， ，，，两者的得分都比 Mem0 的最佳效果横跨 10%。。 。。。。”网友点评道，， ，，，“这个职业里的‘空气产品’多到离谱。。 。。。。我相识为了拿到风投，， ，，，企业会夸张功用，， ，，，但在科研论文里说谎着实是可悲。。 。。。。”
两个“顶流”兴起
Mem0 和 Letta 的降生都是为了处置惩罚大模子的长时刻回忆问题。。 。。。。
自 GPT-4 面世以来，， ，，，大模子一直受限于牢靠的上下文长度。。 。。。。没有长时刻回忆，， ，，，大模子和智能领碰面临显着约束：它们会遗忘信息，， ，，，无法随着时刻学习和改善，， ，，，并且在长时刻、杂乱的使掷中会失掉目的。。 。。。。
为此，， ，，，在 2023 年，， ，，，加州大学伯克利分校（UC Berkeley）的钻研团队提出的一种立异式系统 MemGPT，， ，，， 学习古板操作系统（OS）的理念，， ，，，引进了智能体的回忆办理，， ，，，经由构建回忆层级，， ，，，让智能体自动办理哪些信息保保存即时上下文（中心回忆）中、哪些存储在外部层（对话回忆、归档回忆和外部文件），， ，，，以便按需检索。。 。。。。这样，， ，，，智能体能够在牢靠的上下文窗口内坚持无限的回忆容量。。 。。。。
MemGPT 的钻研迅速引起社区重视，， ，，，MemGPT 论文的帖子在 Hacker News 主页上停留了 48 小时，， ，，，开源后已累积 17.8k stars。。 。。。。
随着开源项目的推进，， ，，，团队建设了名为 Letta 的公司，， ，，，继续�；；；；； ；� MemGPT 开源结构，， ，，，并推进其商业化和工程化落地。。 。。。。原来的 MemGPT 也晋级成了 Letta。。 。。。。
这家由伯克利博士生 Sarah Wooders 和 Charles Packer 建设的 AI 首创公司备受期待。。 。。。。Letta 取得了由 Felicis 的 Astasia Myers 领投的 1000 万美元种子资金，， ，，，本轮估值为 7000 万美元。。 。。。。别的，， ，，，还获得了人工智能领域一系列天使投资人的支持，， ，，，其间包括谷歌的 Jeff Dean、Hugging Face 的 Clem Delangue、Runway 的 Cristóbal Valenzuela 和 Anyscale 的 Robert Nishihara 等。。 。。。。
现在，， ，，，许多智能体系统都完结了 MemGPT 的妄想。。 。。。。
Mem0 则是由印度工程师 Taranjeet Singh 和 Deshraj Yadav 建设，， ，，，源于他们构建开源检索增强天生 (RAG) 结构 Embedchain 的履历，， ，，，该结构下载量逾越 200 万次。。 。。。。
依据 YC 的介绍，， ，，，Singh 曾作为首位增添工程师加入 Khatabook（YC S18），， ，，，并迅速提升为高等产品司理。。 。。。。他的软件工程职业生涯始于 Paytm（印度的 PayPal），， ，，，亲历了其迅速兴起成为众所周知的品牌。。 。。。。他开发了一款由 AI 驱动的教育运用，， ，，，曾在 Google I/O 上露脸。。 。。。。他与 Deshraj 一起建设了 EvalAI，， ，，，这是一个开源的 Kaggle 取代渠道，， ，，，GitHub 上取得了 1.6K stars。。 。。。。他还建设了首个 GPT 运用商铺，， ，，，用户妄想突破 100 万。。 。。。。
Yadav 则普遍重视人工智能和机械学习基础设施领域，， ，，，曾向导特斯强揭阳论坛强奸904;赵灵儿拉自动驾驭的 AI 渠道，， ，，，支持特斯拉全自动驾驭开发中的大妄想训练、模子评价、监控和可视察性。。 。。。。在此之前，， ，，，Deshraj 在乔治亚理工学院完结硕士论文时建设了开源机械学习渠道 EvalAI，， ，，，并在 CVPR、ECCV、AAAI 等上宣布过论文。。 。。。。
Mem0 以为，， ，，，纯粹地扩展模子的上下文窗口只会推迟问题的爆发，， ，，，模子会变得更慢、资源更高，， ，，，并且仍然会疏忽要害细节。。 。。。。团队挑选经由一个通用、可扩展的回忆架构来处置惩罚问题，， ，，，Mem0 充当了 AI 运用程序和大模子之间的回忆层，， ，，，能够动态地从用户对话中提取、整合和检索主要信息。。 。。。。
Mem0 供应轻量级的回忆层 API 和向量检索，， ，，，开源不到一天就取得了 9.7k stars，， ，，，现在已累积 38.2k stars。。 。。。。Netflix、Lemonade 和 Rocket Money 等安排已选用 Mem0 来增强其 AI 系统的长时刻回忆才华。。 。。。。
别的，， ，，，业界还泛起了多种专用工具，， ，，，将“回忆”作为可插拔的效劳，， ，，，为智能体供应存储与检索信息的才华，， ，，，常见步伐包括运用知识图谱或向量数据库等妄想。。 。。。。
单独评价这些回忆工具的有用性极端难题。。 。。。。智能体的回忆质量往往更多取决于底层智能体系统办理上下文和挪用工具的才华，， ，，，而不是回忆工具自身。。 。。。。例如，， ，，，纵然一个查找工具理论上功用更强，， ，，，但若是智能体无法有用运用它，， ，，，例如提醒词妄想差或训练数据中短少相关示例，， ，，，它在回忆场景下的体现也不会好。。 。。。。
因而，， ，，，回忆工具的评价主要会集在类似 LoCoMo 这样的检索基准考试，， ，，，而非真实的智能体回忆才华。。 。。。。
LoCoMo 是一个从长对话中举行检索的问答基准，， ，，，专门用于评价大模子长时刻对话回忆才华，， ，，，由 Snap Research 团队推出。。 。。。。每个样本包括两名虚拟语言者和一份 AI 天生的带时刻戳的对话纪录，， ，，，使命是回复关于语言者或对话中泛起的现实问题。。 。。。。
不对在那里？？
在 4 月尾的论文中，， ，，，Mem0 团队在之前的基础上引进了依据图的回忆批注，， ，，，来增强联系建模才华。。 。。。。
之前，， ，，，Mem0 的提取阶段处置惩罚音讯和前史上下文以建设新的回忆；；；；； ；更新阶段则将提取出的回忆与类似的现有回忆举行比对，， ，，，经由工具挪用机制推行响应操作。。 。。。。数据库作为中心存储库，， ，，，供应处置惩罚所需的上下文，， ，，，并存储更新后的回忆。。 。。。。
引进依据图的回忆后，， ，，，提取阶段运用大模子将对话音讯转换为实体和联系三元组；；；；； ；更新阶段在将新信息整合到已有知识图谱时，， ，，，选用抵触检测与处置惩罚机制。。 。。。。
在实践完结中，， ，，，Mem0g 运用 Neo4j 作为底层图数据库 ，， ，，，依据大模子的提取器和更新模�？椴⒁栏骄哂泻灿貌呕� GPT-4o-mini，， ，，，从非结构化文本中举行结构化信息提取。。 。。。。经由将依据图的批注与语义嵌入以及依据大模子的信息提取相连系，， ，，，Mem0 取得了杂乱推理所需的结构丰富性和自然语言相识所需的语义迅速性。。 。。。。
在 LOCOMO 基准考试中，， ，，，Mem0 批注其继续逾越六种争先的回忆步伐，， ，，，体现为：呼应准确率比 OpenAI 的提高 26% 、推迟比全上下文步伐下降 91%、token 运用量节约 90%。。 。。。。
下图是差别回忆步伐在 p50 和 p95 的总呼应推迟较量，， ，，，其间包括了大模子推理在内的推迟。。 。。。。
Mem0 团队以为，， ，，，在 AI 智能体安排中，， ，，，依据详细推理场景迅速调解回忆结构很主要：
Mem0 的浓密回忆管道专长快速呼应、简略盘问，， ，，，最大极限削减 token 泯灭与核算开支；；；；； ；而改善后，， ，，，Mem0 的结构化图表征能明晰剖析杂乱联系，， ，，，支持杂乱事情排序和丰富上下文整合，， ，，，一起不献身实践功率。。 。。。。两者协力构建了一个多功用的回忆工具包，， ，，，能够习惯多样的对话需求，， ，，，并具有大妄想安排才华。。 。。。。
6 月时分，， ，，，Sarah 在 GitHub 上问询 Mem0 是怎么取得 MemGPT 的相关数据的，， ，，，但没有回应。。 。。。。
“有一个回忆工具厂商 Mem0 宣布了有争议的效果，， ，，，宣称在 LoCoMo 上运转了 MemGPT。。 。。。。但效果令人疑心，， ，，，由于咱们（MemGPT 的原团队）无法找到不举行大妄想代码重构就将 LoCoMo 数据灌入 MemGPT/Letta 的步伐。。 。。。。Mem0 并未回应咱们揭阳论坛强奸对其基准考试核算步伐的弄清乞求，， ，，，强奸赵灵儿也没有供应支持 LoCoMo 数据回填的修正版 MemGPT 完结。。 。。。。”Letta 批注。。 。。。。
外地时刻 8 月 12 日，， ，，，Letta 发文称，， ，，，Letta 在 LoCoMo 上仅经由将对话前史存储在文件中（而不是运用专门的回忆或检索工具），， ，，，就抵达了 74.0% 的准确率。。 。。。。这批注：
之前的回忆基准考试或许并不十分有寄义；；；；； ；
回忆更多取决于智能体怎么办理上下文，， ，，，而不是所运用的详细检索机制。。 。。。。
Letta 批注，， ，，，只管 Letta 自身没有原生步伐导入 LoCoMo 那样的对话前史，， ，，，但其最近为 Letta 智能体（包括 MemGPT 智能体）增添了文件系统功用。。 。。。。“咱们猎奇，， ，，，若是仅仅把 LoCoMo 的对话前史放进一个文件，， ，，，而不运用任何专用回忆工具，， ，，，Letta 的体现会怎么。。 。。。。”
当文件被挂载到 Letta 智能体后，， ，，，智能体能够运用以下文件操作工具：
- grep
- search_files
- open
- close
对话数据被放进一个文件并上传挂载到智能体中。。 。。。。Letta 会自动剖析并嵌入文件内容，， ，，，以便举行语义（向量）查找。。 。。。。智能体能够用 search_files 做语义查找，， ，，，用 grep 举行文本匹配，， ，，，再用 answer_question 回复问题。。 。。。。
为了与 MemGPT 的原试验坚持一致，， ，，，Letta 用 GPT-4o mini 作为模子。。 。。。。由于 GPT-4o mini 才华较弱，， ，，，Letta 让智能体部分自治，， ，，，经由规则约束其挪用工具的形式：必需先挪用 search_files 查找文件，， ，，，再一直查找直到决议挪用 answer_question 并完毕。。 。。。。查找什么、查找几多次由智能体自行决议。。 。。。。
“这个简略的智能体在 GPT-4o mini 和最少提醒调优的情形下，， ，，，就在 LoCoMo 上取得了 74.0% 的效果，， ，，，显着高于 Mem0 陈述的其最佳图回忆版别的 68.5%。。 。。。。”
Letta：才华比工具更主要
Letta 以为，， ，，，现在的智能体在运用工具方面十分高效，， ，，，尤其是那些很或许泛起在训练数据中的工具，， ，，，如文件系统操作。。 。。。。因而，， ，，，许多原来为单跳检索妄想的专用回忆工具，， ，，，还不如直接让智能体自主迭代查找数据来得有用。。 。。。。
智能体能够天生自己的查找盘问，， ，，，而不但仅是检索原始问题，， ，，，例如将 “How does Calvin stay motivated when faced with setbacks?” 转化为 “Calvin motivation setbacks”，， ，，，并且智能体能够继续查找直到找到准确数据。。 。。。。
智能体是否“记着”了某事，， ，，，取决于它能否在需求时乐成检索到准确信息。。 。。。。因而，， ，，，更主要的是思量智能体是否能够有用运用检索工具（知道何时以及怎么挪用），， ，，，而不是纠结于详细的检索机制（如知识图谱仍是向量数据库）。。 。。。。
Letta 还提出，， ，，，现在智能体能够十分高效地运用文件系统工具，， ，，，在很洪流平上是由于后期优化要点倾向智能体的编码使命。。 。。。。一样平常来说，， ，，，越简略的工具越或许泛起在智能体的训练数据中，， ，，，也越简略被有用运用。。 。。。。只管更杂乱的妄想（如知识图谱）在特定领域或许有用，， ，，，但它们或许更难被 大模子（智能体）相识。。 。。。。
“智能体的回忆才华取决于智能体的架构、工具和底层模子。。 。。。。较量智能体结构与回忆工具，， ，，，就像较量苹果和橘子，， ，，，由于结构、工具和模子都是能够自由组合的。。 。。。。”Letta 说道。。 。。。。
那怎么准确评价智能体回忆才华呢？？
Letta 先引荐了自家的 Letta Memory Benchmark（Letta 排行榜） 供应了同类比照（apples-to-apples），， ，，，在坚持结构（现在仅 Letta）和工具稳固的情形下，， ，，，评价差别模子在回忆办理方面的才华。。 。。。。该基准在动态上下文中即时天生回忆交互场景，， ，，，然后评价智能体回忆，， ，，，而不但仅是检索才华（如 LoCoMo）。。 。。。。
然后指出，， ，，，另一种步伐是直接评价智能体在需求回忆的详细使掷中的全体体现。。 。。。。例如 Terminal-Bench，， ，，，考试智能体处置惩罚杂乱、长时刻运转使命的才华。。 。。。。由于使命时刻长且需求处置惩罚远超上下文窗口的信息，， ，，，智能体能够运用回忆盯梢使命状态与希望。。 。。。。
最终，， ，，，Letta 总结道，， ，，，关于妄想优异的智能体，， ，，，纵然是简略的文件系统工具，， ，，，也足以在 LoCoMo 这样的检索基准中体现优异。。 。。。。
参阅链接：
https://x.com/sarahwooders/status/1955352237490008570?s=46
https://www.letta.com/blog/benchmarking-ai-agent-memory
本文来自微信公共号“InfoQ”，， ，，，作者：褚杏娟 ，， ，，，36氪经授权宣布。。 。。。。
相关附件
荆州市都会治理执法委员会主理荆州新闻网承办
地点：湖北省荆州市沙市区北京西路307号
联系电话：0716-8270890传真：
鄂ICP备05028271号鄂公网安备 42100202000246号网站标识码：4210000057
