记忆张量发布并开源MemT 1.0 大模型学会“长记性”
由记忆张量研发的记忆原生模型MemT 1.0系列发布并开源。该系列将可持续存在、能够更新的内部记忆纳入模型计算,使历史信息与任务经验能够在后续相关任务中被直接调用。这意味着模型可以“长记性”, “有效经历”成为了可复用资产,为模型持续学习与自我进化打下基础。
新华财经上海10月20日电(记者 王鹤)10月20日,由记忆张量研发的记忆原生模型MemT 1.0系列正式发布并开源。该系列将可持续存在、能够更新的内部记忆纳入模型计算,使历史信息与任务经验能够在后续相关任务中被直接调用,无需再次提供原始历史文本,为人工智能大模型能力增长探索出新路径。
据介绍,该系列包含MemT-1.0-Flash与MemT-1.0-Nano 两款模型。该系列模型在11项记忆基准上位列参数化记忆方法第一、第二;在256K长历史场景下,端到端推理提速最高近4倍,持久化存储较传统完整上下文方案缩减约130倍。
记忆张量有关负责人介绍,传统方案处理长会话,靠的是把越来越长的历史文本一直带在模型上下文里,聊得越久、成本越高。MemT1.0的思路是让模型自己“记笔记”:在模型内部加入可训练的记忆模块,每轮交互结束后自动把新信息整理进固定大小的记忆,之后需要时直接“想起来”,而不是每次重新翻记录。模型在340亿词元(token)的训练语料上分两阶段训练:先学会把信息写进记忆,再学会根据记忆回答问题。
对开发者而言,记忆原生带来的价值可以落在三个层面。一是省成本。长会话不再需要把整段历史反复塞进上下文,推理开销与响应延迟更可预期,尤其适合客服、办公助手等高频长会话场景;二是体验更稳。历史再长,查询首字响应时间也基本保持不变,用户不会“越聊越卡”;三是能力能成长。记忆的保留、更新与调用都由模型在训练中学会,随着交互积累,模型可以真正“记住”经验并在后续任务中复用,为持续学习与自我进化打下基础。
可以说,过去,大模型能力主要靠参数、数据与上下文三条路径增长,MemT 1.0让“有效经历”成为可复用资产。
记忆张量研发团队表示,未来将继续提升长期记忆、扩展记忆容量、降低记忆更新成本,逐步迈向能够从交互中持续学习、通过记忆不断进化的智能体,让记忆原生为持续学习及递归自我改进(RSI)提供基础。
编辑:林郑宏
声明:新华财经(中国金融信息网)为新华社承建的国家金融信息平台。任何情况下,本平台所发布的信息均不构成投资建议。如有问题,请联系客服:400-6123115









