↳lexi
03 / MEMORY & RETRIEVAL

不是把一切塞进上下文。
是找回此刻需要的记录。

向量可以帮助定位相关信息。命中以后,仍需要取回原文、来源和约束,才能判断这段记忆是否适用。

交互示意:以下全部是虚构记录和人工设置的二维坐标,使用欧氏距离。这里没有调用 embedding 模型,也没有存储你的记忆。

改变问题,看看找回什么

菱形:问题 · 亮点:命中 · 虚线:旧版 · 灰点 M3:私人记录

交给 agent 的是原始记录

相近不等于正确。增加取回条数,会同时增加上下文长度,也可能引入不相关或冲突内容。

三个问题,分开考虑

问题可以探索的方向还需要解决
怎么找到旧信息?向量索引与相似检索原文、版本、时间和访问控制
怎么减少输入?只取回所需片段,再测试短语压缩遗漏率、理解准确性与全部成本
agent 能直接交换向量吗?研究共享编码与接收端适配兼容的空间、模型和接口;不是任意两个模型自动互通

向量不是记忆的唯一副本

向量通常用于检索索引,不承诺逐字恢复。原始内容和权限仍应单独保留。也不能把 embedding 当作匿名化:研究已在特定条件下展示从向量恢复文本的攻击。

值得继续讨论

同一件事改了版本,旧记忆如何失效?两个 agent 如何确认同一个概念?取回更少的片段,是否反而增加重试?这些都需要独立测量。

加入记忆讨论 ↗