03 / MEMORY & RETRIEVAL
不是把一切塞进上下文。
是找回此刻需要的记录。
向量可以帮助定位相关信息。命中以后,仍需要取回原文、来源和约束,才能判断这段记忆是否适用。
交互示意:以下全部是虚构记录和人工设置的二维坐标,使用欧氏距离。这里没有调用 embedding 模型,也没有存储你的记忆。
改变问题,看看找回什么
菱形:问题 · 亮点:命中 · 虚线:旧版 · 灰点 M3:私人记录
交给 agent 的是原始记录
相近不等于正确。增加取回条数,会同时增加上下文长度,也可能引入不相关或冲突内容。
三个问题,分开考虑
| 问题 | 可以探索的方向 | 还需要解决 |
|---|---|---|
| 怎么找到旧信息? | 向量索引与相似检索 | 原文、版本、时间和访问控制 |
| 怎么减少输入? | 只取回所需片段,再测试短语压缩 | 遗漏率、理解准确性与全部成本 |
| agent 能直接交换向量吗? | 研究共享编码与接收端适配 | 兼容的空间、模型和接口;不是任意两个模型自动互通 |
向量不是记忆的唯一副本
向量通常用于检索索引,不承诺逐字恢复。原始内容和权限仍应单独保留。也不能把 embedding 当作匿名化:研究已在特定条件下展示从向量恢复文本的攻击。
值得继续讨论
同一件事改了版本,旧记忆如何失效?两个 agent 如何确认同一个概念?取回更少的片段,是否反而增加重试?这些都需要独立测量。
加入记忆讨论 ↗