科技

AI 越记住你,越可能"带着偏见理解你"

来源:搜狐新闻
AI 越记住你,越可能"带着偏见理解你"

先前的人工智能有一个特点:它容易遗忘。

某日情绪低落,次日又能重新振作;上个月表示讨厌社交,这个月却主动结识新朋友;曾经因失业而焦虑,反复询问职业规划,后来换了个方向,逐渐走了出来。对那些没有长期记忆的 AI 来说,这些经历都只是一次次独立的对话——窗口关闭,关系也随之清零,它们不会翻旧账,也不会用过去的你来评判今天的你。

但现在,长期记忆改变了这一切。

这样的经历并不少见。当你打开一个使用了大半年的 ChatGPT 账号的记忆摘要页时,常常能看到这样的内容:某天深夜抱怨过一次"今天又加班到十点",摘要页里就多了一条"用户对当前工作强度不满";某次随意询问过体检报告上的一个指标,摘要页里便留下了"用户关注自身健康状况,可能存在焦虑倾向"的记录。

这些推断未必完全错误,但也从未得到本人的确认——你说的只是一句抱怨,它记录的却是一个结论。下一次当你询问跳槽或体检相关话题时,它给出的建议已经悄然绕过了那个被自己脑补出来的前提。这并非孤例,后面将看到一组研究数据:多数用户认为的"记忆",自始至终都不是自己透露的事实,而是系统替他们做的归纳。

这就是 AI 记忆最容易被忽视的一面:它记住的并非你说过的话,而是它从你的话中"推断出的你"。这份推断持续累积、自动更新、难以核对,然后反过来成为它回答你每一个问题的隐形前提。它不是不认识你,而是太相信过去的你。

过去两年里,"记忆"是所有 AI 助手最着力宣传的能力——更懂你、更贴心、无需重复自我介绍。但到了 2026 年上半年,一批研究者和安全团队几乎同时敲响了另一面的警钟:AI 越是记住你,越可能带着偏见理解你。而且,让它"懂你"的机制和让它"偏见地懂你"的机制,在技术上是同一套机制。

Personalization features can make LLMs more agreeable

所有人都想比你更懂你

先来看这场竞赛已经进行到了何种地步。

OpenAI 早在 2025 年 4 月就更新了 ChatGPT 的记忆功能,让模型不再仅仅依赖于用户手动保存的条目,而是可以参考全部历史聊天记录。今年 6 月 4 日,OpenAI 又上线了一个名为"Dreaming"(做梦)的新记忆系统:一个后台进程会在用户不在场时,自动从多轮对话中提炼、综合、改写它对用户的认知——就像人在睡眠中整理记忆一样。

它甚至拥有"时间感知"功能:你说过"7 月要去新加坡",过了 7 月,这条记忆会自动更新为"你 2026 年 7 月去过新加坡"。OpenAI 同时宣布,通过计算优化,服务免费用户的算力成本降低了约 5 倍——深度记忆很快将不再是付费特权,而是所有人的默认体验。

Anthropic 为 Claude 配上了记忆文件和项目记忆,Google 在推进 Gemini 的跨应用个性化。国内市场亦是如此:月活已接近 3.5 亿的豆包,以及 Kimi、元宝,记忆和个性化都被摆在产品迭代的最前排。

厂商为何如此执着?因为在 AI 助手时代,记忆是最坚固的护城河。搜索引擎知道你想查找什么,推荐系统知道你想看什么,电商平台知道你想购买什么——但 AI 助手想知道的更多:你是谁、你怎么思考、你为什么焦虑、你如何做决定、你在什么情况下会犹豫。这已经不再属于传统意义上的用户画像,而是一份动态人格档案。一个记得你半年偏好、项目背景、说话习惯的助手,换掉它的成本会随着每一次对话的增加而上升——记忆越深,用户越难迁移。

据哥伦比亚新闻评论(CJR)旗下 Tow 中心报道,OpenAI 的广告试点在六周内就达到了 1 亿美元的年化收入。

当"最懂你的 AI"开始同时售卖广告时,那份关于你的画像,用途就不再仅仅是为你服务了。互联网历史上,这样的故事我们早已目睹过一次:上一个靠"懂你"起家的

相关推荐

网友评论

登录后发表评论
暂无评论,抢沙发吧~