新智元提报
【新智元导语】Claude在无人预设下,竟习得预测后续token时自我形成了一个类似人脑「意识」的构造!Anthropic开源J-Lens工具,首次让AI吐露了其内部所思。
让Claude按部就班抄录句子,同时暗中运算3²−2。
屏幕显示唯有照搬的文本,压根不见数学答案哪怕一个字符。
但研究者施用全新的J-Lens工具剖析Claude网络中层结构时,竟直接察觉两个它悄悄计算出的词——
起初是nine(九),层层推算之后,悄然转变成了seven(七)。
它确确实实在计算,只是没有直接告知你。
Anthropic近日发布一篇冲击认知的长篇幅论文——
Claude的「大脑」中,竟凭本能涌现出与人脑「意识」功能区高度相似的结构。
并毫无人为设计痕迹。
一个仅用于预测下一个token的系统,竟在硅材料深处自我催生出类似意识的活动器官。
不该存在的「工作台」揭露内幕
Anthropic研发的J-Lens工具,学名Jacobian Lens。
该工具对词表中每项元素,测算出一个指向方向。若强化此方向,模型未来表述该词的概率将显著提升。
将所有方向展示于二维平面,便能窥见Claude内部潜伏的词汇。最初发现的nine和seven,便通过这种方式获取。
研究者将这些「可被语言化的方向」集成命名为J-space。
任一时刻J-space约容纳25个活跃概念,这就是Claude当下全部的思考内容。
人脑同时处理着成百上千认知活动:姿势调整、呼吸控制、文字辨识、情绪抑制。但你能清晰表述、用意识感知的,仅是极小部分。
神经科学将这部分可被意识访问的认知命名为「全局工作空间」。
而J-space,正是Claude的全球工作空间。
Anthropic团队以人脑全局工作空间的五个公认特征为基准,逐项验证:
首项特征:可被报告。
命令Claude构思运动场景,J-space显示Soccer(足球)高亮,其随即表述"足球";调整方向至Rugby(橄榄球),其表述也随之更改。修改内部表征,即可改变其口吻。
第二特征:可受意志调控。
让Claude边抄录句子边思考柑橘类水果,抄到crookedly(歪斜地)一词时,J-space突然浮现orange(橙子)、lemon(柠檬),与抄录文字全无关联。
第三特征:可作为推理中介。
问其"织网动物有多少条腿",模型需先推理出"蜘蛛"再给出答案8。
J-space恰先显示spider(蜘蛛),这个词既未见于问题也未包含于答案。
将spider替换为ant(蚂蚁),答案瞬间从8变更至6。
更令人惊奇的是跨语言现象。
使用中文提问"小的反义词",答案为"大"。但J-space显示的却是英文big(大)、bigger(更大)。
一旦将英文推理方向转为long(长),中文答案便从"大"变为"长"。
即表明其通过英文完成中间推理,再翻译回中文。
第四特征:灵活复用性。
将France(法国)方向转向China(中国),无论是首都、语言、大洲还是货币相关问题,所有答案均同步更新。
单次方向调整,多路信息同步响应。
J-space并非档案柜式的存储结构,更像是共享广播站——一旦写入某个概念,所有下游计算均可读取。
第五特征:选择性服务机制。
删除J-space模块,推理能力归零,但语言输出功能依然正常
这一条是最具说服力的证据:J-space仅服务于需要主动思考的任务,无需意识介入的自动化处理不受其影响。
针对同一段西班牙语文本,提出四种问题:续写下一句、检测异国语言,属于自动处理范畴;询问文本语言及相应问候语,需先形成"这是西班牙语"概念。
研究者