Anthropic 开源神经网络追踪工具，可生成归因图
创始人
2025-06-03 11:41:45
0次

6 月 2 日消息，Anthropic 公司现已正式开源了其新一代的神经网络追踪（Circuit Tracing）工具，旨在帮助研究人员深入解析大模型的内部推理机制。

据悉，该工具可生成一系列“归因图（Attribution Graphs）”以展示 AI 模型处理提示词的具体过程，便于开发者进一步观察、微调模型。

此外，Anthropic 还与 Decode Research 团队合作推出了 Neuronpedia 前端平台，用户可以在网页上直接与相应归因图进行互动。平台还提供了“示例笔记本”，展示如 Gemma-2-2b 和 Llama-3.2-1b 等模型的内部运作方式，鼓励用户尝试各种提示词，比较不同模型的具体行为。

Anthropic 公司首席执行官 Dario Amodei 指出，大模型的“可解释性”已成为业界共同关注的课题，这套神经网络追踪工具将促进社区参与度，有助于开发者加快对大模型行为逻辑的理解。

上一篇：6月11日见！华为Pura 80系列发布在即，影像旗舰强势来袭

下一篇：荣耀400海外预售远超预期两三倍 李健：正加速供货

相关内容

热门资讯

新加坡国立大学规范人工智能应用 2024年，新加坡国立大学以新加坡官方发布的《国家人工智能战略》《个人数据保护法》《生成式人工智能治...
抗静电PA46是什么，有哪些独... 抗静电 PA46：特性、优势与应用 一、抗静电 PA46 材料概述 抗静电 PA46 属于聚酰胺家...
屏幕录制在哪儿？揭秘6个隐藏位... 你可能已经翻遍了电脑的任务栏和手机的设置菜单，却依然没找到那个关键的录屏按钮。不管是记录工作会议的重...
姐姐称自己初中时是班花，见弟弟...
扎针再痛也要保持微笑，当哭包女...
山东顺成化学取得溴素精馏冷却装... 金融界2025年6月4日消息，国家知识产权局信息显示，山东顺成化学有限公司取得一项名为“一种溴素精馏...
大学生开学回宿舍衣服被蜜蜂筑巢...
“同心之力”激发创新活力 航空... 中新网长沙6月4日电(张雪盈 钟婷)“论文写在祖国大地上，成果刻在飞机跑道上。”这是李繁飙常挂嘴边的...
原创 车... 勇砺商业评论 | 白丽 5月31日，从深圳会场悄然飞起的一枚“隐形飞镖”终于引发了 24 小时后的口...
北京海淀发布导航大模型 机器人... 6月1日，北京海淀科技企业银河通用推出自主研发导航大模型TrackVLA，标志着机器人在复杂动态环境...