Anthropic 开源神经网络追踪工具，可生成归因图
创始人
2025-06-03 11:41:45
0次
6 月 2 日消息，Anthropic 公司现已正式开源了其新一代的神经网络追踪（Circuit Tracing）工具，旨在帮助研究人员深入解析大模型的内部推理机制。
据悉，该工具可生成一系列“归因图（Attribution Graphs）”以展示 AI 模型处理提示词的具体过程，便于开发者进一步观察、微调模型。
此外，Anthropic 还与 Decode Research 团队合作推出了 Neuronpedia 前端平台，用户可以在网页上直接与相应归因图进行互动。平台还提供了“示例笔记本”，展示如 Gemma-2-2b 和 Llama-3.2-1b 等模型的内部运作方式，鼓励用户尝试各种提示词，比较不同模型的具体行为。
Anthropic 公司首席执行官 Dario Amodei 指出，大模型的“可解释性”已成为业界共同关注的课题，这套神经网络追踪工具将促进社区参与度，有助于开发者加快对大模型行为逻辑的理解。
相关内容
热门资讯
透视总结(WPK)本来是真的有...
透视总结(WPK)本来是真的有挂(透视)wpk俱乐部是真的吗(科技教程)1、wpk俱乐部是真的吗ai...
透视app!aapoker透视...
透视app!aapoker透视脚本(透视)脚本(其实真的是有挂)1、aapoker透视脚本透视辅助简...
透视肯定！hhpoker是真的...
透视肯定！hhpoker是真的假的，aapoker怎么选牌（透视）素来是有挂（普及教程）；1、下载好...
透视中牌率！红龙poker有辅...
透视中牌率！红龙poker有辅助吗，steampokermaster辅助，好像真的是有挂（AI教程）...
透视游戏(WPK)一贯是真的有...
透视游戏(WPK)一贯是真的有挂(透视)wpk显示有作弊(德州教程)；1、全新机制【wpk显示有作弊...
透视有挂!aapoker万能辅...
透视有挂!aapoker万能辅助器(透视)如何设置胜率(一贯是有挂)；aapoker万能辅助器是一种...
透视挂！智星菠萝透视，soho...
透视挂！智星菠萝透视，sohoo开挂辅助，真是有挂（详细教程）1、起透看视 智星菠萝透视透明视辅助2...
透视实锤！wepokerplu...
透视实锤！wepokerplus外挂，hhpoker辅助器（透视）一直是有挂（攻略教程）1、操作简单...
透视真的(WPK)总是存在有挂...
透视真的(WPK)总是存在有挂(透视)wpk插件(介绍教程)亲，关键说明，wpk插件赛季回归，wpk...
透视教程!aapoker怎么拿...
透视教程!aapoker怎么拿好牌(透视)透视脚本入口(其实是真的有挂)暗藏猫腻，小编详细说明aap...