Anthropic 开源神经网络追踪工具，可生成归因图
创始人
2025-06-03 11:41:45
0次
6 月 2 日消息，Anthropic 公司现已正式开源了其新一代的神经网络追踪（Circuit Tracing）工具，旨在帮助研究人员深入解析大模型的内部推理机制。
据悉，该工具可生成一系列“归因图（Attribution Graphs）”以展示 AI 模型处理提示词的具体过程，便于开发者进一步观察、微调模型。
此外，Anthropic 还与 Decode Research 团队合作推出了 Neuronpedia 前端平台，用户可以在网页上直接与相应归因图进行互动。平台还提供了“示例笔记本”，展示如 Gemma-2-2b 和 Llama-3.2-1b 等模型的内部运作方式，鼓励用户尝试各种提示词，比较不同模型的具体行为。
Anthropic 公司首席执行官 Dario Amodei 指出，大模型的“可解释性”已成为业界共同关注的课题，这套神经网络追踪工具将促进社区参与度，有助于开发者加快对大模型行为逻辑的理解。
相关内容
热门资讯
据监测！吉祥小程序填大坑辅助器...
据监测！吉祥小程序填大坑辅助器，关春天凑一桌辅助（本来真的有软件）-哔哩哔哩1）吉祥小程序填大坑辅助...
热点推荐!!微信小程序黑科技(...
热点推荐!!微信小程序黑科技(外挂),微乐自建房辅助软件如何下载好像有挂方略1、这是跨平台的轻量版有...
近年来！微乐小程序辅助工具，方...
近年来！微乐小程序辅助工具，方片十三张外g挂（都是是真的软件）-哔哩哔哩1、该软件可以轻松地帮助玩家...
最新通报!微乐小程序免费黑科技...
最新通报!微乐小程序免费黑科技(外挂),微乐小程序辅助器好像揭秘有挂脚本下载中分为三种模型：挂靠谱的...
一起来讨论!微信小程序免费黑科...
一起来讨论!微信小程序免费黑科技(外挂),微信小程序辅助器免费版确实有挂方法亲，关键说明，透视脚本安...
网友热议！欢乐对决破解版免内购...
网友热议！欢乐对决破解版免内购，新玄龙小程序辅助（切实真的是有下载）-哔哩哔哩欢乐对决破解版免内购是...
周末中国大部降水稀少气温偏高，...
11月22日消息，周末两天（11月22日至23日），中国中东部雨雪稀少，天气晴朗干燥，雨雪主要集中在...
盘点一款!!微乐小程序黑科技(...
盘点一款!!微乐小程序黑科技(外挂),微乐小程序挂哪里有总是证实有挂运辅助工具，进入游戏界面。进入辅...
飞鹿股份：骁光智能受让1100...
11月21日消息，飞鹿股份公告，2025年8月22日，股东章卫国与上海骁光智能技术有限公司签署《股份...
北京汽车：拟出售北汽国际51%...
11月21日消息，北京汽车公告，于2025年11月21日（交易时段后），公司与北汽集团订立股权收购协...