Anthropic 开源神经网络追踪工具，可生成归因图
创始人
2025-06-03 11:41:45
0次

6 月 2 日消息，Anthropic 公司现已正式开源了其新一代的神经网络追踪（Circuit Tracing）工具，旨在帮助研究人员深入解析大模型的内部推理机制。

据悉，该工具可生成一系列“归因图（Attribution Graphs）”以展示 AI 模型处理提示词的具体过程，便于开发者进一步观察、微调模型。

此外，Anthropic 还与 Decode Research 团队合作推出了 Neuronpedia 前端平台，用户可以在网页上直接与相应归因图进行互动。平台还提供了“示例笔记本”，展示如 Gemma-2-2b 和 Llama-3.2-1b 等模型的内部运作方式，鼓励用户尝试各种提示词，比较不同模型的具体行为。

Anthropic 公司首席执行官 Dario Amodei 指出，大模型的“可解释性”已成为业界共同关注的课题，这套神经网络追踪工具将促进社区参与度，有助于开发者加快对大模型行为逻辑的理解。

上一篇：6月11日见！华为Pura 80系列发布在即，影像旗舰强势来袭

下一篇：荣耀400海外预售远超预期两三倍 李健：正加速供货

相关内容

热门资讯

黑科技最新(AAPOker)外... 1、黑科技最新(AAPOker)外挂透明挂黑科技辅助挂(透视)wpk教程(2021已更新)(哔哩哔哩...
十分钟了解！wepoke透明好... 十分钟了解！wepoke透明好友局，皮皮麻将不输秘诀，必赢方法（确实有挂）-哔哩哔哩1、在皮皮麻将不...
黑科技ai(德州aapoker... 您好，德州aapoker俱乐部这款游戏可以开挂的，确实是有挂的，需要了解加威信【136704302】...
第6分钟了解！德扑之星ai计算... 第6分钟了解！德扑之星ai计算，微信小程序雀神辅助插件免费，技巧教程（有挂教学）-哔哩哔哩1、微信小...
黑科技ai(wEpoKe)外挂... 黑科技ai(wEpoKe)外挂透明挂黑科技辅助挂(透视)可靠教程(2021已更新)(哔哩哔哩)1、w...
第九分钟了解！wpk辅助软件，... 第九分钟了解！wpk辅助软件，先锋大厅外挂怎么开，新2025教程（有挂透视）-哔哩哔哩1、每一步都需...
黑科技插件(来玩德州)外挂透明... 黑科技插件(来玩德州)外挂透明挂黑科技辅助插件(透视)揭秘攻略(2026已更新)(哔哩哔哩)1、用户...
第6分钟了解！wepoke软件... 第6分钟了解！wepoke软件机器人，中至乐平麻将有挂的吗，AA德州教程（详细教程）-哔哩哔哩；1、...
【视频】手机游戏是如何吸引你付... 手机游戏是如何吸引你付费的？ 大家在评论留下你氪的游戏和金额，看看神豪在哪里？
黑科技俱乐部(德州app)外挂... 黑科技俱乐部(德州app)外挂透明挂黑科技辅助神器(透视)wpk教程(2024已更新)(哔哩哔哩)1...