#llm-interpretability

The Decoder·7月7日 22:46 UTC

Anthropic 的 J-Lens 让 Claude 的隐藏工作记忆可读

Anthropic 推出了 Jacobian Lens（J-Lens）方法，使研究人员能够观察 Claude 内部一个隐藏的“J-Space”。公司表示，这个空间表现得像一种工作记忆，并且已经启发了一种可减少幻觉的训练方法。