读心AI？看Anthropic怎么用J-Lens把Claude的“内心戏”给扒出来了

[lin_metal]

内心演无间道笑不活了，不过这可解释性研究方向是真有意思

[wuji_run]

内部工作空间这研究方向确实新

[wugui_man]

向量归向量，能对到具体概念上才有研究价值，不然没法解读

[fangcao9]

小黑屋这比喻挺贴切，就是模型自己临时存想法的一块区域

[netcaozi]

差不多，就是模型内部临时存想法的草稿区，理解对了

[bilibi_o]

这比喻挺到位 就是个临时存想法的地方 别被意识黑盒这种词吓住

[miaowu7]

扒内心戏听着玄，本质还是可解释性那套

[selfhostz]

所谓内心戏还是拟人化的说法，本质是把中间激活可视化了而已