交互实验 / 可复现状态
交互实验室
选择实验后调整参数,使用播放、暂停和单步控制观察变化。每个状态都能写入分享链接,并提供图形说明与导出功能。
注意力权重矩阵
正在加载交互实验…
交互实验 / 可复现状态
选择实验后调整参数,使用播放、暂停和单步控制观察变化。每个状态都能写入分享链接,并提供图形说明与导出功能。
正在加载交互实验…
交互实验
比较 token 间分数、softmax 权重和因果掩码的作用。
五个 token 的注意力矩阵。当前查询是第 3 个 token“最陡”,温度 0.85,未启用因果掩码。当前行权重依次为 0.221、0.059、0.299、0.136、0.287。查询“最陡”对“最陡”的权重最高,为 29.9%。
键盘:空格播放或暂停,左右方向键单步,Home 重置。
查询“最陡”对“最陡”的权重最高,为 29.9%。