← 返回信息技术目录 Transformer · 自注意力 Q·Kᵀ/√d → softmax
1

自注意

词关注所有词
2

QKV

查询/键/值
3

softmax

权重归一
4

应用

NLP大模型
点击播放观察注意力