精选新鲜的资讯为您呈现
-
如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？
如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？···
音乐 -
大模型 Agent 是不是就是各种 Prompt 的堆叠？
大模型 Agent 是不是就是各种 Prompt 的堆叠？···
音乐 -
个人开发者或小企业不申请经营性ICP备案，怎样开发APP盈利?
个人开发者或小企业不申请经营性ICP备案，怎样开发APP盈利?···
音乐 -
你手机中最舍不得卸载的APP是什么？
你手机中最舍不得卸载的APP是什么？···
音乐 -
年纪轻轻为什么会得腰肌劳损？
年纪轻轻为什么会得腰肌劳损？···
音乐 -
如何评价首个女性友好的编程语言HerCode?
如何评价首个女性友好的编程语言HerCode?···
音乐 -
群晖 nas 有些什么基本和好玩的功能？
群晖 nas 有些什么基本和好玩的功能？···
音乐 -
可以发一下你存在相册里的可爱小动物吗？
可以发一下你存在相册里的可爱小动物吗？···
音乐 -
到底是时代选择了Nvidia,还是Nvidia选择了时代？
到底是时代选择了Nvidia,还是Nvidia选择了时代？···
音乐
为什么我还是无法理解transformer？
2025-06-24 17:20:13 来源：本站不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
猜你喜欢