为什么我还是无法理解transformer？
时间：2025-06-25 03:00:10 来源：网络 人气：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
发表评论
排行
- 作为一个服务器，node.js 是性能最高的吗？
- 男朋友因为打游戏骗我去睡觉被我识破，然后我提了分手，他同意了，问问男孩子们他怎么想的？
- 脸与身材不符是种怎样的体验？
- 你在健身房发生过什么有趣的事情?
- 广汽埃安被曝爆雷，员工股权认购缩水仅退 42%，高管却全额退款，广汽辟谣，具体情况如何？
- 如果发动机热效率达到100%，一升汽油大概可以让汽车行驶多少公里？
- 如何看待光线传媒董事长称《哪吒 2》票房分账最不公平，100 块票房片方只拿 33 块？怎么分才合理？
- 有没有免费的云服务器?
- 独立站怎么阻止别人盗我的产品？
- 中国驻以色列使馆紧急提醒「在以中国公民尽快陆路离境」，目前当地华人情况怎么样？撤离时要注意什么？
{dede:myad name='right'/}
评论列表（条）