新闻动态
新闻动态
- 为什么没有核动力货轮？
- 为什么tokio能成为rust异步标准？
- 小米YU7从7月提前至6月底发布，是什么原因导致提前发布？
- 女生真正的完美身材是什么样子？
- 32岁程序员独立开发者纠结要不要回农村生活?
- 同事连续几天把孩子带来上班，你们有过这样的经历吗？
- cloudflare的1.1.1.1和warp有什么区别？
- 伊朗这次让以色列打惨了，这个国家还能挺过来吗？
- 如何评价MiniMax推出的全球首个开源大规模混合架构的推理模型MiniMax-M1，其有何技术优势？
- 周慧敏唱功怎么样?
联系我们
邮箱：youweb@qq.com
手机：13988888888
电话：020-88888888
地址：广东省广州市番禺经济开发区
公司动态
为什么我还是无法理解transformer？
作者：admin 发布时间：2025-06-25 07:55:11 点击：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
新闻资讯
-
2025-06-18 17:10:13小米汽车官方解释了刹车盘生锈属于正常现象，并提供了两种除锈功能，这些措施是否足够有效？
-
2025-06-18 17:55:12维护一个大型开源项目是怎样的体验？
-
2025-06-18 17:30:14广州的公共交通为什么这么烂？
-
2025-06-18 16:35:14开源 waf 哪些值得推荐？
-
2025-06-18 17:55:12如果得知一枚核弹将在10分钟后在你的城市爆炸，除了等死还能干嘛？
-
2025-06-18 16:45:14维护一个大型开源项目是怎样的体验？
相关产品
