当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-25 10:25:18
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 如何低成本地过有益的生活?
- 如何评价B站UP主LKs(拉克丝)?
- 苹果 6 月 10 日召开的 2025 年全球开发者大会「WWDC25」,有哪些值得关注的信息?
- 为什么当今 Web 应用不都***用 WebSocket 形式进行数据交互?
- 高并发下怎么做余额扣减?
- 给排水设计软件学哪几个?
- 求推荐程序开发笔记本!?
- 软路由真的比硬路由更好吗?
- 如何评价Cursor?
- 刘强东看到了什么,才去搞外卖?
最新资讯文章
- 人间尤物是什么样的?
- 可以随身携带一个Linux系统吗?
- Mac上有那些你认为极其好用的***?
- 哪张照片让你觉得刘亦菲美得不可方物?
- 当年的东莞究竟有多疯狂?
- 请问照片里这个人是谁呀?
- H264和H265谁画质好,求回谢谢!?
- 出国给你最大的感受是什么?
- 住顶楼,经常有户人家上来晒被子,说了好多次不听,怎么办?
- 为什么有些人不喜欢春晚提到饺子?
- 你们是怎么远程用NAS听歌的?
- 编程语言 MoonBit 发布 Beta 版,正式进入企业场景应用,会带来哪些影响?
- 有没有什么免费工具可以续签SSL证书,还能自动部署到服务器和CDN?
- 求大神解答,为什么大家都不喜欢用docker?
- 被执行人欠我26万,一次性付清20w和解,我该同意吗?
- Rust 的设计缺陷是什么?
- 如何评价剪映svip,599一年,有替代方案吗?
- 30岁,995,目前还是unity客户端最低端 ui拼图仔还有必要坚持吗?
- 为什么 electron 不做成独立的 runtime?
- 伊朗若拥有巴基斯坦的中国防控体系,能否把美国的B2轰炸机打下来?如果打下会对世界局势产生什么影响?