当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-24 21:40:10
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 有哪些你觉得逆天的电脑硬件?
- 为什么明明35岁以上的员工更稳定,招聘时不要,被裁的也是他们?
- 纯理科高中生想接触科技圈子,学软件硬件编程,有空自己造点东西。问问各位大佬从哪里开始了解,入门,动手?
- 为什么日本人室内光脚啊?他们屋子里有这么干净吗?
- 为什么现在的年轻人宁愿自己工资低点,也要过得舒服、不那么累?
- 如何评价网传鸿蒙 PC 成功裸机启动 Windows ARM?
- 程序员看剧的时候,如果看到有敲代码页面,会暂停看代码吗?
- 为什么现在很多人推崇国外原版教材?
- 长期使用的大佬来说说,MacOS 真的比 Windows 稳定吗?
- 为什么都认为无GC语言一定会比有GC语言要快?
最新资讯文章
- docker有哪些有趣的用途?
- 男的真的会把所有衣服从上到下都扔洗衣机吗?
- PHP现在真的已经过时了吗?
- 大家都喜欢用什么浏览器?
- 为什么没人提微软裁员?
- 精子会残留在女性的体内嘛?
- Node.js是谁发明的?
- 大家都用的什么云服务器?大家都用的什么云服务器?
- 程序员都有自己的服务器吗?
- python与nodejs哪个性能高?
- 有哪些是你用上了mac才知道的事?
- 为什么web worker可以在前端开多线程,解决单线程卡死页面的问题,但是没有得到广泛使用?
- 现在已经有5K、6K、8K分辨率显示器,那么8K之后是什么?
- 俄罗斯妹子***漂亮热情,中国男人是不是很喜欢娶?
- 想往鱼缸里种点水草,但是家里鱼缸大了买水草泥或者底砂太贵了,有没有生活中可以替代的物品或其他建议?
- 为什么日本人室内光脚啊?他们屋子里有这么干净吗?
- 能够自己一个人创业的全栈web码农fullstack developer要会哪些技术?
- 男朋友负债 2 万亿人民币,能要吗?
- 男朋友说我穿衣服太开放,难道好身材不应该显示出来吗?
- 搞了NAS之后去哪里下载4K,8K的电影?





