当前位置： 首页 > news >正文

基于 pytorch 的手写 transformer + tokenizer

news 文章来源：https://blog.csdn.net/SP_FA/article/details/129624740 2025/1/8 6:08:02

先放出 transformer 的整体结构图，以便复习，接下来就一个模块一个模块的实现它。
在这里插入图片描述

1. Embedding

在这里插入图片描述

Embedding 部分主要由两部分组成，即 Input Embedding 和 Positional Encoding，位置编码记录了每一个词出现的位置。通过加入位置编码可以提高模型的准确率，因为同一个词出现在不同位置可能代表了不同意思，这直接影响了最终的结果，所以要考虑位置因素。

位置编码公式：
P E ( p o s , 2 i ) =

相关文章：

基于 pytorch 的手写 transformer + tokenizer

先放出 transformer 的整体结构图，以便复习，接下来就一个模块一个模块的实现它。 1. Embedding Embedding 部分主要由两部分组成，即 Input Embedding 和 Positional Encoding，位置编码记录了每一个词出现的位置。通过加入位置编码可以提高模型的准确率，因为同一个词出现在…...

编程日记 2023/3/19 3:01:59

算法小抄6-二分查找

二分查找,又名折半查找,其搜索过程如下: 从数组中间的元素开始,如果元素刚好是要查找的元素,则搜索过程结束如果搜索元素大于或小于中间元素,则排除掉不符合条件的那一半元素,在剩下的数组中进行查找由于每次需要排除掉一半不符合要求的元素,这需要数组是已经排好序的或者是有…...

编程日记 2023/3/19 2:56:56

大学四年..就混了毕业证的我，出社会深感无力..辞去工作，从头开始

时间如白驹过隙，一恍就到了2023年，今天最于我来说是一个值得纪念的日子，因为我收获了今年的第一个offer背景18年毕业，二本。大学四年，也就将就混了毕业证和学位证。毕业后，并未想过留在湖南，就回…...

编程日记 2023/3/19 2:51:52

C语言数据结构初阶(6)----链表常见OJ题

CSDN的uu们，大家好！编程能力的提高不仅需要学习新的知识，还需要大量的练习。所以，C语言数据结构初阶的第六讲邀请uu们一起来看看链表的常见oj题目。移除链表元素原题链接：203. 移除链表元素 - 力扣（Leetcod…...

编程日记 2023/3/19 2:46:51

关键字 const

目录 一、符号常量与常变量 二、const的用法 2.1 const常用方法 2.2 const用于指针 2.2.1 p指针所指的对象值不能改变，但是p指针的指向可以改变 2.2.2 常指针p的指向不能改变，但是所指的对象的值可以改变 2.2.3 p所指对象的指向以及对象的值都不可…...

编程日记 2023/3/19 2:41:48

MybatisPlus------MyBatisX插件:快速生成代码以及快速生成CRUD（十二）

MybatisPlus------MyBatisX插件（十二） MyBatisX插件是IDEA插件，如果想要使用它，那么首先需要在IDEA中进行安装。 安装插件 搜索"MyBatisX"，点击Install，之后重启IDEA即可。 插件基本用途&…...

编程日记 2023/3/19 2:36:46

Leetcode138. 复制带随机指针的链表

复制带随机指针的链表 第一步 拷贝节点链接在原节点的后面 第二步拷贝原节点的random ， 拷贝节点的 random 在原节点 random 的 next 第三步 将拷贝的节点尾插到一个新链表 ,并且将原链表恢复 从前往后遍历链表 ,将原链表的每个节点进行复制，并l链接到原…...

编程日记 2023/3/19 2:31:45

python并发编程多线程

在传统操作系统中，每个进程有一个地址空间，而且默认就有一个控制线程 线程顾名思义，就是一条流水线工作的过程，一条流水线必须属于一个车间，一个车间的工作过程是一个进程 车间负责把资源整合到一起，是一个…...

编程日记 2023/3/19 2:26:43

使用Maven实现Servlet程序

创建Maven项目我们打开idea的新建项目,选中里面Maven即可,如下图:创建完成之后,会看到这样的目录结构其中,main目录存放业务代码,其中的java目录存放的就是java代码,而resources目录存放是程序中依赖的文件,比如:图片,视频等.然后是 test目录,test目录存放的是测试代码.最后一个…...

编程日记 2023/3/19 2:21:42

百度的文心一言 ，没有想像中那么差

robin 的演示 我们用 robin 的演示例子来对比一下 文心一言和 ChatGPT 的真实表现（毕竟发布会上是录的）。 注意，我使用的 GPT 版本是 4.0 文学创作 1 三体的作者是哪里人？ 文心一言： ChatGPT： 嗯&a…...

编程日记 2023/3/19 2:16:40

文心一言发布的个人看法

文心一言发布宣传视频按照发布会上说的，文心一言并非属于百度赶工抄袭Chat-GPT的作品，而是十几年一直布局AI产业厚积薄发的成果，百度在芯片，机器学习，自然语言处理，知识图谱等方面均有相对深厚的积累。 国…...

编程日记 2023/3/19 2:11:38

【C5】111

文章目录bmc_wtd：syscpld.c中wd_en和wd_kick节点对应寄存器，crontab，FUNCNAMEAST2500/2600 WDT切换主备：BMC用WDT2作为主备切换的watchdog控制器AC后读取：bmc处于主primary flash（设完后：实际主…...

编程日记 2023/3/19 2:06:37

静态成员，友元函数

🐶博主主页：ᰔᩚ. 一怀明月ꦿ ❤️‍🔥专栏系列：线性代数，C初学者入门训练，题解C，C的使用文章，「初学」C 🔥座右铭：“不要等到什么都没有了，才下…...

编程日记 2023/3/19 2:01:34

数学分析课程笔记（张平）：函数

01 函数 \quad作为数学分析的第一节课，首先深入了解一下函数。 \quad翻看一些教材可以发现，有些教材将“函数”与“映射”区分为两个概念，有些教材（尤其是前苏联时期的一些教材）则将其视为一个概念。实际上&#xff0c…...

编程日记 2023/3/19 1:56:33

spring事务 只读此文

文章目录一. 事务概述1.1. MySQL 数据库事务1.2 spring的事务支持:1.2.1 编程式事务：1.2.2 声明式事务1.2.3 事务传播行为：1.2.4 事务隔离级别1.2.5 事务的超时时间1.2.6 事务的只读属性1.2.7 事务的回滚策略二. spring事务（注解 Transaction…...

编程日记 2023/3/19 1:51:31

真实的软件测试日常工作是咋样的？

最近很多粉丝问我，小姐姐，现在大环境不景气，传统行业不好做了，想转行软件测试，想知道软件测试日常工作是咋样的？平常的工作内容是什么？ 别急，今天跟大家细细说一下一个合格的软件测…...

编程日记 2023/3/19 1:46:28

【UML】软件需求说明书

目录🦁 故事的开端一. 🦁 引言1.1编写目的1.2背景1.3定义1.4参考资料二. 🦁 任务概述2.1目标2.2用户的特点2.3假定和约束三. 🦁 需求规定3.1 功能性需求3.1.1系统用例图3.1.2用户登录用例3.1.3学员注册用例3.1.4 学员修改个人信息…...

编程日记 2023/3/19 1:41:27

面试官：html里面哪个元素可以让文字换行展示

在HTML中&#xff0c;可以使用 <br> 元素来强制换行&#xff0c;也可以使用CSS的 word-break 或 white-space 属性来实现自动换行。以下是这些方法的具体说明&#xff1a; 1.使用 <br> 元素 <br> 元素可以在文本中插入一个换行符&#xff0c;使文本从该位置…...

编程日记 2023/3/19 1:36:25

XGBoost和LightGBM时间序列预测对比

XGBoost和LightGBM都是目前非常流行的基于决策树的机器学习模型&#xff0c;它们都有着高效的性能表现&#xff0c;但是在某些情况下&#xff0c;它们也有着不同的特点。 XGBoost和LightGBM简单对比 训练速度 LightGBM相较于xgboost在训练速度方面有明显的优势。这是因为Ligh…...

编程日记 2023/3/19 1:31:25

JVM高频面试题

1、项目中什么情况下会内存溢出&#xff0c;怎么解决&#xff1f; &#xff08;1&#xff09;误用固定大小线程池导致内存溢出 Excutors.newFixedThreadPool内最大线程数是21亿(2) 误用带缓冲线程池导致内存溢出最大线程数是21亿(3)一次查询太多的数据&#xff0c;导致内存占用…...

编程日记 2023/3/19 1:26:23

Windows环境下实现设计模式——状态模式（JAVA版）

我是荔园微风&#xff0c;作为一名在IT界整整25年的老兵&#xff0c;今天总结一下Windows环境下如何编程实现状态模式&#xff08;设计模式&#xff09;。不知道大家有没有这样的感觉&#xff0c;看了一大堆编程和设计模式的书&#xff0c;却还是很难理解设计模式&#xff0c;无…...

编程日记 2023/4/30 15:20:45

【总结】多个条件排序（pii/struct/bool）

目录 pii struct bool pii 现在小龙同学要吃掉它们&#xff0c;已知他有n颗苹果&#xff0c;并且打算每天吃一个。 但是古人云&#xff0c;早上金苹果&#xff0c;晚上毒苹果。由此可见&#xff0c;早上吃苹果和晚上吃苹果的效果是不一样的。 已知小龙同学在第 i 天早上吃苹果能…...

编程日记 2023/3/19 1:16:19

基于stm32mp157 linux开发板ARM裸机开发教程Cortex-A7 开发环境搭建（连载中）

前言&#xff1a;目前针对ARM Cortex-A7裸机开发文档及视频进行了二次升级持续更新中&#xff0c;使其内容更加丰富&#xff0c;讲解更加细致&#xff0c;全文所使用的开发平台均为华清远见FS-MP1A开发板&#xff08;STM32MP157开发板&#xff09;针对对FS-MP1A开发板&#xff…...

编程日记 2023/3/19 1:11:17

最适合游戏开发的语言是什么？

建议初学者学习主流的开发技术 主流开发技术有大量成熟的教程、很多可以交流的学习者、及时的学习反馈等&#xff1b;技术的内里基本都是相同的&#xff0c;学习主流技术的经验、知识可以更好更快地疏通学习新知识和技术。 因此&#xff0c;对C#或者C二选一进行学习较好。 Un…...

编程日记 2023/3/19 1:06:14

C语言刷题（7）（字符串旋转问题）——“C”

各位CSDN的uu们你们好呀&#xff0c;今天&#xff0c;小雅兰的内容依旧是复习之前的知识点&#xff0c;那么&#xff0c;就是做一道小小的题目啦&#xff0c;下面&#xff0c;让我们进入C语言的世界吧 实现一个函数&#xff0c;可以左旋字符串中的k个字符。 例如&#xff1a; A…...

编程日记 2023/3/19 1:01:13

有趣且重要的JS知识合集（18）浏览器实现前端录音功能

1、主题描述 兼容多个浏览器下的前端录音功能&#xff0c;实现六大录音功能&#xff1a; 1、开始录音 2、暂停录音 3、继续录音 4、结束录音 5、播放录音 6、上传录音 2、示例功能 初始状态&#xff1a; 开始录音&#xff1a; 结束录音&#xff1a; 录音流程 &#xf…...

编程日记 2023/3/19 0:56:12

面试官：聊聊你知道的跨域解决方案

跨域是开发中经常会遇到的一个场景&#xff0c;也是面试中经常会讨论的一个问题。掌握常见的跨域解决方案及其背后的原理&#xff0c;不仅可以提高我们的开发效率&#xff0c;还能在面试中表现的更加游刃有余。 因此今天就来和大家从前端的角度来聊聊解决跨域常见的几种方式。…...

编程日记 2023/3/19 0:51:11

SpringCloud五大核心组件

Consul 等&#xff0c;提供了搭建分布式系统及微服务常用的工具&#xff0c;如配置管理、服务发现、断路器、智能路由、微代理、控制总线、一次性token、全局锁、选主、分布式会话和集群状态等&#xff0c;满足了构建微服务所需的所有解决方案。 服务发现——Netflix Eureka …...

编程日记 2023/3/19 0:46:08

Verilog HDL语言入门（二）

强烈建议用同步设计2.在设计时总是记住时序问题3.在一个设计开始就要考虑到地电平或高电平复位、同步或异步复位、上升沿或下降沿触发等问题&#xff0c;在所有模块中都要遵守它4.在不同的情况下用if和case&#xff0c;最好少用if的多层嵌套&#xff08;1层或2层比较合适&#…...

编程日记 2023/3/19 0:41:06

Simpleperf详细使用

一、Simpleperf介绍 Simpleperf是一个强大的命令行工具&#xff0c;它包含在NDK中&#xff0c;可以帮助我们分析应用的CPU性能。Simpleperf可以帮助我们找到应用的热点&#xff0c;而热点往往与性能问题相关&#xff0c;这样我们就可以分析修复热点源。 如果您更喜欢使用命令…...

编程日记 2023/3/19 0:36:04

江苏省和城乡建设门户网站/网址提交

死锁是这样一种情形&#xff1a;多个线程同时被阻塞&#xff0c;它们中的一个或者全部都在等待某个资源被释放。由于线程被无限期地阻塞&#xff0c;因此程序不可能正常终止。 导致死锁的根源在于不适当地运用“synchronized”关键词来管理线程对特定对象的访问。“synchroniz…...

编程日记 2025/1/8 4:59:36

外贸做网站要多久做好/怎么给客户推广自己的产品

作者是一名从事儿网站运营的草根站长&#xff0c;做网站主要是为了增加一下兼职收入而已(相信大多数的站长朋友都是如此)! 事件起因; 小编8月10号建立了一个网站&#xff0c;想引一下蜘蛛&#xff0c;就在那些比较大型的站长经常进入的网站上找到了一个名为“XXX”的外链代发服…...

编程日记 2025/1/8 4:30:56

word怎么做网站链接/百度电话客服24小时人工服务热线

文章目录前言准备创建空项目配置入口Main配置子系统为控制台新建asm文件添加代码内容右键项目名 生成依赖项-》生成自定义-》选中masm这步骤很关键&#xff1a;文件右键设置属性Microsoft Macro Assembler添加断点运行 进入断点前言准备 vs2015 创建空项目 配置入口Main 配置…...

编程日记 2025/1/8 3:03:43

网站维护的作用/谷歌浏览器网址

微信企业号报 {"errcode":60011,"errmsg":"no privilege to access\/modify contact\/party\/agent "} &#xff0c;主要是没有权限访问或修改人员的信息等&#xff0c;研究后&#xff0c;其实只要将红圈部分的通讯录权限开通好&#xff0c;就可…...

编程日记 2025/1/8 0:06:27

网站的ci设计怎么做/沈阳网站建设公司

20145308 20145302 《信息安全系统设计基础》实验二 固件设计 北京电子科技学院&#xff08;BESTI&#xff09; 实 验 报 告 课程&#xff1a; 深入理解计算机系统 班级&#xff1a; 1453 姓名&#xff1a; &#xff08;按贡献程度大小排名&#xff09;刘昊阳 张薇 学号&#x…...

编程日记 2025/1/7 18:45:42

做品牌文化的网站/哈尔滨关键词排名工具

1. 添加Docker 启动时的配置&#xff1a; vi /etc/default/docker 添加&#xff1a; DOCKER_OPTS" --label namedockerServer1 -H tcp://0.0.0.0:2375" # 把这个 docker 命名为&#xff1a;dockerServer1&#xff0c; -H 选项可以远程通过 2375 端口访问 2. 重…...

编程日记 2025/1/7 15:40:08