当前位置： 首页 > news >正文

大语言模型数据处理方法(基于llama模型)

news 文章来源：https://blog.csdn.net/weixin_38252409/article/details/143228615 2024/11/25 8:34:26

文章目录

  • 前言
  • 一、基于huggingface的DataCollatorForSeq2Seq方法解读
    • 1、DataCollatorForSeq2Seq方法
    • 2、batch最长序列填充
    • 3、指定长度填充
  • 二、构建大语言模型数据加工模块
    • 1、数据读取
    • 2、数据加工
      • 1、数据格式
      • 2、预训练（pretrain）数据加工
      • 3、微调（sft）数据加工
        • ①、sft数据加工代码
        • ②、sft数据变换内容
    • 3、数据dataloader方法

前言

本文使用huggingface方法来构建大模型数据加工方法！当然，这些方法也可以为其它大模型使用！。

一、基于huggingface的DataCollatorForSeq2Seq方法解读

1、DataCollatorForSeq2Seq方法

该方法是类似collan_fn函数，就是torch的dataloader对batch包装函数处理，而输入字典给input_ids与labels就好了，这个方法会自动给你添加attention_mask内容，而attention_mask若有pad填充值是0。这个也是huggingface提供内容，而我这里想介绍如何自动填充。

该方法是一个类，其示意源码如下：

class DataCollatorForSeq2Seq:tokenizer:

相关文章：

大语言模型数据处理方法(基于llama模型)

文章目录 前言一、基于huggingface的DataCollatorForSeq2Seq方法解读1、DataCollatorForSeq2Seq方法2、batch最长序列填充3、指定长度填充二、构建大语言模型数据加工模块1、数据读取2、数据加工1、数据格式2、预训练（pretrain）数据加工3、微调（sft）数据加工①、sft数据加工…...

编程日记 2024/10/26 9:54:47

爱奇艺大数据多 AZ 统一调度架构

01# 导语 爱奇艺大数据技术广泛应用于运营决策、用户增长、广告分发、视频推荐、搜索、会员营销等场景，为公司的业务增长和用户体验提供了重要的数据驱动引擎。 多年来，随着公司业务的发展，爱奇艺大数据平台已积累了海量数据，这…...

编程日记 2024/10/26 9:51:44

【C++篇】栈的层叠与队列的流动：在 STL 的韵律中探寻数据结构的优雅之舞

文章目录 C 栈与队列详解：基础与进阶应用前言第一章：栈的介绍与使用1.1 栈的介绍1.2 栈的使用1.2.1 最小栈1.2.2 示例与输出 1.3 栈的模拟实现 第二章：队列的介绍与使用2.1 队列的介绍2.2 队列的使用2.2.1 示例与输出 2.3 队列的模拟实现2.3.…...

编程日记 2024/10/26 9:50:39

使用 Flask 实现简单的登录注册功能

目录 1. 引言 2. 环境准备 3. 数据库设置 4. Flask 应用基本配置 5. 实现用户注册 6. 实现用户登录 7. 路由配置 8. 创建前端页面 9. 结论 1. 引言 在这篇文章中，我们将使用 Flask 框架创建一个简单的登录和注册系统。Flask 是一个轻量级的 Python Web 框架…...

编程日记 2024/10/26 9:47:28

计算机毕业设计Python+大模型微博情感分析 微博舆情预测 微博爬虫 微博大数据 舆情分析系统 大数据毕业设计 NLP文本分类 机器学习 深度学习 AI

温馨提示：文末有 CSDN 平台官方提供的学长联系方式的名片！ 温馨提示：文末有 CSDN 平台官方提供的学长联系方式的名片！ 温馨提示：文末有 CSDN 平台官方提供的学长联系方式的名片！ 《Python大模型微博情感分析…...

编程日记 2024/10/26 9:46:21

CTF--Misc题型小结

（萌新笔记，多多关照，不足之处请及时提出。） 不定时更新~ 目录 密码学相关 文件类型判断 file命令 文件头类型 strings读取 隐写术 尺寸修改 文件头等缺失 EXIF隐写 thumbnail 隐写 文件分离&提取 binwalk foremo…...

编程日记 2024/10/26 9:45:17

深度学习系列——RNN/LSTM/GRU，seq2seq/attention机制

1、RNN/LSTM/GRU可参考： https://zhuanlan.zhihu.com/p/636756912 （1）对于这里面RNN的表示中，使用了输入x和h的拼接描述，其他公式中也是如此 （2）各符号图含义如下 2、关于RNN细节，…...

编程日记 2024/10/26 9:40:10

通过call指令来学习指令摘要表的细节

E8 cw cw 表示E8后面跟随2 字节 (什么数不知道) rel16 指在与指令同一代码段内的相对地址偏移 D ,指向Instruction Operand Encoding 表中的D列, 他告诉我们 操作数1 是一个0FFSET N.S. 在64位模式下，某些指令需要使用“地址覆盖前缀”（address over…...

编程日记 2024/10/26 9:39:08

10分钟使用Strapi（无头CMS）生成基于Node.js的API接口，告别繁琐开发，保姆级教程，持续更新中。

一、什么是Strapi？ Strapi 是一个开源的无头（headless） CMS，开发者可以自由选择他们喜欢的开发工具和框架，内容编辑人员使用自有的应用程序来管理和分发他们的内容。得益于插件系统，Strapi 是一个灵活的 C…...

编程日记 2024/10/26 9:36:04

创建插件 DLL 项目

Step 1: 创建插件 DLL 项目 在 Visual Studio 中创建一个新的 DLL 项目&#xff0c;并添加以下文件和代码。 头文件&#xff1a;CShapeBase.h cpp 复制代码 #pragma once #include <afxwin.h> // MFC 必需头文件 #include <string> #include <vector> #i…...

编程日记 2024/10/26 9:34:02

OpenCV双目相机外参标定C++

基于OpenCV库实现双目测量系统外参标定过程。通过分析双目测量系统左右相机拍摄的棋盘格标定板图像&#xff0c;包括角点检测、立体标定、立体校正和畸变校正的步骤&#xff0c;获取左右相机的相对位置关系和姿态。 a.检测每张图像中的棋盘格角点&#xff0c;并进行亚像素级精…...

编程日记 2024/10/26 9:32:00

【GESP】C++一级练习BCQM3055，4位数间隔输出

一级知识点取余、整除运算和格式化输出知识点应用。其实也可以用string去处理&#xff0c;那就属于GESP三级的知识点范畴了&#xff0c;孩子暂未涉及。 题目题解详见&#xff1a;https://www.coderli.com/gesp-1-bcqm3055/ https://www.coderli.com/gesp-1-bcqm3055/https://w…...

编程日记 2024/10/26 9:28:58

纯血鸿蒙的最难时刻才开始

关注卢松松&#xff0c;会经常给你分享一些我的经验和观点。 纯血鸿蒙(HarmonyOS NEXT)也正式发布了&#xff0c;绝对是一个历史性时刻&#xff0c;但最难的鸿蒙第二个阶段&#xff0c;也就是生态圈的建设&#xff0c;才刚刚开始。 目前&#xff0c;我劝你现在不要升级到鸿蒙…...

编程日记 2024/10/26 9:26:56

记一个mysql的坑

数据库表user&#xff0c; 存在一个name字段&#xff0c;字段为varchar类型 现在user表有这么两条记录: idnameageclass1NULL18一班2lisi20二班 假如我根据下面这一条件去更新&#xff0c;更新成功数据行显示为0 update user set age 19 where age 18 and class “一班”…...

编程日记 2024/10/26 9:24:54

Java中的设计模式：单例模式详解

摘要 单例模式&#xff08;Singleton Pattern&#xff09;是Java中最常用的设计模式之一&#xff0c;属于创建型模式。它的主要目的是确保一个类在系统中只有一个实例&#xff0c;并提供一个全局访问点来访问该实例。 1. 单例模式的定义 单例模式确保一个类只有一个实例&…...

编程日记 2024/10/26 9:22:53

NanoTrack原理与转tensorrt推理

文章目录 前言一、NanoTrack 工作原理二、运行demo与转换tensorrt模型2.1 运行pt模型demo2.2 转onnx模型2.3 转tensorrt模型2.4 运行trt模型推理 三、推理速度对比总结 前言 NanoTrack 是一种轻量级且高效的目标跟踪算法&#xff0c;基于Siamese网络架构&#xff0c;旨在在资源…...

编程日记 2024/10/26 9:21:51

YOLO11改进 | 卷积模块 | 卷积模块替换为选择性内核SKConv【附完整代码一键运行】

秋招面试专栏推荐 &#xff1a;深度学习算法工程师面试问题总结【百面算法工程师】——点击即可跳转 &#x1f4a1;&#x1f4a1;&#x1f4a1;本专栏所有程序均经过测试&#xff0c;可成功执行&#x1f4a1;&#x1f4a1;&#x1f4a1; 本文给大家带来的教程是将YOLO11的卷积替…...

编程日记 2024/10/26 9:18:45

CentOS进入单用户模式进行密码重置

一、单用户模式介绍 单用户模式是一种特殊的启动模式&#xff0c;主要用于系统维护和故障排除。在单用户模式下&#xff0c;系统以最小化的状态启动&#xff0c;只有最基本的系统服务会被加载&#xff0c;通常只有root用户可以登录。这种模式提供了对系统的完全控制&#xff0…...

编程日记 2024/10/26 9:16:43

bitpoke- mysql-operator cluster

sidecar版本只支持到8.0.35&#xff0c;35可以支持到mysql8.0.35 . 默认镜像是5.7的。需要自己打sidecar的镜像&#xff1a; # Docker image for sidecar containers # https://github.com/bitpoke/mysql-operator/tree/master/images/mysql-operator-sidecar-8.0 # 参考5…...

编程日记 2024/10/26 9:15:38

第5课 基本数据类型

一、数据类型的诞生 在Python的世界里&#xff0c;万物皆对象&#xff0c;每个对象都有自己的若干属性&#xff0c;每一个属性都能描述对象的某一个方面。就像我们每个人&#xff0c;都有自己的身高、年龄、姓名、性别等很多方面的信息&#xff0c;这里的身高、年龄、姓名、性…...

编程日记 2024/10/26 9:11:34

OceanBase 首席科学家阳振坤：大模型时代的数据库思考

2024年 OceanBase 年度大会 即将于10月23日&#xff0c;在北京举行。 欢迎到现场了解更多“SQL AI ” 的探讨与分享&#xff01; 近期&#xff0c;2024年金融业数据库技术大会在北京圆满举行&#xff0c;聚焦“大模型时代下数据库的创新发展”议题&#xff0c;汇聚了国内外众多…...

编程日记 2024/10/26 9:08:30

国内知名的几个镜像源

在国内&#xff0c;有许多常用的Python库镜像源可以帮助加速库的下载。以下是几个知名的镜像源&#xff1a; 1. 清华大学TUNA协会 网址: https://pypi.tuna.tsinghua.edu.cn/simple命令示例:pip install numpy --index-url https://pypi.tuna.tsinghua.edu.cn/simple2. 阿里云…...

编程日记 2024/10/26 9:06:29

海外著名新闻门户媒体软文发稿之华盛顿独立报-大舍传媒

在当今全球化的时代&#xff0c;信息传播的速度和范围达到了前所未有的程度。对于企业和个人而言&#xff0c;如何在国际舞台上有效地展示自己、传递信息&#xff0c;成为了一项至关重要的任务。而海外媒体发稿&#xff0c;特别是通过像华盛顿独立报这样的知名新闻门户&#xf…...

编程日记 2024/10/26 9:04:27

青少年编程与数学 02-002 Sql Server 数据库应用 13课题、函数的编写

青少年编程与数学 02-002 Sql Server 数据库应用 13课题、函数的编写 课题摘要:一、函数内置函数用户定义的函数 (User-Defined Functions, UDFs)使用示例主要特点 二、内置函数数学函数&#xff08;Mathematical Functions&#xff09;字符串函数&#xff08;String Functions…...

编程日记 2024/10/26 8:59:23

关于LaTeX的floatrow包导入后标题无法直接放到浮动体上方

排版一个文章&#xff0c;标题怎么弄都弄不到表格上方&#xff0c;经过阅读帮助文档才发现问题。又是一个坑。 标题位置控制 使用floatrow包之后&#xff0c;类似 \begin{table}[htbp]\caption{xxx。}\label{table1}\centering\begin{tabular}{lcccc}\toprule& \multicol…...

编程日记 2024/10/26 8:57:21

Flutter Image和Text图文组件实战案例

In this section, we’ll go through the process of building a user interface that showcases a product using the Text and Image widgets. We’ll follow Flutter’s best practices to ensure a clean and effective UI structure. 在本节中&#xff0c;我们将使用“Te…...

编程日记 2024/10/26 8:56:20

使用 xlrd 和 xlwt 库进行 Excel 文件操作

使用 xlrd 和 xlwt 库进行 Excel 文件操作 在数据分析和处理的过程中，Excel 文件是最常用的数据存储格式之一。Python 提供了多种库来处理 Excel 文件，其中 xlrd 和 xlwt 是两个经典的库，分别用于读取和写入 Excel 文件。本文将详细介绍如何使用这两个库进行 Excel 文件的操…...

编程日记 2024/10/26 8:54:15

03.04、化栈为队

03.04、化栈为队 1、题目描述 实现一个 MyQueue 类&#xff0c;该类用两个栈来实现一个队列。 2、解题思路 本题要求使用两个栈来实现一个队列。队列遵循先进先出&#xff08;FIFO&#xff09;的原则&#xff0c;而栈遵循后进先出&#xff08;LIFO&#xff09;的原则。因此…...

编程日记 2024/10/26 8:53:13

Coppelia Sim (v-REP)仿真 机器人3D相机手眼标定与实时视觉追踪 （二）

coppelia sim[V-REP]仿真实现 机器人于3D相机手眼标定与实时视觉追踪 二 zmq API接口python调用python获取3D相机的数据获取彩色相机的数据获取深度相机的数据用matpolit显示 python控制机器人运动直接控制轴的位置用IK运动学直接移动到末端姿态 相机内参的标定记录拍照点的位置…...

编程日记 2024/10/26 8:52:12

苏州金龙技术创新赋能旅游新质生产力

2024年10月23日&#xff0c;备受瞩目的“2024第六届旅游出行大会”在云南省丽江市正式开幕。作为客车行业新质生产力标杆客车&#xff0c;苏州金龙在大会期间现场展示了新V系V12商旅版、V11和V8E纯电车型&#xff0c;为旅游出行提供全新升级方案。 其中&#xff0c;全新15座V1…...

编程日记 2024/10/26 8:51:10

成都科技网站建设服务热线/大泽山seo快速排名

原文&#xff1a;Understanding Property Wrappers in SwiftUI 12 Jun 2019 上周&#xff0c;我们介绍了一系列关于 SwiftUI 框架的新帖子。今天&#xff0c;我将继续这个话题&#xff0c;介绍 SwiftUI 的属性包装器 Property Wrapper。SwiftUI 提供的属性包装器包括 State, Bi…...

编程日记 2024/11/25 7:16:41

php如何做音乐网站/网站优化排名软件推广

习题4-10 猴子吃桃问题 (15分) 一只猴子第一天摘下若干个桃子&#xff0c;当即吃了一半&#xff0c;还不过瘾&#xff0c;又多吃了一个&#xff1b;第二天早上又将剩下的桃子吃掉一半&#xff0c;又多吃了一个。以后每天早上都吃了前一天剩下的一半加一个。到第N天早上想再吃时…...

编程日记 2024/11/25 3:48:13

网站开发公司的销售方式/宁波网站建设推广公司价格

一 宏观说明 [问题] Spring的声明式事务&#xff0c;我想就不用多介绍了吧&#xff0c;一句话“自从用了Spring AOP啊&#xff0c;事务管理真轻松啊&#xff0c;真轻松&#xff1b;事务管理代码没有了&#xff0c;脑不酸了&#xff0c;手不痛了&#xff0c;一口气全配上了事务&…...

编程日记 2024/11/25 2:01:24

wordpress single页面/怎么在百度上发布广告

一开始以为只能在写有角色sky类var skynew biankuang();中通过this调用sky skyyy是biankuang类中新建的角色sky var timerrnew dongjuese(); 通过这个timerr.dongxiaoqiu(sky.skyyy,ang.jieguo,tingbeijing); 可以将主类main中的当前sky状态传给 dongjuese类 dongjuese类接收…...

编程日记 2024/11/24 22:25:38

网站生成静态页面工具/爱站小工具

lambda表达式是C11中引入的一项新技术&#xff0c;利用lambda表达式可以编写内嵌的匿名函数&#xff0c;用以替换独立函数或者函数对象&#xff0c;并且使代码更可读。但是从本质上来讲&#xff0c;lambda表达式只是一种语法糖&#xff0c;因为所有其能完成的工作都可以用其它稍…...

编程日记 2024/11/24 21:00:43

桂林网站定制建设/电脑培训班零基础

form-builder PHP表单生成器&#xff0c;快速生成现代化的form表单。包含复选框、单选框、输入框、下拉选择框等元素以及省市区三级联动、时间选择、日期选择、颜色选择、树型、文件/图片上传等功能。 详细查看: Github地址 | Composer地址 演示项目: 开源的高品质微信商城 本项…...

编程日记 2024/11/24 19:49:58