当前位置： 首页 > news >正文

大模型微调概览

news 文章来源：https://blog.csdn.net/lovechris00/article/details/133530253 2025/1/15 20:37:21

文章目录

    • 微调 和 高效微调
    • 高效微调技术方法概述
    • 高效微调方法一：LoRA
    • 高效微调方法二: Prefix Tuning
    • 高效微调方法三: Prompt Tuning
    • 高效微调方法四: P-Tuning v2
    • 基于强化学习的进阶微调方法
      • RLHF 训练流程

微调 和 高效微调

  • 微调，Fine-Tuning， 一般指全参数的微调(全量微调)，指是 一类较早诞生的微调方法，全参数微调需要消耗大量的算力，实际使用起来并不方便，因此不久之后又诞生了只围绕部分参数进行微调的高效微调方法;
  • 高效微调，State-of-the -art Parameter- Efficient Fine-Tuning (SOTA PEFT),特指部分参数的微调方法，这种方法算力功耗比更高，也是目前最为常见的微调方法;
  • 除此之外，Fine-Tuning也可 以代指全部微调方法，同时OpenAI中模型微调API的名称也是 Fine-Tuning
    需要注意的是，OpenAl提供的在线微调方法也是一种高效微调方法，并不是全量微调;

相关文章：

大模型微调概览

文章目录 微调 和 高效微调高效微调技术方法概述高效微调方法一：LoRA高效微调方法二: Prefix Tuning高效微调方法三: Prompt Tuning高效微调方法四: P-Tuning v2基于强化学习的进阶微调方法RLHF 训练流程微调 和 高效微调 微调，Fine-Tuning， 一般指全参数的微调(全量微调)，…...

编程日记 2023/10/3 23:18:41

利用norm.ppfnorm.interval分别计算正态置信区间[实例]

scipy.stats.norm.ppf用于计算正态分布的累积分布函数CDF的逆函数，也称为百分位点函数。它的作用是根据给定的概率值，计算对应的随机变量值。scipy.stats.norm.interval：用于计算正态分布的置信区间，可指定均值和标准差。scipy.st…...

编程日记 2023/10/3 23:17:41

计算机网络各层设备

计算机网络通常被分为七层，每一层都有对应的设备。以下是各层设备的简要介绍： 物理层（Physical Layer）：负责传输二进制数据位流的物理媒体和设备，例如网线、光纤、中继器、集线器等。 数据链路层&#xf…...

编程日记 2023/10/3 23:13:36

java this用法

在Java中，this是一个关键字，表示当前对象。它可以用来引用当前对象的实例变量、实例方法或者调用当前对象的构造方法。在本文中，我们将深入探讨Java中this关键字的用法。 1. 引用当前对象的实例变量 在Java中，this关键字可以用来…...

编程日记 2023/10/3 23:12:35

【AI视野·今日NLP 自然语言处理论文速览 第四十六期】Tue, 3 Oct 2023

AI视野今日CS.NLP 自然语言处理论文速览 Tue, 3 Oct 2023 (showing first 100 of 110 entries) Totally 100 papers 👉上期速览✈更多精彩请移步主页 Daily Computation and Language Papers Its MBR All the Way Down: Modern Generation Techniques Through the …...

编程日记 2023/10/3 23:11:34

Unity ddx与ddy

有关Unity的dx与dy的概念 引用的文章 1link 2link 3link 4link 有关概念 我们知道在光栅化的时刻，GPUs会在同一时刻并行运行很多Fragment Shader，但是并不是一个pixel一个pixel去执行的，而是将其组织在2x2的一组pixels分块中，…...

编程日记 2023/10/3 23:10:33

bootstrap.xml 和applicaiton.properties和applicaiton.yml的区别和联系

当谈到Spring Boot应用程序的配置时，有三个关键文件经常被提到：bootstrap.xml、application.properties和application.yml。这些文件在应用程序的不同阶段起着不同的作用，并在配置应用程序属性时有一些区别和联系。本文将探讨这些文件的作用、…...

编程日记 2023/10/3 23:08:31

基于被囊群优化的BP神经网络（分类应用） - 附代码

基于被囊群优化的BP神经网络（分类应用） - 附代码 文章目录 基于被囊群优化的BP神经网络（分类应用） - 附代码1.鸢尾花iris数据介绍2.数据集整理3.被囊群优化BP神经网络3.1 BP神经网络参数设置3.2 被囊群算法应用 4.测试结果&#x…...

编程日记 2023/10/3 23:06:28

我的第一个react.js 的router工程

react.js 开发的时候，都是针对一个页面的，多个页面就要用Router了，本文介绍我在vscode 下的第一个router 工程。 我在学习react.js 前端开发，学到router 路由的时候有点犯难了。经过1-2天的努力，终于完成了第一个工程…...

编程日记 2023/10/3 23:05:27

XXPermissions权限请求框架

官网 项目地址：Github博文地址：一句代码搞定权限请求，从未如此简单 框架亮点 一马当先：首款适配 Android 13 的权限请求框架简洁易用：采用链式调用的方式，使用只需一句代码体积感人：功能在同类…...

编程日记 2023/10/3 23:00:23

远程代码执行渗透测试—Server2128

远程代码执行渗透测试 任务环境说明： √ 服务器场景：Server2128（开放链接） √服务器场景操作系统：Windows √服务器用户名：Administrator密码：pssw0rd 1.找出靶机桌面上文件夹1中的文件RCEBac…...

编程日记 2023/10/3 22:59:22

阿里云关系型数据库有哪些？RDS云数据库汇总

阿里云RDS关系型数据库大全，关系型数据库包括MySQL版、PolarDB、PostgreSQL、SQL Server和MariaDB等，NoSQL数据库如Redis、Tair、Lindorm和MongoDB，阿里云百科分享阿里云RDS关系型数据库大全： 目录 阿里云RDS关系型数据库大全 …...

编程日记 2023/10/3 22:58:21

Linux--socket编程--服务端代码

查看struct sockaddr_in包含的东西： 在/user/include下搜索：grep "struct sockaddr_in { " * -nir r : 递归 i ： 不区分大小写 n : 显示行号 socket编程–服务端代码 /* 1、调用 socket 创建套接字 2、调用 bind 添加地址 3、lis…...

编程日记 2023/10/3 22:54:17

安装Vue脚手架图文详解教程

版权声明 本文原创作者：谷哥的小弟作者博客地址：http://blog.csdn.net/lfdfhl 预备工作 在安装Vue脚手架之前，请确保您已经正确安装了npm；假若还尚未安装npm，请你参考 Node.js安装教程图文详解。 安装Vue脚手架 请…...

编程日记 2023/10/3 22:53:17

宠物医院必备，介绍一款宠物疫苗接种管理软件

在当今社会，养宠物已经成为越来越多人的生活方式，宠物疫苗接种已是宠物医院的重要工作，但是目前绝大多数的宠物医院对疫苗接种的管理，还是采取人工登记方式，不仅效率低下，而且无法做到疫苗接种到期自动提醒…...

编程日记 2023/10/3 22:52:16

哈哈，我保研985了，之后会出一期保研经验分享

哈哈，我保研了，之后会出一期保研经验分享 个人背景 学校：河南某四非，计算机科学与技术专业英语成绩：四级439，六级438（夏令营无六级）科研经历：一个软著、国家级大创&…...

编程日记 2023/10/3 22:50:14

C++ 程序员入门之路——旅程的起点与挑战

🌷🍁 博主猫头虎 带您 Go to New World.✨🍁 🦄 博客首页——猫头虎的博客🎐 🐳《面试题大全专栏》 文章图文并茂🦕生动形象🦖简单易学！欢迎大家来踩踩~🌺 &a…...

编程日记 2023/10/3 22:49:14

C/C++ 数组面试算法题

1.将一个数组逆序输出 https://blog.csdn.net/qq_45385706/article/details/110739961 1 #include<stdio.h>2 3 #define N 94 5 int main()6 {7 int a[N] {1,2,3,4,5,6,7,8,9};8 for(int i 0;i<N/2;i)9 { 10 int temp a[i]; 11 a[i]…...

编程日记 2023/10/3 22:47:12

【pwn入门】用gdb实现第1个pwn

声明 本文是B站你想有多PWN学习的笔记&#xff0c;包含一些视频外的扩展知识。 有问题的源码 #include <stdio.h> #include <stdlib.h> #include <unistd.h> char sh[]"/bin/sh"; int func(char *cmd){system(cmd);return 0; }int main(){char …...

编程日记 2023/10/3 22:45:10

用pyinstaller打包LGBM模型为ELF/EXE可执行文件

1. 引入 写好的python代码和模型&#xff0c;如果需要做到离线部署、运行&#xff0c;就必须要将代码和模型打包为可独立运行的可执行文件。 使用pyinstaller就能做到这个&#xff0c;相同的代码&#xff0c;在windows上运行就能打包为exe&#xff0c;在linux上运行就能打包为…...

编程日记 2023/10/3 22:42:07

软考中级—— 操作系统知识

进程管理 操作系统概述 操作系统的作用&#xff1a;通过资源管理提高计算机系统的效率&#xff1b;改善人机界面向用户提供友好的工作环境。 操作系统的特征&#xff1a;并发性、共享性、虚拟性、不确定性。 操作系统的功能&#xff1a;进程管理、存储管理、文件管理、设备…...

编程日记 2023/10/3 22:41:06

我们是否真的需要k8s？

文章目录 背景k8s相关的讨论为什么要用k8sk8s带来了什么当前业务使用到k8s的核心优势了吗直接自己买服务器会不会更便宜&#xff1f;其他QA没有人可以说出来为什么一定要用k8s而不是其他的没有人可以解释为什么成本核算困难以及成本这么高的原因没有人给出面向C端&#xff0c;面…...

编程日记 2023/10/3 22:40:05

基于蜉蝣优化的BP神经网络（分类应用） - 附代码

基于蜉蝣优化的BP神经网络&#xff08;分类应用&#xff09; - 附代码 文章目录 基于蜉蝣优化的BP神经网络&#xff08;分类应用&#xff09; - 附代码1.鸢尾花iris数据介绍2.数据集整理3.蜉蝣优化BP神经网络3.1 BP神经网络参数设置3.2 蜉蝣算法应用 4.测试结果&#xff1a;5.M…...

编程日记 2023/10/3 22:39:04

前端系列-1 HTML+JS+CSS基础

背景&#xff1a; 前端系列会收集碎片化的前端知识点&#xff0c;作为自己工作和学习时的字典&#xff0c;欢迎读者收藏和使用。 笔者是后端开发&#x1f636;前端涉猎不深&#xff0c;因此文章重在广度和实用&#xff0c;对原理和性能不会过多深究。 1.html 1.1 html5网页结…...

编程日记 2023/10/3 22:33:59

Learning Invariant Representation for Unsupervised Image Restoration

Learning Invariant Representation for Unsupervised Image Restoration (Paper reading) Wenchao Du, Sichuan University, CVPR20, Cited:63, Code, Paper 1. 前言 近年来&#xff0c;跨域传输被应用于无监督图像恢复任务中。但是&#xff0c;直接应用已有的框架&#xf…...

编程日记 2023/10/3 22:29:56

1.4.C++项目：仿muduo库实现并发服务器之buffer模块的设计

项目完整版在&#xff1a; 一、buffer模块&#xff1a; 缓冲区模块 Buffer模块是一个缓冲区模块&#xff0c;用于实现通信中用户态的接收缓冲区和发送缓冲区功能。 二、提供的功能 存储数据&#xff0c;取出数据 三、实现思想 1.实现换出去得有一块内存空间&#xff0c;采…...

编程日记 2023/10/3 22:28:55

AndroidStudio精品插件集

官网 项目地址&#xff1a;Github博客地址&#xff1a;Studio 精品插件推荐 使用需知 所有插件在 Android Studio 2022.3.1.18&#xff08;长颈鹿&#xff09;上测试均没有问题&#xff0c;推荐使用此版本Android Studio 2022.3.1.18&#xff08;长颈鹿&#xff09;正式版下…...

编程日记 2023/10/3 22:26:53

java图书管理系统

一、 引言 图书管理系统是一个用于图书馆或书店管理图书信息、借阅记录和读者信息的应用程序。本系统使用Java Swing框架进行开发&#xff0c;提供直观的用户界面&#xff0c;方便图书馆管理员或书店工作人员对图书信息进行管理。以下是系统的设计、功能和实现的详细报告。 二…...

编程日记 2023/10/3 22:25:52

大屏自适应容器组件-Vue3+TS

1.引言 在做数字大屏时&#xff0c;图表能跟着浏览器的尺寸自动变化&#xff0c;本文采用Vue3前端框架&#xff0c;采用TypeScript语言&#xff0c;封装了一个大屏自适应组件&#xff0c;将需要显示的图表放入组件的插槽中&#xff0c;就能实现自适应屏幕大小的效果。 2.实际…...

编程日记 2023/10/3 22:24:51

java图书信息管理

一、项目概述 本图书信息管理系统旨在提供一个直观的用户界面&#xff0c;用于管理图书馆或书店的图书信息。系统包括图书添加、查询、借阅和归还等功能。 二、系统架构 系统采用JavaSwing作为前端UI框架&#xff0c;后端使用Java Servlet处理业务逻辑&#xff0c;数据存储在…...

编程日记 2023/10/3 22:18:44

泉州机票网站建设/网站运营推广选择乐云seo

路由与页面跳转传递数据函数封装 无论是app 还是 页面 或者小程序&#xff0c;在页面跳转时&#xff0c;很多时候都需要传递数据&#xff0c;方便二级页面进行使用。 uniapp官网中关于路由与页面跳转链接 官网提供的示例&#xff1a; 适用于简单的数据传递 //在起始页面跳转…...

编程日记 2025/1/15 20:17:30

wordpress 仿站/企业营销网站制作

背景&#xff1a;在做项目时&#xff0c;经常会遇到这样的表结构在主表的中有一列保存的是用逗号隔开ID。如&#xff0c;当一个员工从属多个部门时、当一个项目从属多个城市时、当一个设备从属多个项目时&#xff0c;很多人都会在员工表中加入一个deptIds VARCHAR(1000)列(本文…...

编程日记 2025/1/15 20:05:44

浙江广厦建设职业技术学院招生网站/长尾关键词爱站网

1、确认系统已经安装了SSH。rpm –qa | grep opensshyum install ssh -y ##安装SSH协议2、生成秘钥对ssh-keygen -t rsa -P ##直接回车生成的密钥对&#xff1a;id_rsa和id_rsa.pub&#xff0c;默认存储在用户的目录下 如&#xff1a;/home/oldboy/.ssh。 如下&#xff1…...

编程日记 2025/1/15 19:40:42

如何查看网站开发的语言/西安百度公司地址介绍

当碰到较小自动时间步时&#xff0c;我们应采取哪些策略来提高仿真效率&#xff1f;本文我们列举了一些示例&#xff0c;并讨论了如何通过调整求解器设置来应对较小的时间步。在求解器日志中追踪时间步和离散阶次当使用 BDF 时间步进方法检查与时间有关的仿真求解器日志时&…...

编程日记 2025/1/15 19:16:27

企业可以做哪些网站有哪些/郑州网络营销推广公司

小编精心收集&#xff1a;为金三银四准备&#xff0c;以下面试题先过一遍&#xff0c;为即将到了的面试做好准备&#xff0c;也过一遍基础知识点。一、RabbitMQ1.rabbitmq 的使用场景有哪些&#xff1f;2.rabbitmq 有哪些重要的角色&#xff1f;3.rabbitmq 有哪些重要的组件&am…...

编程日记 2025/1/15 16:57:30

怎么给网站做动图/北京seo网络推广

疫情期间&#xff0c;大多数学子的毕业季都很苦涩&#xff0c;除了求职难&#xff0c;很多同学们甚至无法认真告别&#xff0c;有些同学这次见不到&#xff0c;也许一生都不再见。百度也见证了一场别开生面的“云毕业”&#xff0c;这些同学们来自百度飞桨官方出品的《百度架构…...

编程日记 2025/1/15 16:13:08