当前位置： 首页 > news >正文

【大模型微调】一些观点的总结和记录

news 文章来源：https://blog.csdn.net/andeyeluguo/article/details/144161009 2025/1/12 21:09:48

  • 垂直领域大部分不用保持通用能力的，没必要跟淘宝客服聊天气预报，但是主要还是领导让你保持

  • 微调方法没有大变数了，只能在数据上下功夫，我能想到的只有提高微调数据质量。

  • sft微调的越多，遗忘的越多. 不过对于小任务，rank比较低（例如8，16）的任务，影响还是有有限的。一般很少掉点明显。

  • sft能够改变回复风格。原来的风格是列表回复，如果sft数据集很短，则sft后的数据集也会很短，理论上二者的风格应该一致才行

  • 在LLM时代，需要牢记 数据质量 > 数量 这个真理，如：[Less is More! 上交清源 && 里海 | 利用200条数据微调模型，怒超MiniGPT-4！]，超大规模的SFT数据会让下游任务LLM减弱或者失去ICL、CoT等能力

  • 全流程的LLM训练包括：预训练、监督微调、奖励模型、强化学习，多数情况下监督微调即可满足自身需求。

  • 对于垂类模型，更应该关注PT的过程，而不是采集千万百万的SFT数据做训练，一般建议是 大规模预训练+小规模监督微调=超强的LLM模型

  • 指令微调阶段不能够进行过多轮次训练：

相关文章：

【大模型微调】一些观点的总结和记录

垂直领域大部分不用保持通用能力的，没必要跟淘宝客服聊天气预报，但是主要还是领导让你保持 微调方法没有大变数了，只能在数据上下功夫，我能想到的只有提高微调数据质量。 sft微调的越多，遗忘的越多. 不过对于小任务，rank比较低（例如8，16）的任务，影响还是有有限的。一…...

编程日记 2024/12/1 18:42:16

Vue 3 Hooks 教程

Vue 3 Hooks 教程 1. 什么是 Hooks？ 在 Vue 3 中，Hooks 是一种组织和复用组件逻辑的强大方式。它们允许您将组件的状态逻辑提取到可重用的函数中，从而简化代码并提高代码的可维护性。 2. 基本 Hooks 介绍 2.1 ref 和 reactive 这两个函数…...

编程日记 2024/12/1 18:37:10

pandas数据处理及其数据可视化的全流程

Pandas数据处理及其可视化的全流程是一个复杂且多步骤的过程，涉及数据的导入、清洗、转换、分析、可视化等多个环节。以下是一个详细的指南，涵盖了从数据准备到最终的可视化展示的全过程。请注意，这个指南将超过4000字，因此请耐心…...

编程日记 2024/12/1 18:36:09

docker 在ubuntu系统安装，以及常用命令，配置阿里云镜像仓库，搭建本地仓库等

1.docker安装 1.1 先检查ubuntu系统有没有安装过docker 使用 docker -v 命令 如果有请先卸载旧版本，如果没有直接安装命令如下： 1.1.0 首先，确保你的系统包是最新的： 如果是root 权限下面命令的sudo可以去掉 sudo apt-get upda…...

编程日记 2024/12/1 18:35:08

torch.maximum函数介绍

torch.maximum 函数介绍 定义：torch.maximum(input, other) 返回两个张量的逐元素最大值。 输入参数： input: 张量，表示第一个输入。other: 张量或标量，表示第二个输入。若为张量，其形状需要能与 input 广播。输出&a…...

编程日记 2024/12/1 18:33:06

Java面试之多线程并发篇（9）

前言 本来想着给自己放松一下，刷刷博客，突然被几道面试题难倒！引用类型有哪些？有什么区别？说说你对JMM内存模型的理解？为什么需要JMM？多线程有什么用？似乎有点模糊了，那…...

编程日记 2024/12/1 18:30:02

Java全栈：超市购物系统实现

项目介绍 本文将介绍如何使用Java全栈技术开发一个简单的超市购物系统。该系统包含以下主要功能： 商品管理用户管理购物车订单处理库存管理技术栈 后端 Spring Boot 2.7.0Spring SecurityMyBatis PlusMySQL 8.0Redis前端 Vue.js 3Element PlusAxiosVuex系统架构 整体架构 …...

编程日记 2024/12/1 18:29:01

1.1 数据结构的基本概念

1.1.1 基本概念和术语 一、数据、数据对象、数据元素和数据项的概念和关系 数据：是客观事物的符号表示，是所有能输入到计算机中并被计算机程序处理的符号的总称。 数据是计算机程序加工的原料。 数据对象：是具有相同性质的数据元素的集合&…...

编程日记 2024/12/1 18:26:55

深度学习：GPT-2的MindSpore实践

GPT-2简介 GPT-2是一个由OpenAI于2019年提出的自回归语言模型。与GPT-1相比，仍基于Transformer Decoder架构，但是做出了一定改进。 模型规格上： GPT-1有117M参数，为下游微调任务提供预训练模型。 GPT-2显著增加了模型规模&…...

编程日记 2024/12/1 18:24:51

【Oracle11g SQL详解】ORDER BY 子句的排序规则与应用

ORDER BY 子句的排序规则与应用 在 Oracle 11g 中，ORDER BY 子句用于对查询结果进行排序。通过使用 ORDER BY，可以使返回的数据按照指定的列或表达式以升序或降序排列，便于数据的分析和呈现。本文将详细讲解 ORDER BY 子句的规则及其常见应用…...

编程日记 2024/12/1 18:21:48

YOLO系列论文综述（从YOLOv1到YOLOv11）【第15篇（完结）：讨论和未来展望】

总结 0 前言1 YOLO与人工通用智能（AGI）2 YOLO作为“能够行动的神经网络”3 具身人工智能（EAI）4 边缘设备上的YOLO5 评估统计指标的挑战6 YOLO与环境影响 YOLO系列博文： 【第1篇：概述物体检测算法发展史、YO…...

编程日记 2024/12/1 18:20:47

Java设计模式 —— 【创建型模式】原型模式（浅拷贝、深拷贝）详解

文章目录 前言原型模式一、浅拷贝1、案例2、引用数据类型 二、深拷贝1、重写clone()方法2、序列化 总结 前言 先看一下传统的对象克隆方式： 原型类： public class Student {private String name;public Student(String name) {this.name name;}publi…...

编程日记 2024/12/1 18:19:39

SciAssess——评估大语言模型在科学文献处理中关于模型的记忆、理解和分析能力的基准

概述 大规模语言模型（如 Llama、Gemini 和 GPT-4）的最新进展因其卓越的自然语言理解和生成能力而备受关注。对这些模型进行评估对于确定其局限性和潜力以及促进进一步的技术进步非常重要。为此，人们提出了一些特定的基准来评估大规模语言模型…...

编程日记 2024/12/1 18:16:34

SQLModel与FastAPI结合：构建用户增删改查接口

SQLModel简介 SQLModel是一个现代化的Python库，旨在简化与数据库的交互。它结合了Pydantic和SQLAlchemy的优势，使得定义数据模型、进行数据验证和与数据库交互变得更加直观和高效。SQLModel由FastAPI的创始人Sebastin Ramrez开发，专为与FastA…...

编程日记 2024/12/1 18:13:32

【RISC-V CPU debug 专栏 2.3 -- Run Control】

文章目录 Run ControlHart 运行控制状态位状态信号操作流程时间与实现注意事项Run Control 在 RISC-V 调试架构中，运行控制模块通过管理多个状态位来对硬件线程（harts）的执行进行调节和控制。这些状态位帮助调试器请求暂停或恢复 harts，并在 hart 复位时进行控制。以下是运…...

编程日记 2024/12/1 18:11:30

探索 IntelliJ IDEA 中 Spring Boot 运行配置

前言 IntelliJ IDEA 作为一款功能强大的集成开发环境（IDE），为 Spring Boot 应用提供了丰富的运行配置选项，定义了如何在 IntelliJ IDEA 中运行 Spring Boot 应用程序，当从主类文件运行应用程序时，IDE 将创建…...

编程日记 2024/12/1 18:08:26

三除数枚举

给你一个整数 n 。如果 n 恰好有三个正除数 ，返回 true ；否则，返回 false 。 如果存在整数 k ，满足 n k * m ，那么整数 m 就是 n 的一个 除数 。 输入：n 4 输出：true 解释：4 有三…...

编程日记 2024/12/1 18:07:24

【051】基于51单片机温度计【Proteus仿真+Keil程序+报告+原理图】

☆、设计硬件组成：51单片机最小系统DS18B20温度传感器LCD1602液晶显示按键设置蜂鸣器LED灯。 1、本设计采用STC89C51/52、AT89C51/52、AT89S51/52作为主控芯片； 2、采用DS18B20温度传感器测量温度，并且通过LCD1602实时显示温度；…...

编程日记 2024/12/1 18:06:22

[Java]微服务之服务保护

雪崩问题 微服务调用链路中的某个服务故障，引起整个链路中的所有微服务都不可用，这就是雪崩 雪崩问题产生的原因是什么? 微服务相互调用，服务提供者出现故障或阻塞。服务调用者没有做好异常处理，导致自身故障。调用链中的所有服…...

编程日记 2024/12/1 18:05:21

自动驾驶目标检测融合全貌

1、early fusion 早期融合，特点用到几何空间转换3d到2d或者2d到3d的转换，用像素找点云或者用点云找像素。 2、deep fusion 深度融合，也是特征级别融合，也叫多模态融合，如bevfusion范式 3、late fusion 晚融合&#x…...

编程日记 2024/12/1 18:02:10

消息框(Message Box)的测试方法和测试用例

我来帮你了解消息框(Message Box)的测试方法和测试用例的编写。 我已经创建了一个测试用例示例，让我为你解释消息框测试的主要方面： 测试维度： 功能性测试：验证消息框的基本功能是否正常样式测试：确认不同类型消息框…...

编程日记 2024/12/1 17:59:07

Ubuntu 包管理

APT&dpkg 查看已安装包 查看所有已经安装的包 dpkg -l 查找包 apt search <package_name>搜索软件包列表&#xff0c;找到与搜索关键字匹配的包 dpkg与grep结合查找特定的包 dpkg -s <package>&#xff1a;查看某个安装包的详细信息 安装包 apt安装命令 更新…...

编程日记 2024/12/1 17:58:06

[Ubuntu] linux之Ubuntu18.04的下载及在虚拟机中详细安装过程（附有下载链接）

前言 ubuntu 链接&#xff1a;https://pan.quark.cn/s/283509d0d36e 提取码&#xff1a;dfT1 链接失效&#xff08;可能被官方和谐&#xff09;可评论或私信我重发 下载压缩包后解压 &#xff01;&#xff01;安装路径不要有中文 下载后解压得到.iso文件&#xff0c;不要放在…...

编程日记 2024/12/1 17:57:05

ffmpeg安装(windows)

ffmpeg安装-windows 前言ffmpeg安装路径安装说明 前言 ffmpeg的安装也是开箱即用的,并没有小码哥说的那么难 ffmpeg安装路径 这就下载好了! 安装说明 将上面的bin目录加入到环境变量,然后在cmd中测试一下: C:\Users\12114\Desktop\test\TaskmgrPlayer\x64\Debug>ffmpe…...

编程日记 2024/12/1 17:54:01

服务器数据恢复—raid6阵列硬盘被误重组为raid5阵列的数据恢复案例

服务器存储数据恢复环境&#xff1a; 存储中有一组由12块硬盘组建的RAID6阵列&#xff0c;上层linux操作系统EXT3文件系统&#xff0c;该存储划分3个LUN。 服务器存储故障&分析&#xff1a; 存储中RAID6阵列不可用。为了抢救数据&#xff0c;运维人员使用原始RAID中的部分…...

编程日记 2024/12/1 17:53:00

linux内核编译启动总结

linux kernel 编译 升级汇总 写在前面内核编译获取kernel代码开始前的准备工作 编译过程1\.解压与净化将下载好的linux内核解压至/usr/src 2\. 得到源代码后,将其净化3\. 配置要进行编译的内核4.编译内核. &#xff08;15分钟&#xff09;5.编译模块.方法1:方法2&#xff1a; 6…...

编程日记 2024/12/1 17:50:57

Android Studio的AI工具插件使用介绍

Android Studio的AI工具插件使用介绍 一、前言 Android Studio 的 AI 工具插件具有诸多重要作用&#xff0c;以下是一些常见的方面&#xff1a; 代码生成与自动补全 代码优化与重构 代码解读 学习与知识获取 智能搜索与资源推荐实际使用中可以添加注释&#xff0c;解读某段代…...

编程日记 2024/12/1 17:48:55

本地部署 WireGuard 无需公网 IP 实现异地组网

WireGuard 是一个高性能、极简且易于配置的开源虚拟组网协议。使用路由侠内网穿透使其相互通讯。 第一步&#xff0c;服务端&#xff08;假设为公司电脑&#xff09;和客户端&#xff08;假设为公司外的电脑&#xff09;安装部署 WireGuard 1&#xff0c;点此下载&#xff08;…...

编程日记 2024/12/1 17:42:47

asyncio.ensure_future 与 asyncio.create_task：Python异步编程中的选择

asyncio.ensure_future 与 asyncio.create_task&#xff1a;Python异步编程中的选择 引言asyncio.ensure_futureasyncio.create_task两者的区别参数接受范围任务调度的保证代码可读性 哪个更好&#xff1f;使用asyncio.create_task使用asyncio.ensure_future 结论参考 引言 在…...

编程日记 2024/12/1 17:41:44

CTF之密码学（密码特征分析）

一.MD5,sha1,HMAC,NTLM 1.MD5&#xff1a;MD5一般由32/16位的数字(0-9)和字母(a-f)组成的字符串 2.sha1&#xff1a;这种加密的密文特征跟MD5差不多&#xff0c;只不过位数是40&#xff08;sha256&#xff1a;64位&#xff1b;sha512:128位&#xff09; 3.HMAC&#xff1a;这…...

编程日记 2024/12/1 17:40:42

网站动画是怎么做的/域名收录查询工具

一、WordPress WordPress 是一种使用 PHP 和 MySQL 开发、功能强大的免费博客系统&#xff0c;目前在全世界使用人数最多&#xff01;它插件众多&#xff0c;主题丰富&#xff0c;而且安装和使用都非常方便。运用它&#xff0c;您可以轻松地在支持 PHP 和 MySQL 数据库的服务器…...

编程日记 2025/1/12 19:47:15

专业做消防工程师的正规网站/深圳网站关键词优化推广

2019独角兽企业重金招聘Python工程师标准>>> 以项目名为myTest,当前类名为test(其中package com.sun.app)&#xff0c;test.txt为test同目录下为例&#xff1a; 全路径&#xff1a; 1.当前类test.class文件的URI目录 URL url test.class.getResource("")…...

编程日记 2025/1/12 16:59:21

如何做网站关键词收录/中文搜索引擎大全

一、源码特点 jsp 中小企业CRM系统是一套完善的java web信息管理系统&#xff0c;对理解JSP java编程开发语言有帮助&#xff0c;系统具有完整的源代码和数据库&#xff0c;系统主要采用B/S模式开发。开发环境为TOMCAT7.0,Myeclipse8.5开发&#xff0c;数据库为Mysql5.0&am…...

编程日记 2025/1/12 14:23:13

做企业网站的步骤/东莞seo优化

今天晕晕沉沉的创建一个JOB&#xff0c;用PLSQL图形化界面没成功&#xff0c;SQL语句也没成果&#xff0c;最后发现竟然是job变量未定义&#xff0c;留个坑在这里…… SQL> begin 2 sys.dbms_job.submit(job > :job, 3 what > proc_export_containers;, 4…...

编程日记 2025/1/12 11:40:43

北京市建设投标网站/seo主要做什么工作

灯光的测试例子&#xff1a;光源参数可以调节的测试场景 先看一下测试场景和效果。 场景中可以切换视图&#xff0c; 以方便观察三维体和灯光的位置。环境光&#xff0c;漫射光&#xff0c;镜面反射光都可以在四种颜色间切换。 灯光位置和摄像机位置(LookAt)可以输入数值或者点…...

编程日记 2025/1/12 11:17:31

做网站毕业设计存在的问题/杭州百度seo

一、实践内容 本实践目标是掌握metasploit的基本应用方式&#xff0c;重点常用的三种攻击方式的思路。具体需要完成&#xff1a; 1.一个主动攻击实践&#xff0c;如ms08_067; &#xff08;成功&#xff09; 2.一个针对浏览器的攻击&#xff0c;如ms10_018_ie_behaviors&#xf…...

编程日记 2025/1/12 9:11:51