开发大语言模型需要数据？算法？算力？
开发大语言模型的关键是什么。最近看到不少文章为了流量，甚至连 5G 通讯都说成了是开发大语言模型的关键
其实从前面的原理介绍，不难看出，大语言模型的其中一个关键点是数据。
关键一：数据
训练数据主要是所谓的语料库。今天的很多语言模型的语料库主要有以下几种：
- Books：BookCorpus 是之前小语言模型如 GPT-2 常用的数据集，包括超过 11000 本电子书。主要包括小说和传记，最近更新时间是 2015 年 12 月。大一点的书籍语料库是 Gutenberg，它有 70000 本书，包括小说、散文、戏剧等作品，是目前最大的开源书籍语料库之一，最近更新时间是 2021 年 12 月。
- CommonCrawl：这个是目前最大的开源网络爬虫数据库，不过这个数据包含了大量脏数据，所以目前常用的四个数据库是 C4、CC-Stories、CC-News 和 RealNews。另外还有两个基于 CommonCrawl 提取的新闻语料库 REALNEWS 和 CC-News。
- Reddit Links：简单理解 Reddit 就是外国版本的百度贴吧 + 知乎。目前开源的数据库有 OpenWebText 和 PushShift.io。
- Wikipedia：维基百科是目前大模型广泛使用的语料库。
- Code：一般包含 GitHub 上的开源公共代码库，或者是
相关文章：
开发大语言模型需要数据？算法？算力？
开发大语言模型的关键是什么。最近看到不少文章为了流量，甚至连 5G 通讯都说成了是开发大语言模型的关键 其实从前面的原理介绍，不难看出，大语言模型的其中一个关键点是数据。 关键一：数据 训练数据主要是所谓的语料库。今天的很多语言模型的语料库主要有以下几种： …...
CSS选择器的常见用法
目录 1、CSS编写方式 2.CSS选择器 1.标签选择器 2.类选择器 3.id选择器 4.后代选择器 3.CSS属性 CSS叫做"层叠样式表",作用就是装饰网页.类似于我们平时所说的化妆。 字体、大小、间距、颜色、位置、边框、背景等等统称为样式，用来描述一个网页。 …...
Oracle EBS修改密码
FNDCPASS修改密码 用户名必须出现在FND_USER或FND_ORACLE_USERID表中。FNDCPASS实用程序和ALLRACLE功能是为应用程序用户/模式设计的。 对于FND_USER或FND_ORACLE_USERID中不存在的用户，可以使用alter命令更改密码。 查询用户是否存在FND_USER或FND_ORACLE_USERI…...
《花雕学AI》33：如何用XMind制作AI思维导图、鱼骨图和组织结构图
思维导图是一种有效的思维工具，它可以帮助我们整理信息，激发创意，提高效率。思维导图是一种以中心主题为核心，以分支结构为形式，以关键词和图像为内容的图形表示法。它可以让我们一目了然地看到知识的层次和逻辑&#…...
【rust】| 06——语言特性 | 所有权
系列文章目录 【rust】| 00——开发环境搭建 【rust】| 01——编译并运行第一个rust程序 【rust】| 02——语法基础 | 变量(不可变?)和常量 【rust】| 03——语法基础 | 数据类型 【rust】| 04——语法基础 | 函数 【rust】| 05——语法基础 | 流程控制 【rust】| 06——语言特…...
AUTOSAR入门
简介 AUTOSAR（AUTomotive Open System ARchitecture）是一种汽车软件架构标准，由德国大陆、博世、宝马等汽车及零部件制造商共同发起，拥有广泛的行业参与。其目标是为了解决汽车电子和软件系统日益复杂的问题，提高可重…...
运维高可用架构的 6 大常规方案
在介绍高可用架构的方案之前，先说一下什么是高可用架构，高可用架构应具备但不限于以下特征： 主从切换 很好理解，当其中一台机器的服务宕机后，对于服务调用者来说，能够迅速的切换到其他可用服务，…...
Java设计模式-桥接模式
简介 桥接模式（Bridge Pattern）是一种结构性设计模式，它的主要作用是将抽象部分和实现部分解耦，使它们可以独立变化而不会互相影响。桥接模式最早由GoF（Gang of Four）提出，在《设计模式》一书中…...
计及N-k安全约束的含光热电站电力系统优化调度模型【IEEE14节点、118节点】（Matlab代码实现）
💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势：🌞🌞🌞博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。 ⛳️座右铭&a…...
欧拉函数详解
文章目录 欧拉函数定义性质计算公式求某个数欧拉函数值线性筛求区域内欧拉函数 欧拉函数 定义 在[1,n]的范围内所有与n互质的数字的个数。 我们用 φ ( n ) \varphi(n) φ(n)来表示数字n的欧拉函数的值，例如： φ ( 4 ) 2 \varphi(4)2 φ(4)2…...
手把手教你如何将安卓手机数据导入iPhone！【详解】
案例：安卓数据导入苹果手机 【大神们，刚换了新的苹果手机，原本的安卓手机数据怎么导入新手机？】 想要换用iPhone，但是又不想丢失安卓手机里的重要数据怎么办？如何将安卓手机数据导入iphone？本文…...
怎么轻松地搞定Win11系统备份任务？
“我是一个电脑小白，不是很懂电脑的一些操作。我刚买了一台新电脑，它装的是Win11系统，我害怕它出现什么问题，听朋友说可以通过备份的方法保护系统，这是真的吗？有谁知道该怎么进行Win11系统备份吗࿱…...
MySQL集群
目录 主从复制 主从复制流程： 为什么要有relay log中继日志？ 为什么要有主从复制，好处？ 实际生产环境中。如果对MySQL数据库的读写都在一台数据库服务器中操作，无论是再安全性、高可用性，还是高并发性等…...
关于Kerberos认证的一些攻击手法学习总结
Kerberos认证流程 前言 本文主要分享最近学习的关于域内Kerberos认证的一些攻击手法，以自我的理解为主，从原理理解切入到基本工具利用来阐述，个人的理解分析较为啰嗦，嫌太兀长的可以跳着看就好，还请各位谅解。如有错误…...
STL-deque容器
双端数组，可以对头端进行插入删除操作 deque 容器和 vecotr 容器有很多相似之处，比如： deque 容器也擅长在序列尾部添加或删除元素（时间复杂度为O(1)），而不擅长在序列中间添加或删除元素。deque 容器也可…...
❤ go语言和java语言的优缺点
❤ go语言和java语言的优缺点对比 对比GOJAVA介绍Java是一种流行的面向对象的编程语言，它的语法类似于C，并且具有丰富的类库和工具。Java的可移植性很好，可以在多种平台上运行。Go是一种新兴的编程语言，它比Java更加简洁和易学&a…...
安全成就未来｜Fortinet Accelerate 2023·中国区巡展首站启幕
Fortinet Accelerate 2023中国区巡展 年度网络安全盛会 Fortinet Accelerate 2023中国区巡展，昨日在深圳拉开帷幕，开启15城巡展的“首城之站”。本年度巡展主题“安全成就未来”，Fortinet与中企通信、亚马逊云科技等生态合作伙伴，…...
输入URL到显示界面的整个过程
以如下这个比较简单的网络拓扑模型作为例子，探究中间发生的整个过程： 1 HTTP 浏览器做的第一步工作就是要对 URL 进行解析，从而生成发送给 Web 服务器的请求信息。下图展示了一条长长的URL里各个元素代表什么： 所以整个长长的URL…...
BetaFlight飞控启动运行过程简介
BetaFlight飞控启动&运行过程简介 1. 源由2. 启动过程2.1 main（主程序）2.2 init （初始化）2.3 run 3. 任务调度3.1 任务定义3.2 scheduler (调度器) 4. 总结5. 参考资料6. 附录 -- 问题汇总6.1 Why desiredPeriodCycles is so …...
智能汽车实验二(视觉传感器标定)
实验二 视觉传感器标定（实验报告） 【实验目的】 1、了解开源图像处理库OpenCV的结构，掌握OpenCV的基本使用方法。 2、了解开源图像处理库OpenCV的基本模块功能，掌握常用图像处理方法。 3、掌握摄像机标定算法，学会使用…...
【人工智能】神经网络的优化器optimizer（二）：Adagrad自适应学习率优化器
一.自适应梯度算法Adagrad概述 Adagrad（Adaptive Gradient Algorithm）是一种自适应学习率的优化算法，由Duchi等人在2011年提出。其核心思想是针对不同参数自动调整学习率，适合处理稀疏数据和不同参数梯度差异较大的场景。Adagrad通…...
【Linux】C语言执行shell指令
在C语言中执行Shell指令 在C语言中，有几种方法可以执行Shell指令： 1. 使用system()函数 这是最简单的方法，包含在stdlib.h头文件中： #include <stdlib.h>int main() {system("ls -l"); // 执行ls -l命令retu…...
Linux简单的操作
ls ls 查看当前目录 ll 查看详细内容 ls -a 查看所有的内容 ls --help 查看方法文档 pwd pwd 查看当前路径 cd cd 转路径 cd .. 转上一级路径 cd 名 转换路径 …...
鸿蒙中用HarmonyOS SDK应用服务 HarmonyOS5开发一个医院挂号小程序
一、开发准备 环境搭建： 安装DevEco Studio 3.0或更高版本配置HarmonyOS SDK申请开发者账号 项目创建： File > New > Create Project > Application (选择"Empty Ability") 二、核心功能实现 1. 医院科室展示 /…...
回溯算法学习
一、电话号码的字母组合 import java.util.ArrayList; import java.util.List;import javax.management.loading.PrivateClassLoader;public class letterCombinations {private static final String[] KEYPAD {"", //0"", //1"abc", //2"…...
CVE-2020-17519源码分析与漏洞复现(Flink 任意文件读取)
漏洞概览 漏洞名称：Apache Flink REST API 任意文件读取漏洞CVE编号：CVE-2020-17519CVSS评分：7.5影响版本：Apache Flink 1.11.0、1.11.1、1.11.2修复版本：≥ 1.11.3 或 ≥ 1.12.0漏洞类型：路径遍历&#x…...
使用LangGraph和LangSmith构建多智能体人工智能系统
现在，通过组合几个较小的子智能体来创建一个强大的人工智能智能体正成为一种趋势。但这也带来了一些挑战，比如减少幻觉、管理对话流程、在测试期间留意智能体的工作方式、允许人工介入以及评估其性能。你需要进行大量的反复试验。 在这篇博客〔原作者&a…...
Razor编程中@Html的方法使用大全
文章目录 1. 基础HTML辅助方法1.1 Html.ActionLink()1.2 Html.RouteLink()1.3 Html.Display() / Html.DisplayFor()1.4 Html.Editor() / Html.EditorFor()1.5 Html.Label() / Html.LabelFor()1.6 Html.TextBox() / Html.TextBoxFor() 2. 表单相关辅助方法2.1 Html.BeginForm() …...
代码规范和架构【立芯理论一】（2025.06.08）
1、代码规范的目标 代码简洁精炼、美观，可持续性好高效率高复用，可移植性好高内聚，低耦合没有冗余规范性，代码有规可循，可以看出自己当时的思考过程特殊排版，特殊语法，特殊指令，必须…...
tomcat入门
1 tomcat 是什么 apache开发的web服务器可以为java web程序提供运行环境tomcat是一款高效，稳定，易于使用的web服务器tomcathttp服务器Servlet服务器 2 tomcat 目录介绍 -bin #存放tomcat的脚本 -conf #存放tomcat的配置文件 ---catalina.policy #to…...