当前位置： 首页 > news >正文

baichuan2(百川2)本地部署的实战方案

news 文章来源：https://blog.csdn.net/herosunly/article/details/132755541 2024/11/29 11:38:07

  大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法行业就业。希望和大家一起成长进步。

  本文主要介绍了baichuan2(百川2)本地部署的实战方案，希望对学习大语言模型的同学们有所帮助。
在这里插入图片描述

文章目录

  • 1. 介绍
  • 2. 配置环境
    • 2.1 安装虚拟环境
    • 2.2 安装依赖库
  • 3. 下载权重文件
  • 4. 运行baichuan2
    • 4.1 方式一
    • 4.2 方式二

1. 介绍

  Baichuan 2 是百川智能推出的新一代开源大语言模型家族，具体包含了7B、13B 的 Base 和 Chat 版本，并提供了 Chat 版本的 4bits 量化。模型训练语料为2.6 万亿 Tokens 的高质量语料，模型训练流程包括了预训练、有

相关文章：

baichuan2(百川2)本地部署的实战方案

大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法…...

编程日记 2023/9/10 13:26:20

PostgreSQL配置主从备份（docker）

一、服务器规划 序号 IP 备注 1192.168.1.110主数据库2192.168.1.120从数据库 二、服务器部署 2.1、主服务器部署（192.168.1.110） 1）、于/opt/postgresql目录下，编辑docker-compose.yml version: "3" services:po…...

编程日记 2023/9/10 13:25:19

qt作业day4

//clock_exercise.cpp#include "clock_timer.h" #include "ui_clock_timer.h"//时间事件处理函数 void Clock_Timer::timerEvent(QTimerEvent *event) {if(event->timerId() time_id){sys_tm QDateTime :: currentDateTime(); // int year sy…...

编程日记 2023/9/10 13:24:16

js如何实现字符串反转？

聚沙成塔每天进步一点点 ⭐ 专栏简介⭐ 使用 split() 和 reverse() 方法⭐ 使用循环⭐ 使用递归⭐ 写在最后 ⭐ 专栏简介 前端入门之旅：探索Web开发的奇妙世界 记得点击上方或者右侧链接订阅本专栏哦 几何带你启航前端之旅 欢迎来到前端入门之旅！这个专…...

编程日记 2023/9/10 13:23:14

Nmap 7.94 发布：新功能！

Nmap 的最新版本 7.94 在其 26 岁生日之际发布。 最重要的升级是在所有平台上将 Zenmap 和 Ndiff 从 Python 2 迁移到 Python 3。 这个新版本的 Nmap 7.94 进行了升级，进行了多项改进，修复了一些关键错误，并添加了新的 Npcap、操作系统指纹…...

编程日记 2023/9/10 13:22:10

【深入解析spring cloud gateway】08 Reactor 知识扫盲

一、响应式编程概述 1.1 背景知识 为了应对高并发服务器端开发场景，在2009 年，微软提出了一个更优雅地实现异步编程的方式——Reactive Programming，我们称之为响应式编程。随后，Netflix 和LightBend 公司提供了RxJava 和Akka S…...

编程日记 2023/9/10 13:21:09

常用ADB指令

ADB指令 1.查看版本 adb shell getprop|findstr fingerprint 2.查看应用包名 adb shell pm list packages 3.查看系统关键字 adb shell getprop|findstr oem/sn/user… 4.查看进程id adb shell ps -ef |grep appstore 5.启动服务 adb shell am startservice -n com.a…...

编程日记 2023/9/10 13:20:05

【HTML5高级第二篇】WebWorker多线程、EventSource事件推送、History历史操作

文章目录 一、多线程1.1 概述1.2 体会多线程1.3 多线程中数据传递和接收 二、事件推送2.1 概述2.2 onmessage 事件 三、history 一、多线程 1.1 概述 前端JS默认按照单线程去执行，一段时间内只能执行一件事情。举个栗子：比方说古代攻城游戏&#xff0c…...

编程日记 2023/9/10 13:19:04

CentOS云服务器部署配置

1. 安装Mysql 1.1.确保服务器系统处于最新状态 [rootlocalhost ~]# yum -y update如果显示内容中含有 [rootlocalhost ~]# Complete! 说明更新完成 1.2.下载MySql安装包 rootlocalhost ~]# rpm -ivh http://dev.mysql.com/get/mysql57-community-release-el7-8.noarch.rpm…...

编程日记 2023/9/10 13:18:03

深入解析Java中的数组复制：System.arraycopy、Arrays.copyOf和Arrays.copyOfRange

当涉及到在Java中处理数组时，有许多方法可供选择，其中一些包括System.arraycopy()、Arrays.copyOf()和Arrays.copyOfRange()。这些方法允许您在不同的数组之间复制数据，但它们之间有一些细微的差异。在本篇博客文章中，我们将深入探…...

编程日记 2023/9/10 13:17:02

libc和glibc有什么区别

libc（C Library）是一个常见的术语，指的是C语言的标准函数库，提供了许多函数和常量供C语言程序使用。在不同的操作系统中，libc可能是不同的，但是它们都实现了C语言的标准库函数。 glibc（GNU C L…...

编程日记 2023/9/10 13:16:01

基于SSM的在线云音乐系统

末尾获取源码 开发语言：Java Java开发工具：JDK1.8 后端框架：SSM 前端：采用JSP技术开发 数据库：MySQL5.7和Navicat管理工具结合 服务器：Tomcat8.5 开发软件：IDEA / Eclipse 是否Maven项目&#x…...

编程日记 2023/9/10 13:14:59

构建高效的BFF（Backend for Frontend）：优化前端与后端协作

面试题分享 2023最新面试合集链接 2023大厂面试题PDF 面试题PDF版本 java、python面试题 项目实战:AI文本 OCR识别最佳实践 AI Gamma一键生成PPT工具直达链接 玩转cloud Studio 在线编码神器 玩转 GPU AI绘画、AI讲话、翻译,GPU点亮AI想象空间 史上最全文档AI绘画stab…...

编程日记 2023/9/10 13:13:58

喜报 | 实力亮相2023服贸会,擎创科技斩获领军人物奖创新案例奖

近日，由中华人民共和国商务部、北京市人民政府共同主办的中国（北京）国际服务贸易交易会（简称服贸会)已圆满落幕。 本次会议中，发布了2023年度“数智影响力”征集活动获奖名单，擎创科技创始人兼CEO杨辰获企…...

编程日记 2023/9/10 13:12:57

科技革新自动驾驶：拓世AI智能助理携手跟您一起点亮未来之旅

科技改变生活，智能改变世界，近年来，随着科技的不断进步，政策和市场的赋能推动，自动驾驶已经成为当今社会最炙手可热的话题之一。从其中的技术发展趋势来看，我国自动驾驶模式正由单车智能向车路协同时代演进…...

编程日记 2023/9/10 13:11:53

【HCIE】01.IGP高级特性

高级特性：一条命令解决一个问题 OSPF快速收敛机制 发生故障重新计算拓扑的过程叫做收敛，设备现在本身就是PRC算法和I-SPF算法 PRC（针对叶子节点，叶子代表路由） 不需要命令配置，就是ospf的特性&#xff…...

编程日记 2023/9/10 13:10:50

知识大杂烩(uniapp)

首先声明：不敢保证都管用，这是我自己实践得来的。 box-shadow: 这段 CSS 样式代码用于创建一个阴影效果，它是通过 box-shadow 属性来实现的。让我解释一下这段代码的含义： - box-shadow: 这是 CSS 的属性，用于添加阴影…...

编程日记 2023/9/10 13:09:49

Jmeter压测监控体系搭建Docker+Influxdb+Grafana

章节目录： 一、背景介绍1.1 概述1.2 拓扑图 二、云服务器设置三、Docker3.1 概述3.2 搭建流程3.3 安装验证3.4 配置docker镜像加速3.5 取消sudo运行(可选操作) 四、InfluxDB4.1 镜像拉取4.2 运行数据库4.3 创建存储 jmeter 数据的库 五、Grafana5.1 镜像拉取5.2 关联…...

编程日记 2023/9/10 13:08:47

TDesign 点击高亮显示=》点击切换class类名

1. wx:for遍历数组 2. 在一行显示 2. 点击高亮...

编程日记 2023/9/10 13:07:46

容器编排学习（二）镜像制作和私有仓库介绍

一 Dockerfile 1 概述 commit的局限 很容易制作简单的镜像，但碰到复杂的情况就十分不方便例如碰到下面的情况需要设置默认的启动命令需要设置环境变量需要指定镜像开放某些特定的端口 Dockerfile就是解决这些问题的方法 Dockerfile是一种更强大的镜像制作方式…...

编程日记 2023/9/10 13:06:43

tcp记录

网络传输：大小端 Qt网络编程实现TCP通信 TCP/IP通讯与socket编程 Qt一步步搭建TcpServer1——封装QTcpServer，QTcpSocket qtcpserver官方文档 Python address already in use 服务器端的端口号和客户端的端口号没有关系 一般服务器是需要BIND指定端口号…...

编程日记 2023/9/10 13:05:42

IDEA中使用Java连接MySQL数据库的配置和使用方法

文章目录 IDE和必要配置数据库连接代码 IDE和必要配置 IDE：IntelliJ IDEA 2023.1 必要配置： 1、安装好JDK，并且配置环境变量 2、导入MYSQL数据库所需的驱动 如果没有导入，可以参考这篇文章IDEA中的MySQL数据库所需驱动包的下载和…...

编程日记 2023/9/10 13:04:40

android——服务JobService

JobService是Android L时候官方新增的组件，适用于需要特定条件才执行后台任务的场景。由系统统一管理和调度，在特定场景下使用JobService更加灵活和省心，相当于是Service的加强或者优化。 JobService是JobScheduler的回调，是安排的…...

编程日记 2023/9/10 13:03:40

一文讲清楚redis的线程池jedis

背景 在shigen实习的时候，遇到了日志系统的性能优化问题，当时的优化点就是：使用redis的线程池，实现并发状态下的性能优化。但是找了很多的技术方案，发现redis的线程池配置起来比较麻烦。正巧，这个周末shig…...

编程日记 2023/9/10 13:02:39

备战面试每日一题

1.如何理解this？ this表示的是函数运行时自动生成的一个内部对象，只能在函数内部使用，总是指向调用它的对象。 this是在运行时进行绑定的，并不是在编写的时候绑定，它的上下文取决于函数调用时的各种条件。this的绑定…...

编程日记 2023/9/10 13:01:37

【嵌入式数据库之sqlite3】

目录 一.数据库基本概念（理解） 1.数据 2.数据库 二.常用的数据的数据库（了解） 1.大型数据库 2.中型数据库 3.小型数据库 三.基于嵌入式的数据库（了解） 四.SQLite基础（了解）…...

编程日记 2023/9/10 13:00:36

Android 9.0 pms中关于启动app时获取app的ActivityInfo信息相关源码分析

1.前言 在android9.0的系统rom定制化开发中，在对于app启动时，在进行系统中，通过Launcher调用pms来查询app的相关ActivityInfo的相关信息，然后调用 ams来启动activity，这篇来分析pms中获取app的ActivityInfo的相关信息的相关源码分析 2.pms中关于启动app时获取app的Activ…...

编程日记 2023/9/10 12:59:35

华为数通方向HCIP-DataCom H12-821题库(单选题：321-340）

第321题 BGP的Open报文是用于建立对等体连接的，以下哪一项不属于Open报文中携带的参数信息? A、发送者的Router ID B、AS号 C、BGP版本号 D、TCP端口号 答案：D 解析：以下是BGP的Open报文： 第322题 在建立BGP对等体的过程中,OpenSent状态表明BGP等待的Open报文 并对收…...

编程日记 2023/9/10 12:58:34

《TCP/IP网络编程》阅读笔记--基于TCP的服务器端/客户端

目录 1--TCP/IP协议栈 2--TCP服务器端默认函数调用顺序 3--TCP客户端的默认函数调用顺序 4--Linux实现迭代回声服务器端/客户端 5--Windows实现迭代回声服务器端/客户端 6--TCP原理 7--Windows实现计算器服务器端/客户端 1--TCP/IP协议栈 TCP/IP协议栈共分 4 层&#xf…...

编程日记 2023/9/10 12:57:33

【每日一题】43. 字符串相乘

43. 字符串相乘 - 力扣（LeetCode） 给定两个以字符串形式表示的非负整数 num1 和 num2，返回 num1 和 num2 的乘积，它们的乘积也表示为字符串形式。 注意：不能使用任何内置的 BigInteger 库或直接将输入转换为整数。 示例…...

编程日记 2023/9/10 12:56:31

新疆教育集团网站建设/大二网络营销实训报告

很多商家朋友说自己做店铺没有什么头绪，不知道该怎么做也不知道自己哪里不足。这种情况其实对于做店铺来说是很可怕的一件事。做店铺，一定要理清目的，知道我们每个阶段所要去实现的效果，并且要针对运营过程中的核心痛点来操作&…...

编程日记 2024/11/29 10:01:47

深圳自适应网站制作/拼多多代运营一般多少钱

Fiddler抓包工具详细教程一 常用的抓包工具详细教程二 Fiddler2.1 简介2.2 Fiddler抓取HTTP请求2.2.1 HTTP代理2.2.2 字段说明2.2.3 Inspectors 查看数据内容2.3 Fiddler抓取HTTPS请求2.4 Fiddler抓取APP的请求2.5 Fiddler抓取APP上的HTTPS请求2.5.1 安装证书抓取HTTPS请求2.5.…...

编程日记 2024/11/29 6:18:10

资阳优化团队资讯/镇江seo

概述 继承是指这样一种能力： 通过继承创建的新类可以使用现有类的所有功能，并在无需重新编写原来的类的情况下对这些功能进行扩展。 继承就是一个从一般到特殊的过程，是面向对象编程（OOP）语言的主要特征。一个子类可…...

编程日记 2024/11/29 5:22:10

网站建设市场占有率/怎么可以让百度快速收录视频

模块划分　　模块划分的"划"是规划的意思，意指怎样合理的将一个很大的软件划分为一系列功能独立的部分合作完成系统的需求。C语言作为一种结构化的程序设计语言，在模块的划分上主要依据功能（依功能进行划分在面向对象设计中成为一个…...

编程日记 2024/11/29 5:16:08

用阳寿做交易的网站/百度官方客服平台

缺陷提交 怎么提交缺陷？测试过程中都要注意什么？ 第一 缺陷截图 理由： 缺陷可能难以重现，而在你再次验证该缺陷前你并不知道这点，所以养成先对缺陷截图的习惯，这样不管啥时候，你都可以对相关人员…...

编程日记 2024/11/29 4:36:12

单页面网站可以做自适应网站吗/网络营销的方法有哪些?

一、准备 hive下载地址：mirror.bit.edu.cn/apache/hive… 二、Hadoop环境搭建 Hadoop安装和配置，请看Hadoop单机版安装 三、mysql安装 因为Hive的默认元数据是Mysql，所以先要安装Mysql。 首先查看mysql 是否已经安装 rpm -qa | grep mysql 复…...

编程日记 2024/11/29 3:44:39