当前位置： 首页 > news >正文

大语言模型数据类型与环境安装(llama3模型)

news 文章来源：https://blog.csdn.net/weixin_38252409/article/details/143209929 2025/1/11 21:58:30

文章目录

  • 前言
  • 一、代码获取
  • 一、环境安装
  • 二、大语言模型数据类型
    • 1、基本文本指令数据类型
    • 2、数学指令数据类型
    • 3、几何图形指令数据类型
    • 4、多模态指令数据类型
    • 5、翻译指令数据类型
  • 三、vscode配置
  • 四、相关知识内容
    • 1、理解softmax内容
    • 2、torch相关函数
      • nn.Embedding函数
      • torch.nn.functional.scaled_dot_product_attention
      • torch.multinomial函数
  • 五、llama3相关内容说明
    • 1、llama3的权重文件夹
    • 2、模型文件对比
  • 六、huggingface相关内容
    • 1、huggingface的generate方法
    • 2、tokenizer.decode(s, skip_special_tokens=True)方法

前言

简单给出环境安装与数据类型及vscode运行配置，其中vscode运行配置是便于我们调试代码。

一、代码获取

llama3的代码非常好下载，但是获取权重难度较大，而我这个教程也是为了解读大语言模型内容。为此，我找了一个github开源好下载权重的代码做为基准研究，其网址：https://github.com/WJC262/Chinese-LLaMA-Alpaca-3-main。其内容形式如下图显示：

在这里插入图片描述

你可放心使用，我已训练一个数学模型，效果还是不错的！

一、环境安装

我讲解有2个代码，一个是github提供，一个是我通过transformer构建的llama架构，而环境安装是非常简单的，只需cd到相应文件夹路径，直接下面一句话，可实现环境安装，如下：

pip install -

相关文章：

大语言模型数据类型与环境安装(llama3模型)

文章目录 前言一、代码获取一、环境安装二、大语言模型数据类型1、基本文本指令数据类型2、数学指令数据类型3、几何图形指令数据类型4、多模态指令数据类型5、翻译指令数据类型三、vscode配置四、相关知识内容1、理解softmax内容2、torch相关函数nn.Embedding函数torch.nn.fun…...

编程日记 2024/10/30 21:06:24

JS：列表操作

目录 1、列表截取2、列表数据包含3、列表筛选4、极值操作5、获取列表对象某一属性构建列表6、获取元素在列表中的下标7、列表去重 1、列表截取 列表截取：List.slice(start, end)，左闭右开 var dataList [1,2,3,4,5,6] var resultList dataList.slice(0…...

编程日记 2024/10/30 21:04:20

ECharts 折线图 / 柱状图 ，通用配置标注示例

option {tooltip: { // 关于提示框（tooltip）的配置// 显示某一个去掉trigger: axis，显示一起显示 trigger: axistrigger: axis},legend: {top: bottom, // 显示标注位置// textStyle: {// color: "#000", // 设置图例文字颜…...

编程日记 2024/10/30 21:00:12

统计数据集的TXT、XML及JSON标注文件中各类别/每个标签的数量

在计算机视觉和深度学习领域，标注文件是模型训练的重要组成部分。无论是图像分类、目标检测还是图像分割，正确的标注能够显著提升模型的性能。在实际应用中，我们需要快速了解每个类别的样本数量，以便进行数据分析、平衡类别分布或…...

编程日记 2024/10/30 20:59:08

Facebook登录客户追踪:了解用户访问路径，优化客户体验

随着数字化转型的不断加速，精准的客户数据收集和用户行为追踪成为企业提升用户体验和优化业务流程的关键。Facebook登录作为一种便捷的第三方登录方式，已经被广泛应用于各类网站和应用中。它不仅简化了用户的注册与登录流程，还帮助企业获得用…...

编程日记 2024/10/30 20:58:07

NUUO摄像头 debugging_center_utils 远程命令执行漏洞复现

0x01 产品描述： ‌ NUUO摄像头‌是由中国台湾NUUO公司生产的一款网络视频录像机（Network Video Recorder，简称NVR），广泛应用于零售、交通、教育、政府和银行等多个领域。它能够同时管理多个IP摄像头&#xff0c…...

编程日记 2024/10/30 20:55:02

Nginx 的讲解和案例示范

一、基础理解 1.1 Nginx 是什么？ Nginx是一个高性能的 Web 服务器和反向代理服务器，同时也可以作为邮件代理服务器。Nginx 以其高并发处理能力、低内存消耗和丰富的功能受到广泛欢迎。 主要功能： 静态资源服务：高效地提供 HTM…...

编程日记 2024/10/30 20:53:00

微信小程序元素水平居中或垂直居中

最近在做一个微信小程序的项目&#xff0c;其中涉及到css样式实现将<navigator>标签内的图片和文本元素垂直排列&#xff0c;并水平居中。在尝试实现的过程中&#xff0c;将元素在标签内的所有排列情况都顺带实现了。上代码&#xff1a; index.wxml <navigator url&…...

编程日记 2024/10/30 20:50:58

ClickHouse 神助攻：纽约城市公共交通管理（MTA）数据应用挑战赛

本文字数&#xff1a;13198&#xff1b;估计阅读时间&#xff1a;33 分钟 作者&#xff1a;The PME Team 本文在公众号【ClickHouseInc】首发 我们一向对开放数据挑战充满热情&#xff0c;所以当发现 MTA&#xff08;城市交通管理局&#xff09;在其官网发起了这样的挑战时&…...

编程日记 2024/10/30 20:49:57

ELK + Filebeat + Spring Boot：日志分析入门与实践（二）

目录 一、环境 1.1 ELKF环境 1.2 版本 1.3 流程 二、Filebeat安装 2.1 安装 2.2 新增配置采集日志 三、logstash 配置 3.1 配置输出日志到es 3.2 Grok 日志格式解析 3.2 启动 logstash ​3.3 启动项目查看索引 一、环境 1.1 ELKF环境 springboot项目&#xff1a;w…...

编程日记 2024/10/30 20:48:56

使用 Docker Compose 将数据版 LobeChat 服务端部署

LobeChat 是一个基于 TypeScript 的开源聊天机器人项目&#xff0c;支持本地部署和接入多个大语言模型。本文介绍如何使用 Docker Compose 将 LobeChat 服务端及其数据库部署到生产环境&#xff0c;让您拥有一个私有化的、可定制的 AI 聊天助手。 一、部署前准备 服务器&…...

编程日记 2024/10/30 20:47:55

python如何完成金融领域的数据分析，思路以及常见的做法是什么？

引言 在现代金融领域，数据分析已成为决策支持的重要工具。随着金融市场的复杂性和数据量的激增，传统的分析方法已无法满足需求。 Python作为一种强大的编程语言，凭借其丰富的库和工具，成为金融数据分析的首选语言之一。 本文将探讨如何利用Python进行金融数据分析，包括…...

编程日记 2024/10/30 20:46:54

密码管理工具实现

该文档详细描述了实现一个简单的密码管理工具的过程&#xff0c;工具基于PHP和MySQL构建&#xff0c;支持用户注册、密码存储、管理以及角色权限控制等核心功能。 系统架构设计 技术栈&#xff1a;PHP&#xff08;后端逻辑&#xff09;、MySQL&#xff08;数据存储&#xff09…...

编程日记 2024/10/30 20:45:52

构造函数和new操作符 - 2024最新版前端秋招面试短期突击面试题【100道】

构造函数和new操作符 - 2024最新版前端秋招面试短期突击面试题【100道】 &#x1f3d7;️ 在JavaScript中&#xff0c;构造函数和new操作符是创建对象的重要方式。深入理解它们的基本概念和用法&#xff0c;可以帮助你更有效地使用JavaScript进行开发。以下是关于构造函数和ne…...

编程日记 2024/10/30 20:43:50

6.Linux按键驱动-阻塞与非阻塞

默认打开文件时候是阻塞的 当设置打开方式为非阻塞时&#xff0c;无数据时会返回。 当设置打开方式为阻塞时&#xff0c;无数据的时候会等待1.设置打开方式为非阻塞 立即返回&#xff0c;无法读出&#xff0c;返回-1 2.设置为阻塞 核心在于驱动程序中的.read函数的支持 …...

编程日记 2024/10/30 20:41:47

Mac打开环境变量配置文件，source ~/.zshrc无法打开问题解决

本文将会介绍&#xff0c;Mac如何打开zshrc环境变量配置文件。 在搭建开发环境的时候&#xff0c;通常我们需要配置环境变量&#xff0c;例如&#xff1a;ANDROID_HOME、nvm等。 具体的做法是把配置环境变量的命令加入到 shell 的配置文件中。如果你的 shell 是 zsh&#xff…...

编程日记 2024/10/30 20:40:46

计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-10-23

计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-10-23 目录 文章目录 计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-10-23目录1. Advancements in Visual Language Models for Remote Sensing: Datasets, Capabilities, and Enhancement Techniques摘…...

编程日记 2024/10/30 20:39:45

【C#】搭建环境之CSharp+OpenCV

在我们使用C#编程中&#xff0c;对图片处理时会用到OpenCV库&#xff0c;以及其他视觉厂商提供的封装库&#xff0c;这里因为OpenCV是开源库&#xff0c;所以在VS资源里可以直接安装使用&#xff0c;这里简单说明一下搭建的步骤及实现效果&#xff0c;留存。 1. 项目创建 1.1…...

编程日记 2024/10/30 20:37:43

100种算法【Python版】第25篇——Bidirectional Search算法

本文目录 1 算法原理2 路径计算的算法步骤3 python代码4 算法应用1 算法原理 Bidirectional Search（双向搜索）算法是为了解决图中最短路径问题而提出的一种搜索策略，旨在提高搜索效率。该算法的核心思想是同时从起点和终点进行搜索，直到两个搜索相遇。这种方法有效地减少了…...

编程日记 2024/10/30 20:36:42

WebSocket与Socket

一、定义与用途 Socket Socket&#xff08;套接字&#xff09;是一个抽象层&#xff0c;用于在网络上执行进程间的通信。它为应用程序提供了发送和接收数据的机制&#xff0c;通过IP和端口号来标识网络中唯一的位置。Socket可以使用TCP进行面向连接的可靠通信&#xff0c;也可以…...

编程日记 2024/10/30 20:35:41

Python 3 维护有序列表 bisect

在Python 3中&#xff0c;bisect模块提供了用于维护有序列表的函数&#xff0c;主要用于在有序序列中进行二分查找以及插入操作&#xff0c;以下是其常见用法的介绍&#xff1a; 1. 导入模块 首先需要导入bisect模块&#xff1a; import bisect2. 主要函数及用法 bisect.bi…...

编程日记 2024/10/30 20:31:34

vue版本太低无法执行vue ui命令

连接 ui和create目前都只支持3.0以后得版本才能使用 https://blog.csdn.net/m0_67318913/article/details/136775252?utm_mediumdistribute.pc_relevant.none-task-blog-2defaultbaidujs_baidulandingword~default-0-136775252-blog-121204604.235v43pc_blog_bottom_relevance…...

编程日记 2024/10/30 20:29:32

数据结构 之 二叉树的遍历------先根遍历(五）

提示&#xff1a;本篇章主要讲解数据结构中树的相关知识。 文章目录 二叉树的遍历为什么要提出这么多遍历方法&#xff1f;先根遍历二叉树&#xff08;TLR&#xff09;先根遍历二叉树的递归算法&#xff08;重点&#xff09;先根遍历二叉树的非递归算法(了解&#xff0c;但是得…...

编程日记 2024/10/30 20:28:30

Xss_less靶场攻略(1-18)

xss-lab-less1 ur特殊字符转义 存在url中 转义符为 %2B& 转义符为 %26空格 转义符为 或 %20/ 转义符为 %2F? 转义符为 %3F% 转义符为 %25#转义符为 %23 转义符为 %3Dimg 标签懒加载 在XSS攻击中&#xff0c;img标签的src属性是一个常见的攻击向量&#xff0c;因为它可以…...

编程日记 2024/10/30 20:27:29

【AI语音克隆整合包及教程】声临其境，让想象成为现实——第二代GPT-SoVITS引领语音克隆新时代！

随着人工智能技术的飞速发展&#xff0c;曾经只能在科幻小说中出现的场景逐渐走进了我们的日常生活。其中&#xff0c;语音克隆技术以其独特魅力&#xff0c;成为了人们关注的焦点。GPT-SoVITS作为一款前沿的语音克隆工具&#xff0c;由RVC变声器创始人“花儿不哭”与AI音色转换…...

编程日记 2024/10/30 20:26:28

echarts属性之dataZoom

dataZoom-slider 滑动条型数据区域缩放组件&#xff08;dataZoomInside&#xff09; 滑动条型数据区域缩放组件提供了数据缩略图显示&#xff0c;缩放&#xff0c;刷选&#xff0c;拖拽&#xff0c;点击快速定位等数据筛选的功能。下图显示了该组件可交互部分 所有属性 data…...

编程日记 2024/10/30 20:25:23

SQLite 语法

SQLite 语法 SQLite 是一种轻量级的数据库管理系统&#xff0c;它遵循 SQL&#xff08;结构化查询语言&#xff09;标准。SQLite 的语法相对简单&#xff0c;易于学习和使用。本文将详细介绍 SQLite 的基本语法&#xff0c;包括数据定义语言&#xff08;DDL&#xff09;、数据…...

编程日记 2024/10/30 20:24:20

逗号运算符应用举例

在main.cpp里输入程序如下&#xff1a; #include <iostream> //使能cin(),cout(); #include <iomanip> //使能setbase(),setfill(),setw(),setprecision(),setiosflags()和resetiosflags(); //setbase( char x )是设置输出数字的基数,如输出进制数则用set…...

编程日记 2024/10/30 20:23:17

Android 玩机知识储备

基础知识 安卓刷机&#xff1a;https://post.smzdm.com/p/724098/安装分区&#xff08;视频&#xff09;: https://www.bilibili.com/video/BV1BY4y1H7Mc/安卓分区&#xff08;文章&#xff09;: https://www.cnblogs.com/unixcs/p/16398969.html开机过程&#xff1a;https://…...

编程日记 2024/10/30 20:20:14

MyBatis 学习记录（六）之逆向工程

MyBatis 学习记录&#xff08;六&#xff09; MyBatis的逆向工程1、创建逆向工程添加依赖和插件创建逆向工程的配置文件执行MBG插件的generate目标最终生成的效果 2、QBC查询 MyBatis的逆向工程 **正向工程&#xff1a;**先创建Java实体类&#xff0c;由框架负责根据实体类生成…...

编程日记 2024/10/30 20:18:12

wordpress分享获得积分/网址导航该如何推广

主要考察组合数知识&#xff0c;初始化的时候参考公式首先先推个公式&#xff0c;就是长度为len的Round Numbers的个数。长度为len,第一位肯定是1了。那么后面剩下 len-1位。如果len-1是偶数。那么 C&#xff08;len-1,(len-1)/21)C&#xff08;len-1,(len-1)/22)C(len-1,len-…...

编程日记 2025/1/11 21:54:46

猪八戒做的网站怎么样/草莓永久地域网名入2022

1、mongodb 使用安全认证时&#xff0c;添加用户使用createUser&#xff0c;具体如下&#xff1a; 定义&#xff1a; 创建一个数据库新用户用db.createUser()方法&#xff0c;如果用户存在则返回一个用户重复错误。 语法&#xff1a; db.createUser(user, writeConcern) …...

编程日记 2025/1/11 19:45:39

wordpress 新浪/seo软文推广工具

本文测试通过条件&#xff1a; VMware-Workstation-Pro-14.0.0.6661328 Ubuntu 16.04 先来一种物理卷和逻辑卷的关系图&#xff1a; 本图拍自书籍&#xff1a;Linux命令行与Shell脚本编程大全(第三版155页) 方法步骤&#xff1a; 一 在虚拟机中添加一块4G的硬盘&#xff0c;…...

编程日记 2025/1/11 14:46:15

网站建设常见的问题/营销网页设计公司

安装步骤 进入到约定好固定的目录下 cd /opt 获取安装包 wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.8.0-linux-x86_64.tar.gz 解压 tar -zxvf elasticsearch-7.8.0-linux-x86_64.tar.gz 创建启动用户 为什么要创建启动用户 Elasticsear…...

编程日记 2025/1/11 13:32:13

省建设厅网站6/保定百度seo公司

福建省高等院校学生计算机应用水平等级考试.doc (7页)本资源提供全文预览&#xff0c;点击全文预览即可全文预览,如果喜欢文档就下载吧&#xff0c;查找使用更方便哦&#xff01;9.90 积分&#xfeff;福建省高等院校学生计算机应用水平等级考试一级(计算机应用基础)考试大纲(一…...

编程日记 2025/1/11 11:41:17

做贺卡 网站/目录搜索引擎有哪些

windows中安装配置MySQL 5.7.26 一. 下载MySQL https://dev.mysql.com/downloads/mysql/ &#xfffc; 下载完成后后,解压缩即可.&#xfffc; 讲解压后的文件,移动到某个盘符下,比如E盘.&#xfffc; 二. 配置my.ini 在mysql-5.7.26解压目录下,创建一个my.ini文件 文件…...

编程日记 2025/1/11 8:38:23