当前位置： 首页 > news >正文

大模型生成的常见Top-k、Top-p、Temperature参数

news 文章来源：https://blog.csdn.net/weixin_42357472/article/details/139726268 2024/11/2 20:16:34

参考：
https://zhuanlan.zhihu.com/p/669661536

在这里插入图片描述

topK，topP

https://www.douyin.com/video/7380126984573127945

主要是softmax产生的词表每个词的概率分布后，
topK，比如K=3，表示采样概率最大的前3个，其他全部舍弃，在这前3个词选择
topP，P比如P=0.7，表示采样前面概率最大的加和>=0.7的所有词，后续在这些词中进行再选择，其他舍弃

综合下来：topP一般给后续选择的空间比topK要多些

Temperature

https://www.douyin.com/video/7380324563369889061

主要是在改变 softmax 生成解码token的概率上（所有词表每个词的可能概率）：
正常softmax
在这里插入图片描述

加速Temperature后的softmax
每个指数除以t；e是自然是约等于2.7
在这里插入图片描述

T大于1，越大 softmax生成的每个词的概率差别不大，所以更随机
T小于1，越小 softmax生成的每个词的概率差别大，所以更确认，就是少部分几个词的概率最大
在这里插入图片描述

相关文章：

大模型生成的常见Top-k、Top-p、Temperature参数

参考： https://zhuanlan.zhihu.com/p/669661536 topK，topP https://www.douyin.com/video/7380126984573127945 主要是softmax产生的词表每个词的概率分布后， topK，比如K3，表示采样概率最大的前3个，其他全…...

编程日记 2024/6/17 1:55:02

ppt添加圆角矩形，并调整圆角弧度方法

一、背景 我们看的论文，许多好看的图都是用PPT做的，下面介绍用ppt添加圆角矩形，并调整圆角弧度方法。 二、ppt添加圆角矩形，并调整圆角弧度 添加矩形： 在顶部工具栏中，点击“插入”选项卡。 在“插图”…...

编程日记 2024/6/17 1:52:00

测评要求+基本措施+对应产品

基本要求项测评项基本措施对应产品 网络架构 网络架构 网络架构应保证网络各个部分的带宽满足业务高峰期需要；带宽管理流量控制系统 网络架构 网络架构 网络架构应避免将重要网络区域部署在边界处，重要网络区域与其他网络区域之间应采取可靠的技术隔离手…...

编程日记 2024/6/17 1:50:58

什么是git？

前言 Git 是一款免费、开源的分布式版本控制系统，用于敏捷高效地处理任何或小或大的项目。是的，我对git的介绍就一条，想看简介的可以去百度一下😘😘😘 为什么要用git？ OK，想象一下…...

编程日记 2024/6/17 1:49:57

C/C++中内存开辟与柔性数组

C/C中内存的开辟 在C中，我们都知道有三个区： 1. 栈区（stack）：在执行函数时，函数内局部变量的存储单元都可以在栈上创建，函数执行结 束时这些存储单元自动被释放。栈内存分配运算内置于处理器的指…...

编程日记 2024/6/17 1:44:51

编程App软件优化是什么

编程App软件优化是什么 在数字化时代，编程App软件已成为我们日常生活和工作中不可或缺的一部分。然而，随着技术的不断进步和用户需求的日益多样化，如何对编程App软件进行优化，以提供更高效、更流畅的用户体验，成为了开…...

编程日记 2024/6/17 1:43:50

爱了爱了，11款超良心App推荐！

AI视频生成：小说文案智能分镜智能识别角色和场景批量Ai绘图自动配音添加音乐一键合成视频https://aitools.jurilu.com/今天，我们向你推荐十款与众不同但又不错的win10软件，它们都有各自的功能和优点，相信你一定会喜欢。 1.图片处…...

编程日记 2024/6/17 1:41:47

Linux基础指令（二）（文件、权限等）

目录 普通文件的操作 touch cat 翻页 标准输出重定向： 标准输出重定向种类：​​​​​​​ 管道符：｜ 压缩指令： zip gzip tar Linux下最常见的打包指令 其他系统指令：​​​​​​​ 快捷…...

编程日记 2024/6/17 1:40:45

爆火的治愈系插画工具又来了，额度居然有18w，根本花不完?

AI治愈插画又又又来了 今天给大家推荐一款完全免费的软件，用过的人都说好！ 先来看看我生成的图 制作过程非常简单，输入你想要生成的画面咒语。 工具地址：https://www.qiyuai.net/ 模型目前有两种 我上面的图就是用的第一种通用…...

编程日记 2024/6/17 1:38:43

Qt 实战（4）信号与槽 | 4.3、信号连接信号

文章目录 一、信号连接信号1、什么是信号连接信号？2、如何实现信号连接信号3、总结 前言： 在Qt框架中，信号与槽（Signals and Slots）机制是对象间通信的核心。通常情况下，我们习惯于将信号连接到槽函数上&am…...

编程日记 2024/6/17 1:37:42

Day 16：3040. 相同分数的最大操作数目II

Leetcode 相同分数的最大操作数目II 给你一个整数数组 nums ，如果 nums 至少 包含 2 个元素，你可以执行以下操作中的 任意 一个： 选择 nums 中最前面两个元素并且删除它们。选择 nums 中最后两个元素并且删除它们。选择 nums 中第一个和最后一…...

编程日记 2024/6/17 1:35:38

Go基础编程 - 07 - 字典（map）及其约束

字典（map） 下一篇：结构体1. 声明2. nil 值字典3. 判断某个键是否存在4. 遍历5. delete() 删除键值对6. 约束7. 扩展 上一篇：指针 下一篇：结构体 map 是一种无序的基于 key-value 的数据结构，Go 语言中的 …...

编程日记 2024/6/17 1:34:37

WebSocket 快速入门 与 应用

WebSocket 是一种在 Web 应用程序中实现实时、双向通信的技术。它允许客户端和服务器之间建立持久性的连接，以便可以在两者之间双向传输数据。 以下是 WebSocket 的一些关键特点和工作原理： 0.特点： 双向通信：WebSocket 允许服务…...

编程日记 2024/6/17 1:33:35

使用Spring Cloud设计电商系统架构

在当今互联网高速发展的时代，电子商务系统成为了商家与用户互动的主要方式之一。为了能够更好地应对高并发、可扩展性、灵活性等需求，微服务架构逐渐成为设计电商系统的首选方案。Spring Cloud作为一个成熟的微服务框架，为开发人员提供了一整…...

编程日记 2024/6/17 1:32:34

揭开 Docker 容器的神秘面纱：深入理解容器原理

前言 前几年比较火的是微服务，再然后就是云。讨论技术必谈微服务，要上云，开发出的产品也都是某某云。现在讨论比较少了，因为AI盖过他们。还有就是因为容器技术，现在几乎都是k8s，云原生。要比较快的上手k8s…...

编程日记 2024/6/17 1:31:33

Elasticsearch：Open Crawler 发布技术预览版

作者：来自 Elastic Navarone Feekery 多年来，Elastic 已经经历了几次 Crawler 迭代。最初是 Swiftype 的 Site Search，后来发展成为 App Search Crawler，最近又发展成为 Elastic Crawler。这些 Crawler 功能丰富，允许以…...

编程日记 2024/6/17 1:30:31

C 语言连接MySQL 数据库

前提条件 本机安装MySQL 8 数据库 整体步骤 第一步：开启Windows 子系统安装Ubuntu 22.04.4，安装MySQL 数据库第三方库执行 如下命令： sudo aptitude install libmysqlclient-dev wz2012LAPTOP-8R0KHL88:/mnt/e/vsCode/cpro$ sudo aptit…...

编程日记 2024/6/17 1:28:29

【探索Linux】P.34（HTTPS协议）

阅读导航 引言一、HTTPS是什么1. 什么是"加密"2. 为什么要加密3. 常见的加密方式（1）对称加密（2）非对称加密 二、证书认证1. CA认证 三、HTTPS的加密底层原理✅非对称加密对称加密证书认证 温馨提示 引言 在上一篇文章中…...

编程日记 2024/6/17 1:27:27

Python 踩坑记 -- 调优

前言 继续解决问题 慢 一个服务运行有点慢，当然 Python 本身不快，如果再编码不当那这个可能就是量级上的劣化。 整个 Code 主线逻辑 1700，各依赖封装 3000，主线逻辑也是很久远的痕迹，长函数都很难看清楚一个 if els…...

编程日记 2024/6/17 1:24:23

英特尔澄清：Core i9处理器崩溃问题根本原因仍在调查，eTVB非主因

英特尔否认了有关已找到导致Core i9崩溃问题根本原因的报道，强调调查仍在继续。此前，德国媒体Igors Lab曾报道，英特尔已经发现了影响第13代猛禽湖（Raptor Lake）和第14代猛禽湖Refresh Core i9处理器稳定性的根源问题&a…...

编程日记 2024/6/17 1:21:19

python实战根据excel的文件名称这一列的内容，找到电脑D盘的下所对应的文件位置，要求用程序实现

今天客户需要 根据excel的文件名称这一列的内容，找到电脑D盘的下所对应的文件位置，要求用程序实现 数据样例：记录.xlsx 解决代码： 1、安装必要的库： pip install pandas openpyxl2、编写Python脚本： im…...

编程日记 2024/6/17 1:16:14

LVS ipvsadm命令的使用（二）

目录 上篇：负载均衡集群（一）-CSDN博客 命令参数概述 调度算法 基本命令 1. 添加虚拟服务器 2. 添加真实服务器 3. 删除虚拟服务器 4. 删除真实服务器 5. 列出当前配置 6. 修改服务器权重 7.保存规则 8. 清除所有配置 进行增加虚拟…...

编程日记 2024/6/17 1:15:13

Java面向对象-接口

Java面向对象-接口 一、JDK1.8之前二、接口的作用三、JDK1.8之后，新增非抽象方法四、静态方法 一、JDK1.8之前 1、类是类，接口是接口，它们是同一层次的概念 2、接口中没有构造器 3、接口如何声明：interface 4、在jdk1.8之前&…...

编程日记 2024/6/17 1:13:09

怎么不使用springboot Helper或Spring Initializr来创建spring项目

1. 创建项目目录结构 首先，创建项目的基本目录结构。一个典型的 Maven 项目结构如下： my-spring-project ├── src │ ├── main │ │ ├── java │ │ │ └── com │ │ │ └── example │ │ │ └…...

编程日记 2024/6/17 1:12:08

STM32CubeMX配置-RTC周期唤醒

一、简介 MCU为STM32G070，采用内部时钟32KHZ，配置为周期6s唤醒，调用回调函数，进行喂狗操作。 二、配置 初始时间、日期、周期唤醒时间配置。 开启周期唤醒中断 三、生成代码 调用回调函数，进行喂狗操作。 //RTC唤醒回…...

编程日记 2024/6/17 1:11:07

js如何添加新元素到数组中

1.push方法 push() 方法可向数组的末尾添加一个或多个元素，并返回新的长度。这是向数组添加元素的最常用方法。 let arr [1, 2, 3]; arr.push(4); // 向数组末尾添加元素4 console.log(arr); // 输出: [1, 2, 3, 4] 2.unshift方法 unshift() 方法可向数组的…...

编程日记 2024/6/17 1:09:04

Python变量和基本数据类型

变量和基本数据类型 变量是什么？ 变量是存储在内存中的值，这就意味着在创建变量时会在内存中开辟一个空间。 基于变量的数据类型，解释器会分配指定内存，并决定什么数据可以被存储在内存中。 因此，变量可以指定不同…...

编程日记 2024/6/17 1:08:03

嵌入式数据库_1.嵌入式数据库的定义及特点和分类

1.嵌入式数据库的定义及特点 1.1定义 嵌入式数据库的名称来自其独特的运行模式。这种数据库嵌入到了应用程序进程中，消除了与客户机服务器配置相关的开销。嵌入式数据库实际上是轻量级的，在运行时，它们需要较少的内存。它们是使用精…...

编程日记 2024/6/17 1:07:02

新人学习笔记之（变量）

一、什么是变量 1.变量是存储数据的小盒子，不是里面的数据 2.经常发生改变的数据 二、变量的定义格式 1.数据类型 变量名; 数据类型：为盒子中存储的数据，加入类型【限制】 变量名：为盒子起的名字 分号：语句的结束 三…...

编程日记 2024/6/17 1:06:00

Windows修改CMD窗口编码为UTF-8

windows下的cmd的默认编码是GBK编码，有时可能造成乱码问题，下面是我找到的两种更换编码方式为UTF-8的方法。 1、临时修改 （1）先进入cmd命令窗口（快捷键win键R） （2）直接输入“chcp…...

编程日记 2024/6/17 1:03:58

网站建设组织/淘宝店铺如何推广

解决方法一：RequestMapping(value"/getphone",produces "text/plain;charsetutf-8") /**输入手机号码后判断手机号是否存在*/ RequestMapping(value"/getphone",produces "text/plain;charsetutf-8") ResponseBody publi…...

编程日记 2024/11/2 15:51:19

做网站怎么把背景变成纯色/全国各城市疫情搜索高峰进度

小菜前段时间根据超多 star 的 FlycoTabLayout 自己修改封装了仿网易顶部滑动标题栏 TabSlideLayout 滑动内容可以是文字也可以是网络图标，并整理了两篇小博客： Android 优化个人封装仿网易新闻可滑动标题栏 TabLayout (文字或图标)仿网易新闻可滑动标题…...

编程日记 2024/11/2 14:45:42

a站为什么不火了/搜索推广平台有哪些

https://zhuanlan.zhihu.com/p/23269598?referhalfstack https://blog.csdn.net/boyupeng/article/details/47011383 https://blog.csdn.net/liluo2013/article/details/53673163 https://segmentfault.com/a/1190000007997113...

编程日记 2024/11/2 8:21:57

郑州网站建设服务商/电商数据分析

http://www.2cto.com/kf/201501/374051.html 线程对象属于一次性消耗品，一般线程执行完run方法之后，线程就正常结束了，线程结束之后就报废了，不能再次start，只能新建一个线程对象。但有时run方法是永远不会结束的。例如…...

编程日记 2024/11/2 8:06:44

怎么用ps做网站banner/百度邮箱注册入口

PHP计算当前时间之后(之前)的时间PHP中有一个非常厉害的函数，strtotime()函数，这个函数有一个异常厉害的使用方法，手册上说的有，但是估计在实际应用中能够想到的人不多。我为了计算出当前时间N天后的日期时，也是自己写…...

编程日记 2024/11/2 6:01:06

wordpress批量增加用户/北京百度推广代理

这几天在修改canal, 连接mysql和maria接收到的event有所区别 拿一个简单的insert sql来举例 mysql 会有以下几个event写入到binlog里 1.ANONYMOUS_GTID_LOG_EVENT2.QUERY_EVENTheader { version: 1 logfileName: "20170105-162017-bin.000001" logfileOffset: 192…...

编程日记 2024/11/2 5:22:24