大模型RAG性能提升路径
大模型相关目录
大模型，包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步，扬帆起航。
- 大模型应用向开发路径：AI代理工作流
- 大模型应用开发实用开源项目汇总
- 大模型问答项目问答性能评估方法
- 大模型数据侧总结
- 大模型token等基本概念及参数和内存的关系
- 大模型应用开发-华为大模型生态规划
- 从零开始的LLaMA-Factory的指令增量微调
- 基于实体抽取-SMC-语义向量的大模型能力评估通用算法（附代码）
- 基于Langchain-chatchat的向量库构建及检索（附代码）
- 一文教你成为合格的Prompt工程师
- 最简明的大模型agent教程
- 批量使用API调用langchain-chatchat知识库能力
- langchin-chatchat部分开发笔记（持续更新）
- 文心一言、讯飞星火、GPT、通义千问等线上API调用示例
- 大模型RAG性能提升路径
文章目录
- 大模型相关目录
- RAG性能提升方案——探索
- 1. 模型侧性能提升
- 2.数据侧性能提升
- 3.系统侧性能提升
- 4.向量库检索效果提升：
RAG性能提升方案——探索
1. 模型侧性能提升
对相同的检索结果和输入作为拼接测试模型能力
确定性能差距后更换模型、微调模型
2.数据侧性能提升
新增外部信息、提示、工具
需应用思维链（CoT）、agent
3.系统侧性能提升
设计反思+多轮校验的问答机制优化问答能力
4.向量库检索效果提升：
- 文档的切分，如何更好的切分文档？对长文档如何更好的处理进行内容提炼
- 向量化方法，如何更好的向量化数据？
- 相似度阈值的设定，阈值设定低了，可能获取的本地知识库的内容都是和问题不相关的根据默认Prompt的设定会一直得不到结果
- 是否应用摘要、多维query等处理策略？
相关文章：
大模型RAG性能提升路径
大模型相关目录 大模型，包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容 从0起步，扬帆起航。 大模型应用向开发路径：AI代理工作流大模型应用开发实用开源项目汇总大模…...
机器视觉学习（九）—— 边缘检测
目录 一、边缘检测 1.1 Canny边缘检测 1.1.1 cv2.Canny函数 1.1.2 Canny边缘检测示例 1.2 角点检测 1.2.1 cv2.goodFeaturesToTrack()函数 1.2.2 OpenCV角点检测示例代码 1.3 直线检测 1.3.1 cv2.HoughLinesP()函数 1.3.2 OpenCV直线检测示例代码 1.4 圆形检测 1.4…...
基于单片机声音分贝采集和显示控制系统设计
**单片机设计介绍，基于单片机声音分贝采集和显示控制系统设计 文章目录 一 概要二、功能设计设计思路 三、 软件设计原理图 五、 程序六、 文章目录 一 概要 基于单片机声音分贝采集和显示控制系统设计，主要目标是实现声音分贝的实时采集、处理以及显示…...
CentOS使用Docker部署Halo并结合内网穿透实现公网访问本地博客
文章目录 1. Docker部署Halo1.1 检查Docker版本如果未安装Docker可参考已安装Docker步骤：1.2 在Docker中部署Halo 2. Linux安装Cpolar2.1 打开服务器防火墙2.2 安装cpolar内网穿透 3. 配置Halo个人博客公网地址4. 固定Halo公网地址 本文主要介绍如何在CentOS 7系统使…...
打造高效自动化渗透测试系统：关键步骤与实践
随着当前网络安全威胁的不断扩展与升级，开展渗透测试工作已经成为广大企业组织主动识别安全漏洞与潜在风险的关键过程。然而，传统的人工渗透测试模式对测试人员的专业能力和经验水平有很高的要求，企业需要投入较大的时间和资源才能完成。在此…...
绿联 部署vocechat，搭建私人聊天服务器，用于小型团队和家庭环境
1、镜像 privoce/vocechat-server:latest 2、安装 2.1、基础设置 重启策略：容器退出时总是重启容器。 2.2、网络 桥接即可。 2.3、存储空间 装载路径：/home/vocechat-server/data不可变更，权限读写。 2.4、端口设置 容器端口3000不可变…...
考研数学｜高效刷透汤家凤《1800》经验分享
当然不需要换老师，如果你在基础阶段连汤老师的课都听不进去，那么换其他老师的话，很大可能也是白搭。 如果你现在对于1800还是一筹莫展的话，那么很明显，这反映出前期基础不扎实，没有真正理解和掌握这部分内…...
LLM推理入门指南②：深入解析KV缓存
在本系列文章《LLM推理入门指南①：文本生成的初始化与解码阶段》中，作者对Transformer解码器的文本生成算法进行了高层次概述，着重介绍了两个阶段：单步初始化阶段，即提示的处理阶段，和逐个生成补全词元的多…...
上采样技术在语义分割中的应用
目录 概要 一、概述 二、实现方法 1.转置卷积 2.反池化 3.双线性插值法 三、在经典网络中的的应用 1.U-Net 2.FCN 总结 概要 上采样是用于深度学习中提高语义分割精度的技术，可以实现图像放大和像素级别标注 一、概述 神经网络的基本结构为：…...
linux 组建raid5详细操作
raid5最多运行损坏一个盘，最少3个盘，容量为少一块硬盘的容量之和。 如果硬盘数量较多，比如8块以上，建议用raid6，raid6最多允许两块硬盘损坏。 如果需要 一、安装raid软件 deb包 apt-get install mdadm或dnf包 dnf …...
机器学习概念、步骤、分类和实践
在当今数字化时代，机器学习已经渗透到我们生活的方方面面，从智能手机应用、搜索引擎优化，到自动驾驶汽车、医疗诊断等，其应用无处不在。本文将带您走进机器学习的世界，了解它的基本概念、步骤、分类以及实践应用。 一…...
钉钉服务端API报错 错误描述: robot 不存在；解决方案:请确认 robotCode 是否正确
problem 调用钉钉服务端API，机器人发送群聊消息，后台返回报错信息: 钉钉服务端API报错 错误描述: robot 不存在；解决方案:请确认 robotCode 是否正确； reason 定位: 登录后台，查看机器人是存在查看机器人调用权限接…...
Linux 开发环境以及编译链接
再谈编译链接 C函数重载与编译链接-CSDN博客 之前我已经写过文章简单介绍了编译链接要做的一些操作。现在为了能更好的理解我们平时的开发环境，我会在Linux系统上完整地走一遍流程。 环境描述 我们使用普通用户在Linux上进行操作，先写一段测试代码。 …...
SmartChart的部署以及可能遇见的报错解决方案
简介 数据可视化是一种将数据转化为图形的技术，可以帮助人们更好地理解和分析数据。但是，传统的数据可视化开发往往需要编写大量的代码，或者使用复杂的拖拽工具，不仅耗时耗力，而且难以实现个性化的需求。有没有一种更…...
【Node.js从基础到高级运用】十九、Node.js 捕获错误之“未捕获的异常”
引言 在 Node.js 应用程序中，错误处理是保证应用稳定性和可靠性的关键部分。特别是“未捕获的异常”（uncaught exceptions），如果不妥善处理，很可能会导致整个进程崩溃。在本文中，我们将探讨如何在 Node.js …...
vue 计算属性
基础示例 模板中的表达式虽然方便，但也只能用来做简单的操作。如果在模板中写太多逻辑，会让模板变得臃肿，难以维护。比如说，我们有这样一个包含嵌套数组的对象： const author reactive({name: John Doe,books: [V…...
RedissonLock-tryLock-续期
redisson版本3.16.6 1.什么是看门狗 Redisson提供的分布式锁是支持锁自动续期的，也就是说，如果线程仍旧没有执行完，那么redisson会自动给redis中的目标key延长超时时间，这在Redisson中称之为 Watch Dog 机制。默认情况下&#x…...
MSTP环路避免实验（华为）
思科设备参考：MSTP环路避免实验（思科） 一，技术简介 MSTP（多生成树协议），MSTP解决了STP和RSTP没有考虑vlan的问题，STP和RSTP将所有的vlan共享为一个生成树实例，无法实现…...
IoT网关在智能制造工厂生产线监控与管理中的应用-天拓四方
随着工业4.0时代的到来，智能制造已成为工业发展的重要方向。IoT网关在智能制造工厂中扮演着关键角色，它能够实现设备间的互联互通、数据的实时采集与处理，以及生产线的智能监控与管理。本案例将详细介绍IoT网关在智能制造工厂生产线监控与管理…...
niushop单商户V5多店版源码分享三端uniapp打包方法包括PC端_小程序或h5端打包_收银端打包_APP端打包_商户端
目前多店版有四端uniapp，包括PC端uniapp，商家端uniapp，收银端uniapp，门店手机端uniapp，下面我总结下这些端的打包流程希望能帮助到大家，需要交流的可以看我昵称或者点我头像关注我分享代码和教程 一.niush…...
零门槛NAS搭建：WinNAS如何让普通电脑秒变私有云？
一、核心优势：专为Windows用户设计的极简NAS WinNAS由深圳耘想存储科技开发，是一款收费低廉但功能全面的Windows NAS工具，主打“无学习成本部署” 。与其他NAS软件相比，其优势在于： 无需硬件改造：将任意W…...
7.4.分块查找
一.分块查找的算法思想： 1.实例： 以上述图片的顺序表为例， 该顺序表的数据元素从整体来看是乱序的，但如果把这些数据元素分成一块一块的小区间， 第一个区间[0,1]索引上的数据元素都是小于等于10的， 第二…...
shell脚本--常见案例
1、自动备份文件或目录 2、批量重命名文件 3、查找并删除指定名称的文件： 4、批量删除文件 5、查找并替换文件内容 6、批量创建文件 7、创建文件夹并移动文件 8、在文件夹中查找文件...
在rocky linux 9.5上在线安装 docker
前面是指南，后面是日志 sudo dnf config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo sudo dnf install docker-ce docker-ce-cli containerd.io -y docker version sudo systemctl start docker sudo systemctl status docker …...
oracle与MySQL数据库之间数据同步的技术要点
Oracle与MySQL数据库之间的数据同步是一个涉及多个技术要点的复杂任务。由于Oracle和MySQL的架构差异，它们的数据同步要求既要保持数据的准确性和一致性，又要处理好性能问题。以下是一些主要的技术要点： 数据结构差异 数据类型差异ÿ…...
JUC笔记(上)-复习 涉及死锁 volatile synchronized CAS 原子操作
一、上下文切换 即使单核CPU也可以进行多线程执行代码，CPU会给每个线程分配CPU时间片来实现这个机制。时间片非常短，所以CPU会不断地切换线程执行，从而让我们感觉多个线程是同时执行的。时间片一般是十几毫秒(ms)。通过时间片分配算法执行。…...
sipsak：SIP瑞士军刀！全参数详细教程！Kali Linux教程！
简介 sipsak 是一个面向会话初始协议 (SIP) 应用程序开发人员和管理员的小型命令行工具。它可以用于对 SIP 应用程序和设备进行一些简单的测试。 sipsak 是一款 SIP 压力和诊断实用程序。它通过 sip-uri 向服务器发送 SIP 请求，并检查收到的响应。它以以下模式之一…...
Docker 本地安装 mysql 数据库
Docker: Accelerated Container Application Development 下载对应操作系统版本的 docker ；并安装。 基础操作不再赘述。 打开 macOS 终端，开始 docker 安装mysql之旅 第一步 docker search mysql 》〉docker search mysql NAME DE…...
七、数据库的完整性
七、数据库的完整性 主要内容 7.1 数据库的完整性概述 7.2 实体完整性 7.3 参照完整性 7.4 用户定义的完整性 7.5 触发器 7.6 SQL Server中数据库完整性的实现 7.7 小结 7.1 数据库的完整性概述 数据库完整性的含义 正确性 指数据的合法性 有效性 指数据是否属于所定…...
深入理解Optional：处理空指针异常
1. 使用Optional处理可能为空的集合 在Java开发中，集合判空是一个常见但容易出错的场景。传统方式虽然可行，但存在一些潜在问题： // 传统判空方式 if (!CollectionUtils.isEmpty(userInfoList)) {for (UserInfo userInfo : userInfoList) {…...