️ LangChain +Streamlit+ Llama ：将对话式人工智能引入您的本地设备（下篇）
引言：种下一棵树最好的时间是十年前,其次是现在
书接上回：将对话式人工智能引入您的本地设备成为可能CSDN
https://mp.csdn.net/mp_blog/creation/editor/140865426
目的：在这个大模型横行的时候，我们常用电脑如何开展大模型的工作，上篇文章已经提到，那么这篇文章我教大家怎么去实践。
1、首先官方合作的Github地址供你们参考下载：DocQAGitHub - afaqueumer/DocQA: Question Answering with Custom FIles using LLMsQuestion Answering with Custom FIles using LLMs. Contribute to afaqueumer/DocQA development by creating an account on GitHub.https://github.com/afaqueumer/DocQA?tab=readme-ov-file
2、本文引入的大模型地址下载：llama-7b.ggmlv3.q3_K_S.bin
https://huggingface.co/TheBloke/LLaMa-7B-GGML/tree/main
3、运行setup_env.bat
4、运行run_app.bat
5、结果展示，运行成功
6、上传txt文件（Tips，目前英文的，中文报错，大家可以调试）
7、文本框里边提问：下面是跑的结果，跟你训练的数据有关系，数据量太小的话，有可能造成幻读，大家可以多跑一些数据，测试一下效果，毕竟cpu电脑跑数据还是挺差劲的，太慢了！！！
好了，今天就先到这里，如果有什么不懂的？可以私聊一下老师，欢迎大家一键三连啊！！！
相关文章：
️ LangChain +Streamlit+ Llama ：将对话式人工智能引入您的本地设备（下篇）
引言：种下一棵树最好的时间是十年前,其次是现在 书接上回：将对话式人工智能引入您的本地设备成为可能CSDNhttps://mp.csdn.net/mp_blog/creation/editor/140865426 目的：在这个大模型横行的时候，我们常用电脑如何开展大模型的工作…...
Kafka实战（Scala操作）
Kafka基础讲解部分 Kafka基础讲解部分 Kafka实战（Scala操作） 1、引入依赖 版本： <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding> <project.reporting.outputEncoding>UTF-8</project.report…...
Android Framework 之WMS详解
1.WMS说的就是 WindowManagerService：负责为Activity对应的窗口分配Surface，管理Surface的显示顺序以及位置尺寸，控制窗口动画 。 它是Android系统中为各个客户端即每个app来提供这样的服务的一个类。 在Android系统中在systemServer 进程和各…...
opencv-图像仿射变换
仿射变换设计图像位置角度的变化，是深度学习预处理中常用的功能。仿射变换就是对图像的平移缩放旋转翻转操作的组合 如下图，对图中点1,2,3与图二中三个点一一映射，仍然形成三角形，但形状已经发生改变，通过这两组三点求…...
算法的基本概念
一、算法的基本概念思维导图 二、什么是算法： 1.我们知道数据结构就是将我门现实的世界中的问题数据化，存入计算机中，并实现对数据结构的一些基本操作。 2.算法就是如何处理这些存入计算机中的信息，以求高效的解决实际问题。 3…...
124. Go Template应用实例：用代码生成代码
文章目录 生成器模式生成器代码生成 本文用生成器模式作为例子，来演示如何用代码生成代码。 生成器模式 熟悉 Java 开发的同学都知道，lombok 有一个著名的注解 Builder ，只要加在类上面，就可以自动生成 Builder 模式的代码。如下…...
【AI实践】阿里云方言文本转语音TTS
最近要做一些普通话和方言demo 找一个免费工具 免费在线文字转语音工具 | edge-tts 在线体验 (bingal.com) 还有一些方言在阿里云上找了下，基于官方demo改了一下 阿里云语音合成接口说明_智能语音交互(ISI)-阿里云帮助中心 (aliyun.com) 如何下载安装、使用语音…...
java 之 各类日期格式转换
一、前言 大家在开发过程中必不可少得和日期打交道，对接别的系统时，时间日期格式不一致，每次都要转换! 从 Java1 到 Java8 将近 20 年，再加上 Java8 的普及时间、各种历史 API 兼容过渡时间。我们很多时候需要在旧时间 API 与新时…...
Nvidia黄仁勋对话Meta扎克伯格：AI和下一代计算平台的未来 | SIGGRAPH 2024对谈回顾
在今年的SIGGRAPH图形大会上，Nvidia创始人兼CEO黄仁勋与Meta创始人马克扎克伯格进行了一场长达60分钟的对谈。这场对话不仅讨论了AI的未来发展和Meta的开源哲学，还发布了不少新产品，并深入探讨了下一代计算平台的可能性。 引言 人工智能的发…...
【JAVA设计模式】适配器模式——类适配器模式详解与案例分析
前言 在软件设计中，适配器模式（Adapter Pattern）是一种结构型设计模式，旨在使不兼容的接口能够协同工作。它通过引入一个适配器类，帮助两个接口之间进行适配，使得它们能够互相操作。本文将详细介绍适配器模…...
【Vue】全局组件和局部组件
一、全局组件 定义： 全局组件是在整个Vue应用中都可以使用的组件。它们被注册在Vue的根实例上，因此可以在任何子组件的模板中被引用，而无需在每个组件中重复注册。 注册方式： 全局组件通过Vue.component方法进行注册。这个方法接…...
react引入高德地图并初始化卫星地图
react引入高德地图并初始化卫星地图 1.安装依赖 yarn add react-amap amap/amap-jsapi-loader2.初始化地图 import AMapLoader from "amap/amap-jsapi-loader"; import { FC, useEffect, useRef, useState } from "react";const HomeRight () > {con…...
2024最简七步完成 将本地项目提交到github仓库方法
2024最简七步完成 将本地项目提交到github仓库方法 文章目录 2024最简七步完成 将本地项目提交到github仓库方法一、前言二、具体步骤1、github仓库创建2、将远程仓库拉取并合并（1）初始化本地仓库（2）本地仓库与Github仓库关联&…...
前端WebSocket入门，看这篇就够啦！！
在HTML5 的早期开发过程中，由于意识到现有的 HTTP 协议在实时通信方面的不足，开发者开始探索能够在 Web 环境下实现双向实时通信的新的通信协议，提出了 WebSocket 协议的概念。 一、什么是 WebSocket？ WebSocket 是一种在单个 T…...
漏洞复现-F6-11泛微-E-Cology-SQL
本文来自无问社区，更多漏洞信息可前往查看http://www.wwlib.cn/index.php/artread/artid/15575.html 0x01 产品简介 泛微协同管理应用平台e-cology是一套企业级大型协同管理平台 0x02 漏洞概述 该漏洞是由于泛微e-cology未对用户的输入进行有效的过滤࿰…...
Turbo Boost 禁用
最近在做OAI NR的时候关闭CPU 睿频的时候出了一些问题，这里我把我找到的资料记录一下： 禁用 Turbo Boost 的过程可能会因不同的 BIOS/UEFI 和操作系统设置而有所不同。以下是一些可能的原因及解决方法： 可能的原因 BIOS/UEFI 设置问题: 你的…...
假期BUUCTF小练习3
文章目录 [极客大挑战 2019]BuyFlag[BJDCTF2020]Easy MD5[HCTF 2018]admin第一种方法 直接登录第二种方法 flack session伪造第三种方法Unicode欺骗 [MRCTF2020]你传你🐎呢[护网杯 2018]easy_tornadoSSTI注入 [ZJCTF 2019]NiZhuanSiWei [极客大挑战 2019]BuyFlag 一…...
【ubuntu系统】在虚拟机内安装Ubuntu
Ubuntu系统装机 描述新装机后的常规配置， 虚拟机使用vbox terminal 打不开 CTRL ALT F3 进入命令行模式（需要返回桌面时CTRL ALT F1）root用户登入cd /etc/default vi locale LANG“en_US” 改成 LANG“en_US.UTF-8”保存修改后&…...
Python初学者必须掌握的基础知识点
Python初学者必须掌握的基础知识点包括数据类型与变量、控制结构（条件语句和循环语句）、基本数据结构（列表、元组、字典、集合）、函数与模块、以及字符串处理等。以下是对这些基础知识点及其对应代码的详细介绍： 1. …...
ESP32是什么？
ESP32是一款由乐鑫信息科技（Espressif Systems）推出的高度集成的低功耗系统级芯片（SoC），它结合了双核处理器、无线通信、低功耗特性和丰富的外设，特别适用于各种物联网（IoT）应用。以…...
JavaSec-RCE
简介 RCE(Remote Code Execution)，可以分为:命令注入(Command Injection)、代码注入(Code Injection) 代码注入 1.漏洞场景：Groovy代码注入 Groovy是一种基于JVM的动态语言，语法简洁，支持闭包、动态类型和Java互操作性，…...
conda相比python好处
Conda 作为 Python 的环境和包管理工具，相比原生 Python 生态（如 pip 虚拟环境）有许多独特优势，尤其在多项目管理、依赖处理和跨平台兼容性等方面表现更优。以下是 Conda 的核心好处： 一、一站式环境管理：…...
Java如何权衡是使用无序的数组还是有序的数组
在 Java 中，选择有序数组还是无序数组取决于具体场景的性能需求与操作特点。以下是关键权衡因素及决策指南： ⚖️ 核心权衡维度 维度有序数组无序数组查询性能二分查找 O(log n) ✅线性扫描 O(n) ❌插入/删除需移位维护顺序 O(n) ❌直接操作尾部 O(1) ✅内存开销与无序数组相…...
vscode（仍待补充）
写于2025 6.9 主包将加入vscode这个更权威的圈子 vscode的基本使用 侧边栏 vscode还能连接ssh？ debug时使用的launch文件 1.task.json {"tasks": [{"type": "cppbuild","label": "C/C: gcc.exe 生成活动文件"…...
在Ubuntu中设置开机自动运行（sudo）指令的指南
在Ubuntu系统中，有时需要在系统启动时自动执行某些命令，特别是需要 sudo权限的指令。为了实现这一功能，可以使用多种方法，包括编写Systemd服务、配置 rc.local文件或使用 cron任务计划。本文将详细介绍这些方法，并提供…...
k8s业务程序联调工具-KtConnect
概述 原理 工具作用是建立了一个从本地到集群的单向VPN，根据VPN原理，打通两个内网必然需要借助一个公共中继节点，ktconnect工具巧妙的利用k8s原生的portforward能力，简化了建立连接的过程，apiserver间接起到了中继节…...
3-11单元格区域边界定位(End属性)学习笔记
返回一个Range 对象，只读。该对象代表包含源区域的区域上端下端左端右端的最后一个单元格。等同于按键 End 向上键(End(xlUp))、End向下键(End(xlDown))、End向左键(End(xlToLeft)End向右键(End(xlToRight)) 注意：它移动的位置必须是相连的有内容的单元格…...
大语言模型（LLM）中的KV缓存压缩与动态稀疏注意力机制设计
随着大语言模型（LLM）参数规模的增长，推理阶段的内存占用和计算复杂度成为核心挑战。传统注意力机制的计算复杂度随序列长度呈二次方增长，而KV缓存的内存消耗可能高达数十GB（例如Llama2-7B处理100K token时需50GB内存&a…...
Linux离线（zip方式）安装docker
目录 基础信息操作系统信息docker信息 安装实例安装步骤示例 遇到的问题问题1：修改默认工作路径启动失败问题2 找不到对应组 基础信息 操作系统信息 OS版本：CentOS 7 64位 内核版本：3.10.0 相关命令： uname -rcat /etc/os-rele…...
Selenium常用函数介绍
目录 一，元素定位 1.1 cssSeector 1.2 xpath 二，操作测试对象 三，窗口 3.1 案例 3.2 窗口切换 3.3 窗口大小 3.4 屏幕截图 3.5 关闭窗口 四，弹窗 五，等待 六，导航 七，文件上传 …...