当前位置： 首页 > news >正文

【总结】攻击 AI 模型的方法

news 文章来源：https://blog.csdn.net/Sunshine_xiaohao/article/details/139889263 2025/2/5 19:53:31

  • 数据投毒
    污染训练数据

  • 后门攻击
    通过设计隐蔽的触发器，使得模型在正常测试时无异常，而面对触发器样本时被操纵输出。后门攻击可以看作是特殊的数据投毒，但是也可以通过修改模型参数来实现

  • 对抗样本
    只对输入做微小的改动，使模型做出错误判断

  • 模型窃取
    利用中小模型窃取大模型的特定能力

  • 提示注入
    设计输入，使LLM将输入误认为是指令，生成由攻击者控制的欺骗性输出。可以细分为目标劫持和Prompt泄露。目标劫持是将原本的输出目标转向攻击者需要的目标；Prompt 泄露是诱导LLM披露其初始系统 prompt

  • 越狱攻击
    设计输入，绕过安全机制，输出不该输出的东西

参考文献：
【大模型安全】[文献整理] 大模型对抗攻击
什么是提示注入攻击？
Stealing LLMs: 关于对ChatGPT进行模型窃取的一些工作
模型安全：后门攻击
AI Security2-投毒攻击(Poisoning Attacks)

相关文章：

【总结】攻击 AI 模型的方法

数据投毒 污染训练数据 后门攻击 通过设计隐蔽的触发器，使得模型在正常测试时无异常，而面对触发器样本时被操纵输出。后门攻击可以看作是特殊的数据投毒，但是也可以通过修改模型参数来实现 对抗样本 只对输入做微小的改动，使模型…...

编程日记 2024/6/23 7:26:38

Linux配置中文环境

文章目录 前言中文语言包中文输入法中文字体 前言 在Linux系统中修改为中文环境，通常涉及以下几个步骤： 中文语言包 更新源列表： 更新系统的软件源列表和语言环境设置，确保可以安装所需的语言包。 sudo apt update sudo apt ins…...

编程日记 2024/6/23 7:25:37

深入解析 iOS 应用启动过程：main() 函数前的四大步骤

深入解析 iOS 应用启动过程：main() 函数前的四大步骤 背景描述：使用 Objective-C 开发的 iOS 或者 MacOS 应用 在开发 iOS 应用时，我们通常会关注 main() 函数及其之后的执行逻辑，但在 main() 函数之前，系统已经为我们…...

编程日记 2024/6/23 7:24:35

textarea标签改写为富文本框编辑器KindEditor

下载 - KindEditor - 在线HTML编辑器 KindEditor的简单使用-CSDN博客 一、 Maven需要的依赖&#xff1a; 如果依赖无法下载&#xff0c;可以多添加几个私服地址&#xff1a; 在Maven框架中加入镜像私服 <mirrors><!-- mirror| Specifies a repository mirror site to…...

编程日记 2024/6/23 7:23:34

高通安卓12-Input子系统

1.Input输入子系统架构 Input Driver(Input设备驱动层)->Input core(输入子系统核心层)->Event handler(事件处理层)->User space(用户空间) 2.getevent获取Input事件的用法 getevent 指令用于获取android系统中 input 输入事件&#xff0c;比如获取按键上报信息、获…...

编程日记 2024/6/23 7:22:32

HTML 事件

HTML 事件 HTML 事件是发生在 HTML 元素上的交互瞬间，它们可以由用户的行为（如点击、按键、鼠标移动等）或浏览器自身的行为（如页面加载完成、图片加载失败等）触发。在 HTML 和 JavaScript 的交互中，事件扮演着核心角色，允许开发者创建动态和响应式的网页。 常见的 HTM…...

编程日记 2024/6/23 7:21:31

Mysql 官方提供的公共测试数据集 Example Databases

数据集&#xff1a;GitHub - datacharmer/test_db: A sample MySQL database with an integrated test suite, used to test your applications and database servers 下载 test_db: https://github.com/datacharmer/test_db/releases/download/v1.0.7/test_db-1.0.7.tar.gz …...

编程日记 2024/6/23 7:19:29

Docker 下载与安装以及配置

安装yum工具 yum install -y yum-ulits配置yum源 阿里云源 yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo安装Docker 17.03后为两个版本&#xff1a; 社区版&#xff08;Community Edition&#xff0c;缩写为 CE&#x…...

编程日记 2024/6/23 7:18:27

Java中的集合框架详解：List、Set、Map的使用场景

Java中的集合框架详解&#xff1a;List、Set、Map的使用场景 大家好&#xff0c;我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编&#xff0c;也是冬天不穿秋裤&#xff0c;天冷也要风度的程序猿&#xff01; 在Java编程中&#xff0c;集合框架是一个非常重要…...

编程日记 2024/6/23 7:16:23

[Django学习]前端+后端两种方式处理图片流数据

方式1&#xff1a;数据库存放图片地址,图片存放在Django项目文件中 1.首先&#xff0c;我们现在models.py文件中定义模型来存放该图片数据,前端传来的数据都会存放在Django项目文件里的images文件夹下 from django.db import modelsclass Image(models.Model):title models.C…...

编程日记 2024/6/23 7:15:22

如何配置IOMMU或者SWIOTLB

1. 前言 这篇文章说明了如何在Linux内核中启用和配置IOMMU和SWOTLB。 当今的计算或者嵌入设备使用一种内存分区的方法进行外设的管理&#xff0c;如显卡、PCI设备或USB设备&#xff0c;都将设备映射为一段内存&#xff0c;用于设备的读写。 传统意义上的IOMMU用于内存映射&a…...

编程日记 2024/6/23 7:13:19

【大数据 复习】第3章 分布式文件系统HDFS（重中之重）

一、概念 1.分布式文件系统把文件分布存储到多个计算机节点上&#xff0c;通过网络实现、文件在多台主机上进行分布式存储的文件系统。&#xff08;就是你的电脑存a&#xff0c;我的电脑存pple&#xff09; 2.降低了硬件开销: 与之前使用多个处理器和专用高级硬件的并行化处理装…...

编程日记 2024/6/23 7:12:18

element-ui里message抖动问题

由于element默认屏蔽滚动条&#xff0c;导致取消时弹message时 侧边滚动栏突然回来后引起抖动问题 是由于打开弹窗时出现遮罩层dialog对话框 时引起了元素内容超出自身尺寸 对应的overflow样式内容为hidden&#xff0c;且新建了一个class类内容为增加17 内右边距&#xff0c;当…...

编程日记 2024/6/23 7:11:17

Attention系列总结-粘贴自知乎

1. 梦想做个翟老师&#xff1a;阿里&#xff1a;Behavior Sequence Transformer 解读48 赞同 7 评论文章 优点:捕捉用户行为历史序列中的顺序信息。w2v也是捕捉用户序列信息的,本质差异在于啥&#xff1f; 添加图片注释&#xff0c;不超过 140 字&#xff08;可选&#xff0…...

编程日记 2024/6/23 7:09:14

swagger下载文件名中文乱码、swagger导出文件名乱码、swagger文件导出名称乱码、解决swagger中文下载乱码bug

文章目录 一、场景描述&#xff1a;swagger导出文件名称乱码二、乱码原因三、解决方法3.1、方法一、在浏览器中输入地址下载3.2、方法二、swagger升级为2.10.0及以上 四、可能遇到的问题4.1、DocumentationPluginsManager.java:152 一、场景描述&#xff1a;swagger导出文件名称…...

编程日记 2024/6/23 7:07:12

191.回溯算法：组合总和|||（力扣）

代码解决 class Solution { public:vector<vector<int>> result; // 存储所有符合条件的组合vector<int> res; // 当前组合// 回溯函数void backtracing(int k, int n, int index, int sum) {// 如果当前组合的长度等于k&#xff0c;且总和等于nif (res.si…...

编程日记 2024/6/23 7:06:11

JupyterLab使用指南(二):JupyterLab基础

第2章 JupyterLab基础 2.1 JupyterLab界面介绍 JupyterLab的用户界面非常直观和灵活。它包括文件浏览器、工作区、多标签页、命令面板和侧边栏等功能。以下是各个部分的详细介绍&#xff1a; 2.1.1 文件浏览器 文件浏览器位于界面左侧&#xff0c;用于导航和管理文件。你可…...

编程日记 2024/6/23 7:05:09

ubuntu18.04 + openssl + engine + pkcs11+ softhsm2 双向认证测试

安装环境 openssl 1.1.1 pkcs11-tool &#xff08;由sudo apt-get install opensc 安装&#xff09; libpksc11 &#xff08;需源码安装apt install 只有libp11, 源码安装才有 libpksc11.so -> pkcs11.so&#xff09; softhsm2 &#xff08;由sudo apt-get install softhsm…...

编程日记 2024/6/23 7:04:08

【C++】类和对象2.0

俺来写笔记了&#xff0c;哈哈哈&#xff0c;浅浅介绍类和对象的知识点&#xff01; 1.类的6个默认成员函数 俺们定义一个空类&#xff1a; class N {}; 似乎这个类N里面什么都没有&#xff0c;其实不是这样子的。这个空类有6个默认的成员函数 。 默认成员函数&#xff1a…...

编程日记 2024/6/23 7:02:05

【LLM之KG】KoPA论文阅读笔记

研究背景 知识图谱补全&#xff08;KGC&#xff09;是通过预测知识图谱中缺失的三元组来完善知识图谱的信息。传统方法主要基于嵌入和预训练语言模型&#xff0c;但这些方法往往忽视了知识图谱的结构信息&#xff0c;导致预测效果不佳。 研究目标 本文的研究目标是探索如何将…...

编程日记 2024/6/23 7:01:03

UI设计速成课：理解模态窗口与非模态窗口的区别

我们日常所说的弹性框架是非常笼统的概念。我们习惯性地称之为对话框架、浮动层和提示条。弹性框架可以分为两种:模态弹性框架和非模态弹性框架。产品需要弹性框架来传递信息&#xff0c;用户需要弹性框架来接受反馈&#xff0c;但是没有经过推敲的弹出窗口设计很容易让用户感到…...

编程日记 2024/6/23 7:00:02

【Linux】基础IO_4

文章目录 六、基础I/O4. 动静态库 未完待续 六、基础I/O 4. 动静态库 既然我们能够成功创建静态库了&#xff0c;接下来我们将这个代码打包成动态库&#xff1a; shared: 表示生成共享库格式 fPIC&#xff1a;产生位置无关码(position independent code) 动态库库名规则&…...

编程日记 2024/6/23 6:59:01

C++模板类原理讲解

C模板类原理讲解 C模板是一种强大的编译期工具&#xff0c;它允许我们创建通用的、类型无关的类和函数。模板的主要目的是实现代码的重用和泛型编程。模板类的原理涉及以下几个方面&#xff1a; 模板的定义和实例化模板的类型参数模板特化模板的编译过程模板的优点和缺点 1.…...

编程日记 2024/6/23 6:58:00

scratch编程03-反弹球

这篇文章和上一篇文章《scratch3编程02-使用克隆来编写小游戏》类似&#xff08;已经完全掌握了克隆的可以忽略这篇文章&#xff09;&#xff0c;两篇文章都使用到了克隆来编写一个小游戏&#xff0c;这篇文章与上篇文章不同的是&#xff0c;本体在进行克隆操作时&#xff0c;不…...

编程日记 2024/6/23 6:56:58

postgresql数据库进阶知识

postgresql数据库进阶知识 # 如果表存在就先删除 drop table if exists student; # 创建学生表 # id serial not null 表示id自增 # id integer not null 表示id不自增 create table student (id serial not nullconstraint student_pkprimary…...

编程日记 2024/6/23 6:55:57

关于HTTP劫持，该如何理解、防范和应对

一、引言 HTTP劫持&#xff08;HTTP Hijacking&#xff09;是一种网络安全威胁&#xff0c;它发生在HTTP通信过程中&#xff0c;攻击者试图通过拦截、篡改或监控用户与服务器之间的数据流量&#xff0c;以达到窃取敏感信息或执行恶意操作的目的。今天我们就来详细了解HTTP劫持…...

编程日记 2024/6/23 6:52:54

System.Data.OracleClient.OracleException:“ORA-12571: TNS: 包写入程序失败

System.Data.OracleClient.OracleException:“ORA-12571: TNS: 包写入程序失败 解决方法&#xff1a; 首先%oracle_home%/network/admin下的sqlnet.ora文件&#xff0c;把SQLNET.AUTHENTICATION_SERVICES (NTS)加个 # 注释掉就好了...

编程日记 2024/6/23 6:51:52

saas产品运营案例 | 联盟营销计划如何帮助企业提高销售额？

在当今数字化时代&#xff0c;SaaS&#xff08;软件即服务&#xff09;产品已成为企业提高效率、降低成本的重要工具。然而&#xff0c;面对激烈的市场竞争&#xff0c;如何有效地推广SaaS产品、提高销售额&#xff0c;成为许多企业面临的挑战。林叔将以ClickFunnels为例&#…...

编程日记 2024/6/23 6:50:50

模式分解算法-满足3NF的无损且保持函数依赖的分解算法、满足BCNF的无损连接分解算法

一、引言 1、对指定的关系模式&#xff0c;若范式级别较低&#xff0c;为第一范式或第二范式&#xff0c;由于存在数据冗余或更新异常问题&#xff0c;在实际中一般是不可用的&#xff0c;关系模式的规范化就是将满足低一级的关系模式分解为若干满足高一级范式的关系模式的集合…...

编程日记 2024/6/23 6:49:49

荷兰与法国战平，双方能携手出现？

就在昨天晚上&#xff0c;荷兰队经历了90分钟的鏖战&#xff0c;最终0-0与法国队握手言和。此役&#xff0c;哈维-西蒙斯为荷兰队打进一球&#xff0c;但进球被判无效。从目前的积分形势来看&#xff0c;双方基本上确定携手晋级16强赛。本场比赛&#xff0c;荷兰队后卫内森-阿克…...

编程日记 2024/6/23 6:46:46

wordpress 外部调用插件/刚出来的新产品怎么推

2006.10.16 &#xff0d;2007.01.16 长跑整三个月&#xff1a;第一个月&#xff1a;从100米起步到第一次跑6000米。体重由82.5kg减到73.5kg&#xff0c;月减重9kg。第二个月&#xff1a;每日跑步达到12000米&#xff0c;体重减至67kg&#xff0c;月减重6.5kg&#xff0c;累计减…...

编程日记 2025/2/5 17:28:59

柳州网站建设 来宾市网站制作/企业seo的措施有哪些

我的环境&#xff1a;Ubuntu16.04 Ptyhon3.7.5 之前写过CentOS系统安装Python&#xff0c;本以为Ubuntu下和CentOS下安装步骤差不多&#xff0c;没想到不太一样&#xff0c;所以更新一篇Ubuntu下安装Python3.7的文章。 查看python的指向&#xff1a; ls -l /usr/bin | grep…...

编程日记 2025/2/5 17:20:53

免费手机做网站/seo是免费的吗

放假几天回来&#xff0c;svn罢工了&#xff0c;加上我一直在两个地方同时操作svn&#xff0c;SVN——Previous operation has not finished;run ‘cleanup’ if it was interupted。 反正就是你一更新版本&#xff0c;就让你clean up &#xff0c;一clean up 就报上述错误&…...

编程日记 2025/2/5 13:01:57

品牌网站设计提案/发布软文广告

由山东精诚电子科技有限公司设计开发的“煤矿OTS安全管控平台”亮相2019年京交会&#xff0c;该平台有效解决了目前煤矿安全管理类信息化系统与现实业务脱节的窘境。据介绍&#xff0c;煤矿安全管理主要以“风险分级管控”“隐患排查治理”和“安全生产标准达标考核”三项工作为…...

编程日记 2025/2/5 12:21:11

注册科技有限公司可以做网站吗/百度收录入口在哪里查询

题目文件&#xff1a;https://files.cnblogs.com/files/nul1/access.log.tar 直接搜索flag发现是一题关于二分法注入。 页面为200的字节大小为1765&#xff0c;所以可以通过读取每行判断是否有1765以及有没有flag的关键字样&#xff0c;进而提取值。 脚本如下所示&#xff1a; …...

编程日记 2025/2/5 9:22:04

英文网站模板cms/网站建设技术

转载自&#xff1a;http://blog.csdn.net/greenerycn/article/details/1458231 先来说一下交错&#xff1a; 交错:Interlace 就是指浏览器下载它的时候隔行下载,这样下载一张图只用一半的时间就可以看到它的样子,只不过只是隔行的图,然后它再下载另一般,这样可以减少你等待看它…...

编程日记 2025/2/5 8:08:08