当前位置： 首页 > news >正文

【大模型AIGC系列课程 5-2】视觉-语言大模型原理

news 2026/2/8 6:32:24

重磅推荐专栏： 《大模型AIGC》；《课程大纲》
本专栏致力于探索和讨论当今最前沿的技术趋势和应用领域，包括但不限于ChatGPT和Stable Diffusion等。我们将深入研究大型模型的开发和应用，以及与之相关的人工智能生成内容（AIGC）技术。通过深入的技术解析和实践经验分享，旨在帮助读者更好地理解和应用这些领域的最新进展

VisualGLM

BLIP-2

https://arxiv.org/pdf/2301.12597.pdf
BLIP-2是一种用于视觉-语言预训练的方法，它利用了冻结的预训练图像编码器和大型语言模型。BLIP-2的核心架构是Querying Transformer（Q-Former），它经过两个阶段的预训练来弥合模态差距。

在第一个预训练阶段，Q-Former与一个冻结的图像编码器一起进行视觉-语言表示学习。这个阶段的目标是让Q-Former学习与文本最相关的视觉表示。通过与图像编码器的连接，Q-Former可以从冻结的图像编码器中获取视觉特征。
在第二个预训练阶段，Q-Former与一个冻结的语言模型进行视觉-语言生成学习。这个阶段的目标是让Q-

相关文章：

【大模型AIGC系列课程 5-2】视觉-语言大模型原理

重磅推荐专栏： 《大模型AIGC》；《课程大纲》 本专栏致力于探索和讨论当今最前沿的技术趋势和应用领域，包括但不限于ChatGPT和Stable Diffusion等。我们将深入研究大型模型的开发和应用，以及与之相关的人工智能生成内容（AIGC）技术。通过深入的技术解析和实践经验分享，旨在…...

编程日记 2023/12/21 15:37:57

震惊！难怪别人家的孩子越来越聪明，原来竟是因为它

前段时间工作调动给孩子换了个新学校，刚开始担心她不能适应新学校的授课方式，但任课老师对她评价很高，夸她上课很专注。 为了训练孩子的专注力，作为家长可没少下功夫，画画，下五子棋等益智游戏的兴趣班没少…...

编程日记 2023/12/21 15:35:55

Linux操作系统（UMASK+SUID+SGID+STICK）

UMASK反掩码 如何查看反掩码：直接在终端窗口运行 umask root用户反掩码：0022 普通用户反掩码：0002 UMASK的作用：确定目录，文件的缺省权限值 以root身份创建目录，观察目录的9位权限值 以root身份创建普通文件…...

编程日记 2023/12/21 15:34:55

Java 中单例模式的常见实现方式

目录 一、什么是单例模式？ 二、单例模式有什么作用？ 三、常见的创建单例模式的方式 1、饿汉式创建 2、懒汉式创建 3、DCL（Double Checked Lock）双检锁方式创建 3.1、synchronized 同步锁的基本使用 3.2、使用 DCL 中存在的疑…...

编程日记 2023/12/21 15:33:53

【C语言】自定义类型之联合和枚举

目录 1. 前言2. 联合体2.1 联合体类型的声明2.2 联合体的特点2.3 相同成员的结构体和联合体对比2.4 联合体大小的计算2.4 判断当前机器的大小端 3. 枚举3.1 枚举类型的声明3.2 枚举类型的优点3.3 枚举类型的使用 1. 前言 在之前的博客中介绍了自定义类型中的结构体，…...

编程日记 2023/12/21 15:32:52

使用Mosquitto/python3进行MQTT连接

一、简介 MQTT(消息队列遥测传输)是ISO 标准(ISO/IEC PRF 20922)下基于发布/订阅范式的消息协议。它工作在 TCP/IP协议族上，是为硬件性能低下的远程设备以及网络状况糟糕的情况下而设计的发布/订阅型消息协议，为此，它需要一个消息中间件。 …...

编程日记 2023/12/21 15:30:51

JavaWeb笔记之前端开发HTML

一、引言 1.1HTML概念 网页，是网站中的一个页面，通常是网页是构成网站的基本元素，是承载各种网站应用的平台。通俗的说，网站就是由网页组成的。通常我们看到的网页都是以htm或html后缀结尾的文件，俗称 HTML文件。 …...

编程日记 2023/12/21 15:29:50

通过IP地址定位解决被薅羊毛问题

随着互联网的普及，线上交易和优惠活动日益增多，这也为一些不法分子提供了可乘之机。他们利用技术手段，通过大量注册账号或使用虚假IP地址进行异常操作，以获取更多的优惠或利益，这种行为被称为“薅羊毛”。对于企业和平…...

编程日记 2023/12/21 15:28:48

Leetcode 122 买卖股票的最佳时机 II

题意理解： 已知：一个整数数组 prices ，其中 prices[i] 表示某支股票第 i 天的价格 如何哪个时间点买入，哪个时间点卖出，多次交易，能够收益最大化 目的：收益最大化 解题思路： 使用贪心…...

编程日记 2023/12/21 15:27:47

音频文件合成

音频文件合成 音频文件合成 http://ffmpeg.org/download.html https://blog.csdn.net/u013314786/article/details/89682800 http://www.360doc.com/content/19/0317/01/10519289_822112563.shtml https://chaijunkun.blog.csdn.net/article/details/116491526?spm1001.210…...

编程日记 2023/12/21 15:26:46

20231220将NanoPC-T4(RK3399)开发板的Android10的SDK按照Rockchip官方挖掘机开发板编译打包刷机之后启动跑飞

20231220将NanoPC-T4(RK3399)开发板的Android10的SDK按照Rockchip官方挖掘机开发板编译打包刷机之后启动跑飞 2023/12/20 17:19 简略步骤：rootrootrootroot-X99-Turbo:~/3TB$ tar --use-compress-programpigz -xvpf rk3399-android-10.git-20210201.tgz rootrootro…...

编程日记 2023/12/21 15:23:44

vivo 容器平台资源运营实践

作者：vivo 互联网服务器团队 - Chen Han 容器平台针对业务资源申请值偏大的运营问题，通过静态超卖和动态超卖两种技术方案，使业务资源申请值趋于合理化，提高平台资源装箱率和资源利用率。 一、背景 在Kubernetes中，容…...

编程日记 2023/12/21 15:21:42

ASP.NET Core面试题之Redis高频问题

🎈🎈在.NET后端开发岗位中，如今也少不了、微服务、分布式、高并发高可用相关的面试题🎈🎈 👍👍本文分享一些整理的Redis高频面试题🎉 👍👍机会都是给有准备…...

编程日记 2023/12/21 15:20:41

【教程】Ubuntu基本软件安装

文章目录 一、搜狗输入法安装二、百度网盘安装三、划词翻译 一、搜狗输入法安装 全网最准确的Ubuntu 20.04 安装搜狗输入法的步骤 二、百度网盘安装 百度云盘for Linux安装教程和体验 三、划词翻译 ubuntu最好用的划词翻译词典：有道词典和GoldenDict...

编程日记 2023/12/21 15:19:40

Jenkins 构建环境指南

目录 Delete workspace before build starts（常用） Use secret text(s) or file(s) （常用） Add timestamps to the Console Output （常用） Inspect build log for published build scans Terminate a …...

编程日记 2023/12/21 15:18:39

基于Go语言的HTTP路由设计与实现

在Go语言的世界里，HTTP路由是一种将HTTP请求映射到相应处理函数的技术。通过路由，我们可以确定当用户发送一个HTTP请求时，应该调用哪个函数来处理该请求。在这个过程中，我们可以使用多种方法来实现路由设计，下面我将以…...

编程日记 2023/12/21 15:16:38

SpringMVC01

SpringMVC 1. 学习⽬标2. 什么叫MVC？3. SpringMVC 框架概念与特点4. SpringMVC 请求流程5. Spring MVC 环境搭建6. URL 地址映射配置7. 参数绑定8. JSON 数据开发JSON普通数组步骤1:pom.xml添加依赖步骤2： 修改配置⽂件步骤3. 注解使⽤ 1. 学习⽬标 2. 什…...

编程日记 2023/12/21 15:15:37

基于Redis限流（aop切面+redis实现“令牌桶算法”）

令牌桶算法属于流量控制算法，在一定时间内保证一个键（key）的访问量不超过某个阈值。这里的关键是设置一个令牌桶，在某个时间段内生成一定数量的令牌，然后每次访问时从桶中获取令牌，如果桶中没有令牌&#x…...

编程日记 2023/12/21 15:10:32

【小白专用】php pdo方式连接sqlserver 设置方法 更新23.12.21

windows系统的拓展相对来说比较好安装&#xff0c;直接下载对应的dll文件&#xff0c;修改php.ini配置文件即可。 添加PHP对SQL SERVER的支持 1.新建PHP 文件&#xff0c;输入内容&#xff1a; <?php echo phpinfo(); ?> 2.运行后&#xff0c;可以查看到如下数据&…...

编程日记 2023/12/21 15:06:27

打开C#项目时出现“error : 找不到指定的 SDK”的错误解决方法汇总

从github上克隆项目回来&#xff0c;发现编译通过&#xff0c;我是通过一下步骤解决的&#xff1a; 1.到适用于 Visual Studio 的 .NET SDK 下载网址下载对应版本的.NET SDK&#xff0c;关闭当前VS后安装&#xff1b; 2.参考VS2022报错&#xff1a;error : 找不到指定的 SDK“…...

编程日记 2023/12/21 15:05:26

python打卡day49

知识点回顾&#xff1a; 通道注意力模块复习空间注意力模块CBAM的定义 作业&#xff1a;尝试对今天的模型检查参数数目&#xff0c;并用tensorboard查看训练过程 import torch import torch.nn as nn# 定义通道注意力 class ChannelAttention(nn.Module):def __init__(self,…...

编程新知 2026/2/7 5:37:17

解决Ubuntu22.04 VMware失败的问题 ubuntu入门之二十八

现象1 打开VMware失败 Ubuntu升级之后打开VMware上报需要安装vmmon和vmnet&#xff0c;点击确认后如下提示 最终上报fail 解决方法 内核升级导致&#xff0c;需要在新内核下重新下载编译安装 查看版本 $ vmware -v VMware Workstation 17.5.1 build-23298084$ lsb_release…...

编程新知 2026/1/24 10:07:40

页面渲染流程与性能优化

页面渲染流程与性能优化详解&#xff08;完整版&#xff09; 一、现代浏览器渲染流程&#xff08;详细说明&#xff09; 1. 构建DOM树 浏览器接收到HTML文档后&#xff0c;会逐步解析并构建DOM&#xff08;Document Object Model&#xff09;树。具体过程如下&#xff1a; (…...

编程新知 2026/1/31 11:58:35

在Ubuntu中设置开机自动运行（sudo）指令的指南

在Ubuntu系统中&#xff0c;有时需要在系统启动时自动执行某些命令&#xff0c;特别是需要 sudo权限的指令。为了实现这一功能&#xff0c;可以使用多种方法&#xff0c;包括编写Systemd服务、配置 rc.local文件或使用 cron任务计划。本文将详细介绍这些方法&#xff0c;并提供…...

编程新知 2025/12/23 11:20:24

大模型多显卡多服务器并行计算方法与实践指南

一、分布式训练概述 大规模语言模型的训练通常需要分布式计算技术，以解决单机资源不足的问题。分布式训练主要分为两种模式： 数据并行：将数据分片到不同设备，每个设备拥有完整的模型副本 模型并行：将模型分割到不同设备，每个设备处理部分模型计算 现代大模型训练通常结合…...

编程新知 2025/12/10 20:45:02

Reasoning over Uncertain Text by Generative Large Language Models

https://ojs.aaai.org/index.php/AAAI/article/view/34674/36829https://ojs.aaai.org/index.php/AAAI/article/view/34674/36829 1. 概述 文本中的不确定性在许多语境中传达，从日常对话到特定领域的文档（例如医学文档）（Heritage 2013；Landmark、Gulbrandsen 和 Svenevei…...

编程新知 2026/2/8 2:27:29

作为测试我们应该关注redis哪些方面

1、功能测试 数据结构操作&#xff1a;验证字符串、列表、哈希、集合和有序的基本操作是否正确 持久化&#xff1a;测试aof和aof持久化机制&#xff0c;确保数据在开启后正确恢复。 事务&#xff1a;检查事务的原子性和回滚机制。 发布订阅&#xff1a;确保消息正确传递。 2、性…...

编程新知 2025/11/1 2:00:51

Spring AI Chat Memory 实战指南：Local 与 JDBC 存储集成

一个面向 Java 开发者的 Sring-Ai 示例工程项目&#xff0c;该项目是一个 Spring AI 快速入门的样例工程项目&#xff0c;旨在通过一些小的案例展示 Spring AI 框架的核心功能和使用方法。 项目采用模块化设计&#xff0c;每个模块都专注于特定的功能领域&#xff0c;便于学习和…...

编程新知 2025/10/16 14:46:22

Oracle11g安装包

Oracle 11g安装包 适用于windows系统&#xff0c;64位 下载路径 oracle 11g 安装包...

编程新知 2025/9/13 16:14:04

论文阅读：LLM4Drive: A Survey of Large Language Models for Autonomous Driving

地址&#xff1a;LLM4Drive: A Survey of Large Language Models for Autonomous Driving 摘要翻译 自动驾驶技术作为推动交通和城市出行变革的催化剂&#xff0c;正从基于规则的系统向数据驱动策略转变。传统的模块化系统受限于级联模块间的累积误差和缺乏灵活性的预设规则。…...

编程新知 2026/2/4 4:39:19