当前位置：首页 > news >正文

NVIDIA CUDA初级教程视频学习笔记1

news 2026/2/8 13:26:47

周斌老师
课程链接：

第一课

预修课程：
Cuda c programming guide
在这里插入图片描述
参考内容 1,2，3查找一下。

内容

CPU体系架构概述
并行程序设计概述
CUDA开发环境搭建和工具配置
GPU体系架构概述
GPU编程模型
CUDA编程
CUDA程序分析和调试工具
基本优化
深入优化
最新NVIDIA GPU和CUDA特性

生态环境

在这里插入图片描述

nvidia cuda zone
QQ群：
GPU深度开发==》还没有加，记得去加群

多核系统和并行系统，是因为我们的单频系统性能遇到了瓶颈。

第一课 CPU体系架构的概述

什么是CPU

执行指令，处理数据的器件

能够完成基本的逻辑和算术指令

指令

算术
访存
控制
这三类指令组成了一个计算机程序。

优化的目标：
每天指令需要的时钟周期最少
时钟周期尽量短

程序指令占比：
分支：12.5%
访存：46%
矢量运算：0.2%

CPU结构图：

芯片做计算
内存接口，接内存到CPU上
外部接口：显示系统的接口、多媒体的接口
桥接芯片接口==》硬盘、南桥北桥、

摩尔定律
芯片的集成密度每2年翻一番，成本下降一半。

28nm,芯片加工到了极限。
所以，摩尔定律表现不那么理想了。

百亿的量级的晶体管，这些晶体管都在干什么？

在这里插入图片描述
22亿个晶体管，8和芯片
中间最大的部分是三级缓存。
CPU是一个吞吐机，是一个处理机，不断把数据倒来倒去，花费在存储仓库花费在路上的成本最大。

简单的CPU结构图
在这里插入图片描述

上面部分数据通道
下面是控制逻辑

流水线
在这里插入图片描述

利用指令级并行

极大的减小时间周期
增加一些延迟和芯片面积

会带来的问题：
具有依赖关系的指令怎么办？
分支应当处理？
流水线的长度：

core 2 14级
pentium 4 > 20级
Sandy Bridge 14到20级之间

旁路Bypassing
在这里插入图片描述
add R1,R7需要用到sub R2,R3指令的结果，可以加一个旁路，这样就不用访问内存，直接获取R7的结果。

停滞Stalls
在这里插入图片描述
load [R3]->R7
add R1,R7->r2
add指令需要等待load指令完成

分支 Branches
在这里插入图片描述

分支预测Branch Prediction
在这里插入图片描述

基于过去的分支记录
在这里插入图片描述

分支断定

提升IPC
在这里插入图片描述

超标量

峰值N
增加了面积

N倍资源使用
旁路网络N

Sandy Bridge超标量
在这里插入图片描述
指令调度Scheduling

寄存器重命名
在这里插入图片描述

乱序执行
把指令重新排一下，做一个优化
在这里插入图片描述

存储器架构

越大越慢
在这里插入图片描述

缓存Caching
将数据放在尽可能接近的位置
利用：
时间的邻近性
空间的邻近性

缓存层次

存储器的另外的设计考虑
分区==》避免多端口
一致性Coherency
控制器Memory controller==>

CPU内部的并行性

在这里插入图片描述

向量运算
相同处理的数据同时去做
在这里插入图片描述

数据级并行
单指令多数据
在这里插入图片描述

X86的向量运算
在这里插入图片描述

线程级的并行
在这里插入图片描述

多核Multicore
在这里插入图片描述

锁、一致性和同一性
在这里插入图片描述

CPU遇到了现实的困境，我们称为能量墙，cpu主频提升导致功耗很强度的提升，功耗的提升导致功耗的面积、集成度、成本不能无限增加。

结论
在这里插入图片描述

NVIDIA CUDA初级教程视频学习笔记1

周斌老师课程链接： 目录第一课内容生态环境第一课 CPU体系架构的概述什么是CPU指令存储器架构CPU内部的并行性第一课预修课程： Cuda c programming guide 参考内容 1,2，3查找一下。内容 CPU体系架构概述并行程序设计概述 CUDA开发环境…...

编程日记 2023/3/2 3:49:40

CEC2005:星雀优化算法(Nutcracker optimizer algorithm,NOA)求解CEC2005（提供MATLAB代码）

一、星雀优化算法NOA 星雀优化算法(Nutcracker optimizer algorithm,NOA)由Mohamed Abdel-Basset等人于2023年提出，该算法模拟星雀的两种行为，即：在夏秋季节收集并储存食物，在春冬季节搜索食物的存储位置。星鸦单独或成对活动&…...

编程日记 2023/3/2 3:48:33

工作实战之密码防重放攻击

目录前言一、登录认证密码加密二、bcrypt加密密码不一样，匹配原理 1.程序运行现象 2.原理解释三、密码防重放总结前言密码重放攻击：请求被攻击者获取，并重新发送给认证服务器，从而达到认证通过的目的一、登录认证密…...

编程日记 2023/3/2 3:47:25

如何编写测试用例？

编写测试用例流程 1、确定测试目标：首先，需要明确测试目标，即测试人员需要测试什么，这有助于测试人员了解需要测试哪些方面，以及如何测试。 2、识别测试场景：在确定测试目标后，测试人员需要识…...

编程日记 2023/3/2 3:46:15

5.排序算法之二：选择排序

选择排序（select sort）在无序列表中，把无序列表分成有序区（刚开始有序区元素个数为0）和无序区（刚开始无序区元素个数为n），循环n-1趟，每一趟找到最小或最大的那个元素&…...

编程日记 2023/3/2 3:45:06

Ubuntu18系统安装：node及node版本管理工具nvm部署前端项目

注意在安装之前先安装好Git 如何在Ubuntu 上安装Git与入门教程_ubuntu安装git_飞鹰雪菲的博客-CSDN博客 1、把nvm远程镜像克隆到指定目录 git clone https://gitee.com/mirrors/nvm 1.1在终端指定的文件夹下 drciZwz91oq31508figapkas0Z:~/qiang/tools$ git clone https://…...

编程日记 2023/3/2 3:43:56

统计学假设检验

文章目录假设检验假设检验的基本原理提出假设作出决策表述决策结果一个总体参数的检验总体均值的检验总体比例的检验总体方差的检验两个总体参数的检验两个总体均值之差的检验两个总体比例之差的检验两个总体方差比的检验总体分布的检验正态性检验的图示法Shapiro-Wilk 和 K-S …...

编程日记 2023/3/2 3:42:44

【C++】哈希

哈希一、unordered系列关联式容器二、哈希原理2.1 哈希映射2.2 哈希冲突2.2.1 闭散列—开放地址法2.2.2 代码实现2.2.3 开散列—拉链法2.2.4 代码实现三、哈希封装unordered_map/unordered_set3.1 基本框架3.2 迭代器实现3.2.3 operator*和operator->和operator!3.2.4 opera…...

编程日记 2023/3/2 3:41:36

「TCG 规范解读」PC 平台相关规范（3）

可信计算组织（Ttrusted Computing Group,TCG）是一个非盈利的工业标准组织，它的宗旨是加强在相异计算机平台上的计算环境的安全性。TCG于2003年春成立，并采纳了由可信计算平台联盟（the Trusted Computing Platform Alli…...

编程日记 2023/3/2 3:40:32

这篇教你搞定Android内存优化分析总结

一、内存优化概念1.1 为什么要做内存优化？内存优化一直是一个很重要但却缺乏关注的点，内存作为程序运行最重要的资源之一，需要运行过程中做到合理的资源分配与回收，不合理的内存占用轻则使得用户应用程序运行卡顿、ANR、黑屏&…...

编程日记 2023/3/2 3:39:23

概率论与数理统计期末小题狂练 11-12两套，12-13-1

11-12第一学期A1 略。2 X服从正态分布N（0，1），X^2服从卡方分布。又考查了卡方分布均值和方差公式。一开始如果对本题无从下手，大概是没看出来是什么分布。3 第二小空本身也可以作为一个结论。4 考查切比雪夫不等式&…...

编程日记 2023/3/2 3:38:12

golang对字符串的处理操作如何正确理解 rune byte和string

fmt.Printf相关参数介绍先来看代码的演示 package mainimport ("fmt""unicode/utf8" )func main() {s:"我爱中国人haha!"fmt.Println(len(s))//20个字节一个中文三个字节 1541fmt.Print("\n echo byte \n")for k,v: range []byte(…...

编程日记 2023/3/2 3:37:07

软件项目管理简答题复习（1）

1.项目：创造唯一的产品，唯一的服务临时性的努力 2.项目特征：不可见性，复杂性，一致性，变更性，特殊性 3.项目和日常活动的区别？ 项目具有特殊性，负责人是项目经理&#…...

编程日记 2023/3/2 3:36:00

云Windows Server 2022 Datacenter 安装MySQL8解压缩版 mysql-8.0.32-winx64 230301记录

MySQL Community Downloads MySQL社区版压缩包下载地址 https://dev.mysql.com/downloads/mysql/ 解压到了C盘没打算设置环境变量右键点击开始或 winx 以管理员身份打开 PowerShell 进入到安装目录下的 bin 目录可以输入cd 后， 拖动 bin 文件夹到控制台&…...

编程日记 2023/3/2 3:34:55

如何使用BeaconEye监控CobaltStrike的Beacon

关于BeaconEye BeaconEye是一款针对CobaltStrike的安全工具，该工具可以扫描正在运行的主动CobaltStrike Beacon。当BeaconEye扫描到了正在运行Beacon的进程之后，BeaconEye将会监控每一个进程以查看C2活动。工作机制 BeaconEye将会扫描活动进程或Mini…...

编程日记 2023/3/2 3:33:50

STM32开发（17）----CubeMX配置CRC

CubeMX配置CRC前言一、什么是CRC？二、实验过程1.STM32CubeMX配置2.代码实现重载printf3.实验结果总结前言本章介绍使用STM32CubeMX对CRC进行配置的方法，CRC的目的是保证数据的完整性，所有的STM32芯片都内置了一个硬件的CRC计算模块&#xf…...

编程日记 2023/3/2 3:32:43

【MySQL】基础操作：登录、访问、退出和卸载

一、MySQL简介 MySQL数据库最初是由瑞典MySQL AB公司开发，2008年1月16号被Sun公司收购。2009年，SUN又被Oracle收购。MySQL是目前IT行业最流行的开放源代码的数据库管理系统，同时它也是一个支持多线程、高并发、多用户的关系型数据库管理系统。…...

编程日记 2023/3/2 3:31:40

【算法经典题集】递推(持续更新~~~)

😽PREFACE🎁欢迎各位→点赞👍 收藏⭐ 评论📝📢系列专栏：算法经典题集🔊本专栏涉及到的知识点或者题目是算法专栏的补充与应用💪种一棵树最好是十年前其次是现在递推简单的斐波那契…...

编程日记 2023/3/2 3:30:34

mysql兼容性验证

MySQL是一个关系型数据库管理系统。一、安装启动安装mysql相关软件包 yum install mysql-server 启动mysql服务 systemctl start mysqld systemctl status mysqld mysql数据库启动失败问题汇总： <问题1>、start mysqld显示失败，如下所示&…...

编程日记 2023/3/2 3:29:31

C++回顾（五）—— 构造函数和析构函数

5.1 构造和析构 5.1.1 构造函数 （1）定义 1）C中的类可以定义与类名相同的特殊成员函数，这种与类名相同的成员函数叫做构造函数；2）构造函数在定义时可以有参数；3）没有任何返回类型的…...

编程日记 2023/3/2 3:28:23

.Net框架，除了EF还有很多很多......

文章目录 1. 引言2. Dapper2.1 概述与设计原理2.2 核心功能与代码示例基本查询多映射查询存储过程调用 2.3 性能优化原理2.4 适用场景 3. NHibernate3.1 概述与架构设计3.2 映射配置示例Fluent映射XML映射 3.3 查询示例HQL查询Criteria APILINQ提供程序 3.4 高级特性3.5 适用场…...

编程新知 2026/2/1 19:26:16

3.3.1_1 检错编码（奇偶校验码）

从这节课开始，我们会探讨数据链路层的差错控制功能，差错控制功能的主要目标是要发现并且解决一个帧内部的位错误，我们需要使用特殊的编码技术去发现帧内部的位错误，当我们发现位错误之后，通常来说有两种解决方案。第一…...

编程新知 2026/1/30 3:28:14

linux arm系统烧录

1、打开瑞芯微程序 2、按住linux arm 的 recover按键插入电源 3、当瑞芯微检测到有设备 4、松开recover按键 5、选择升级固件 6、点击固件选择本地刷机的linux arm 镜像 7、点击升级 （忘了有没有这步了估计有） 刷机程序和镜像就不提供了。要刷的时…...

编程新知 2026/2/6 20:07:35

华为OD机试-食堂供餐-二分法

import java.util.Arrays; import java.util.Scanner;public class DemoTest3 {public static void main(String[] args) {Scanner in new Scanner(System.in);// 注意 hasNext 和 hasNextLine 的区别while (in.hasNextLine()) { // 注意 while 处理多个 caseint a in.nextIn…...

编程新知 2026/1/28 11:11:03

Map相关知识

数据结构二叉树二叉树，顾名思义，每个节点最多有两个“叉”，也就是两个子节点，分别是左子节点和右子节点。不过，二叉树并不要求每个节点都有两个子节点，有的节点只有左子节点，有的节点只有…...

编程新知 2026/2/4 16:21:14

rnn判断string中第一次出现a的下标

# coding:utf8 import torch import torch.nn as nn import numpy as np import random import json""" 基于pytorch的网络编写实现一个RNN网络完成多分类任务判断字符 a 第一次出现在字符串中的位置 """class TorchModel(nn.Module):def __in…...

编程新知 2025/9/24 16:25:00

HashMap中的put方法执行流程（流程图）

1 put操作整体流程 HashMap 的 put 操作是其最核心的功能之一。在 JDK 1.8 及以后版本中，其主要逻辑封装在 putVal 这个内部方法中。整个过程大致如下： 初始判断与哈希计算： 首先，putVal 方法会检查当前的 table（也就…...

编程新知 2026/2/8 3:32:52

HDFS分布式存储 zookeeper

hadoop介绍狭义上hadoop是指apache的一款开源软件用java语言实现开源框架，允许使用简单的变成模型跨计算机对大型集群进行分布式处理（1.海量的数据存储 2.海量数据的计算）Hadoop核心组件 hdfs（分布式文件存储系统）&a…...

编程新知 2026/1/24 4:10:44

数据结构：递归的种类（Types of Recursion）

目录尾递归（Tail Recursion） 什么是 Loop（循环）？ 复杂度分析头递归（Head Recursion） 树形递归（Tree Recursion） 线性递归（Linear Recursion）…...

编程新知 2026/2/7 2:25:07

基于鸿蒙(HarmonyOS5)的打车小程序

1. 开发环境准备安装DevEco Studio (鸿蒙官方IDE)配置HarmonyOS SDK申请开发者账号和必要的API密钥 2. 项目结构设计 ├── entry │ ├── src │ │ ├── main │ │ │ ├── ets │ │ │ │ ├── pages │ │ │ │ │ ├── H…...

编程新知 2025/10/10 9:07:27

目录

第一课

内容

生态环境

第一课 CPU体系架构的概述

什么是CPU

指令

存储器架构

CPU内部的并行性

相关文章：