当前位置： 首页 > news >正文

ONNX OpenVino TensorRT MediaPipe NCNN Diffusers ComfyUI

news 文章来源：https://blog.csdn.net/linzhiji/article/details/132739270 2025/2/6 19:14:02

框架

和Java生成的中间文件可以在JVM上运行一样，AI技术在具体落地应用方面，和其他软件技术一样，也需要具体的部署和实施的。既然要做部署，那就会有不同平台设备上的各种不同的部署方法和相关的部署架构工具

onnx


在训练模型时可以使用很多不同的框架，比如 Pytorch， TensorFLow， MXNet，以及深度学习最开始流行的 Caffe 等等，这样不同的训练框架就导致了产生不同的模型结果包，在模型进行部署推理时就需要不同的依赖库，而且同一个框架比如 tensorflow 不同的版本之间的差异较大

为了解决这个混乱问题，LF AI 这个组织联合 Facebook, MicroSoft等公司制定了机器学习模型的标准，这个标准叫做ONNX, Open Neural Network Exchage，所有其他框架产生的模型包 (.pth, .pb) 都可以转换成这个标准格式，转换成这个标准格式后，就可以使用统一的 ONNX Runtime等工具进行统一部署。onnx runtime引擎为生成的onnx模型文件提供推理功能

OpenVino

Intel公司针对自家设备开开发的部署工具

TensorRT

NVIDIA公司针对自家GPU开发的部署工具

MediaPipe

Google针对自家硬件设备和深度学习框架开发的部署工具

NCNN

腾讯公司开发的移动端平台部署工具

Optimum

Optimum是huggingface transformers库的一个扩展包，用来提升模型在指定硬件上的训练和推理性能。该库文档地址为 Optimum。

huggingface optimum中文教程-1、初探 - 知乎

Diffusers

 Hugging Face 平台提供了基础模型权重以及通用的模型训练框架 diffusers

ComfyUI

ComfyUI 和stable-diffusion-webui的作用类似，安装方法也类似

【分享】SDXL模型最佳拍档！COMFY UI上手指南

相关文章：

ONNX OpenVino TensorRT MediaPipe NCNN Diffusers ComfyUI

框架 和Java生成的中间文件可以在JVM上运行一样，AI技术在具体落地应用方面，和其他软件技术一样，也需要具体的部署和实施的。既然要做部署，那就会有不同平台设备上的各种不同的部署方法和相关的部署架构工具 onnx 在训练模型时可以…...

编程日记 2023/9/8 12:08:52

java中使用 Integer 和 int 的 含义、使用方法 及之间的区别

学习目标： 学习目标如下： 明确 Integer 和 int 的 含义、使用方法 及之间的区别 学习内容： 一、区别： 1.Integer是int的包装类，int则是java的一种基本的数据类型； 2.Integer变量必须实例化之后才能使用&a…...

编程日记 2023/9/8 12:07:51

点云从入门到精通技术详解100篇-点云的特征检测

目录 前言 点云配准的研究背景 多元时间序列的相似性分析研究背景及意义 国内外研究现状...

编程日记 2023/9/8 12:06:49

DOM破坏绕过XSSfilter例题

目录 一、什么是DOM破坏 二、例题1 ​编辑 三、多层关系 1.Collection集合方式 2.标签关系 四、例题2 一、什么是DOM破坏 DOM破坏（DOM Clobbering）指的是对网页上的DOM结构进行不当的修改，导致页面行为异常、性能问题、安全风险或其他不…...

编程日记 2023/9/8 12:05:47

代码随想录Day_56打卡

①、两个字符串的删除操作 给定两个单词 word1 和 word2 ，返回使得 word1 和 word2 相同所需的最小步数。 每步 可以删除任意一个字符串中的一个字符。 事例： 输入: word1 "sea", word2 "eat" 输出: 2 解释: 第一步将 "sea&…...

编程日记 2023/9/8 12:04:46

高忆管理：六连板捷荣技术或难扛“华为概念股”大旗

在本钱商场上名不见经传的捷荣技术（002855.SZ）正扛起“华为概念股”大旗。 9月6日，捷荣技术已拿下第六个连续涨停板，短短七个生意日，股价累积涨幅逾越90%。公司已连发两份股票生意异动公告。 是炒作，还是…...

编程日记 2023/9/8 12:03:45

「解析」YOLOv5 classify分类模板

学习深度学习有些时间了，相信很多小伙伴都已经接触 图像分类、目标检测甚至图像分割(语义分割)等算法了，相信大部分小伙伴都是从分类入门，接触各式各样的 Backbone算法开启自己的炼丹之路。 但是炼丹并非全是 Backbone，更多的是各…...

编程日记 2023/9/8 12:02:42

交换排序——冒泡排序、快速排序

交换排序就是通过比较交换实现排序。分冒泡排序和快速排序两种。 一、冒泡排序： 1、简述 顾名思义就是大的就冒头，换位置。 通过多次重复比较、交换相邻记录而实现排序；每一趟的效果都是将当前键值最大的记录换到最后。 冒泡排序算法的原…...

编程日记 2023/9/8 12:01:41

Android 10.0 禁用adb shell input输入功能

1.前言 在10.0的产品开发中，在进行一些定制开发中，对于一些adb shell功能需要通过属性来控制禁止使用input 等输入功能，比如adb shell input keyevent 响应输入事件等，所以就需要 熟悉adb shell input的输入事件流程，然后来禁用adb shell input的输入事件功能，接下来分…...

编程日记 2023/9/8 12:00:41

cuda显存访问耗时

背景： 项目中有个数据量大小为5195 * 512 * 128float 1.268G的显存，发现有个函数调用很耗时，函数里面就是对这个显存进行128个元素求和，得到一个5195 * 512的图像 分析 1. 为什么耗时 直观上感觉这个流程应该不怎么耗时才对&a…...

编程日记 2023/9/8 11:59:40

【HTML5高级第三篇】drag拖拽、音频视频、defer/async属性、dialog应用

文章目录 一、拖拽事件1.1 拖拽事件1.2 案例：拖拽丢弃图片 二、音频和视频三、defer 与 async 属性3.1 概述3.2 示例一：3.3 示例二： 四、dialog 元素 一、拖拽事件 原生JavaScipt案例合集 JavaScript DOM基础 JavaScript 基础到高级 Canvas…...

编程日记 2023/9/8 11:58:38

独享IP vs. 共享IP：哪种更适合你？

无论是个人用户还是企业组织，在互联网上都需要一个唯一标识来与其他设备进行通信。这就涉及到使用独立分配给自己或多个用户分享的公共 IP 地址（也称为共享 IP）。那么，究竟应该选择独占一个专用地址还是与他人分享相同地址呢&…...

编程日记 2023/9/8 11:57:37

【Arduino27】DHT11温湿度传感器模拟值实验

硬件准备 DHT11温湿度&#xff1a;1个 面包板&#xff1a;1个 杜邦线&#xff1a;3根 硬件连线 VDD引脚接 5V 电源 DATE引脚接 4号 接口 GND引脚接 GND 接口 软件程序 #include<DHT.h>#define DHT11_pin 4 //温湿度传感器引脚DHT dht(DHT11_pin,DHT11);float tem…...

编程日记 2023/9/8 11:56:37

dockerfile基于apline将JDK20打包成镜像

dockerfile基于apline将JDK20打包成镜像 ​ 今天就来和大家聊聊如何把最新出版的JDK20打包成docker镜像&#xff0c;很多uu都会采用centos作为基础镜像&#xff0c;这么做会有一个问题&#xff0c;centos系统会含有很多库文件&#xff0c;这些库文件JDK程序并不是完全需要的&a…...

编程日记 2023/9/8 11:55:36

MATLAB基础-MAT文件的读写操作

简介 MAT文件是MATLAB格式的双精度二进制数据文件&#xff0c;由MATLAB软件创建&#xff0c;可以使用MATLAB软件再其他计算机上以其他浮点格式读取&#xff0c;同时也可以使用其他软件通过MATLAB的应用程序接口来进行读写操作。如果只是再MATLAB环境中处理数据&#xff0c;使用…...

编程日记 2023/9/8 11:54:34

PostgreSQL PG15 新功能 PG_WALINSPECT

开头还是介绍一下群&#xff0c;如果感兴趣PolarDB ,MongoDB ,MySQL ,PostgreSQL ,Redis &#xff0c;Oracle ,Oceanbase 等有问题&#xff0c;有需求都可以加群群内有各大数据库行业大咖&#xff0c;CTO&#xff0c;可以解决你的问题。加群请加微信号 liuaustin3 &#xff08;…...

编程日记 2023/9/8 11:53:32

时序预测 | MATLAB实现TCN-BiLSTM时间卷积双向长短期记忆神经网络时间序列预测

时序预测 | MATLAB实现TCN-BiLSTM时间卷积双向长短期记忆神经网络时间序列预测 目录 时序预测 | MATLAB实现TCN-BiLSTM时间卷积双向长短期记忆神经网络时间序列预测预测效果基本介绍模型描述程序设计参考资料 预测效果 基本介绍 1.MATLAB实现TCN-BiLSTM时间卷积双向长短期记忆神…...

编程日记 2023/9/8 11:52:31

数据结构和算法（2）：向量

抽象数据类型 数组到向量 C/C 中&#xff0c;数组A[]中的元素与[0,n)内的编号一一对应&#xff0c;A[0],A[1],...,A[n-1]&#xff1b;反之&#xff0c;每个元素均由&#xff08;非负&#xff09;编号唯一指代&#xff0c;并可直接访问A[i] 的物理地址 Ai s&#xff0c;s 为单…...

编程日记 2023/9/8 11:51:30

mysql 大表如何ddl

大家好&#xff0c;我是蓝胖子&#xff0c;mysql对大表(千万级数据)的ddl语句&#xff0c;在生产上执行时一定要千万小心&#xff0c;一不小心就有可能造成业务阻塞&#xff0c;数据库io和cpu飙高的情况。今天我们就来看看如何针对大表执行ddl语句。 通过这篇文章&#xff0c;…...

编程日记 2023/9/8 11:50:29

C++新特性：智能指针

一 、为什么需要智能指针 智能指针主要解决以下问题&#xff1a; 1&#xff09;内存泄漏&#xff1a;内存手动释放&#xff0c;使用智能指针可以自动释放 2&#xff09;共享所有权指针的传播和释放&#xff0c;比如多线程使用同一个对象时析构问题&#xff0c;例如同样的数据…...

编程日记 2023/9/8 11:49:28

SAP FI之批量修改财务凭证的BAPI

文章目录 前言一、pandas是什么&#xff1f;二、使用步骤 1.引入库2.读入数据总结 前言 一般涉及修改财务凭证&#xff0c;或者其它凭证&#xff0c;不应直接更新数据库&#xff0c;而是使用系统提供的function module,或者BAPI&#xff0c;或者使用BDC。 一、 示例&#xf…...

编程日记 2023/9/8 11:48:16

Spring Boot + Vue的网上商城之商品分类

Spring Boot Vue的网上商城之商品分类 在网上商城中&#xff0c;商品分类是非常重要的一个功能&#xff0c;它可以帮助用户更方便地浏览和筛选商品。本文将介绍如何使用Spring Boot和Vue来实现商品分类的功能&#xff0c;包括一级分类和二级分类的管理以及前台按分类浏览商品…...

编程日记 2023/9/8 11:47:14

Docker 容器逃逸漏洞 (CVE-2020-15257)复现

漏洞概述 containerd是行业标准的容器运行时&#xff0c;可作为Linux和Windows的守护程序使用。在版本1.3.9和1.4.3之前的容器中&#xff0c;容器填充的API不正确地暴露给主机网络容器。填充程序的API套接字的访问控制验证了连接过程的有效UID为0&#xff0c;但没有以其他方式…...

编程日记 2023/9/8 11:46:12

Python 如何使用 csv、openpyxl 库进行读写 Excel 文件详细教程（更新中）

csv 基本概述 首先介绍下 csv (comma separated values)&#xff0c;即逗号分隔值&#xff08;也称字符分隔值&#xff0c;因为分隔符可以不是逗号&#xff09;&#xff0c;是一种常用的文本格式&#xff0c;用以存储表格数据&#xff0c;包括数字或者字符。 程序在处理数据时…...

编程日记 2023/9/8 11:45:09

$nextTick属性使用与介绍

属性介绍 $nextTick 是 Vue.js 中的一个重要方法&#xff0c;之前我们也说过$ref 等一些重要的属性&#xff0c;这次我们说$nextTick&#xff0c;$nextTick用于在 DOM 更新后执行回调函数。它通常用于处理 DOM 更新后的操作&#xff0c;因为 Vue 在更新 DOM 后不会立即触发回调…...

编程日记 2023/9/8 11:44:07

【群智能算法改进】一种改进的鹈鹕优化算法 IPOA算法[2]【Matlab代码#58】

文章目录 【获取资源请见文章第5节&#xff1a;资源获取】1. 原始POA算法2. 改进后的IPOA算法2.1 随机对立学习种群初始化2.2 动态权重系数2.3 透镜成像折射方向学习 3. 部分代码展示4. 仿真结果展示5. 资源获取 【获取资源请见文章第5节&#xff1a;资源获取】 1. 原始POA算法…...

编程日记 2023/9/8 11:43:06

k8s 入门到实战--部署应用到 k8s

k8s 入门到实战 01.png 本文提供视频版&#xff1a; 背景 最近这这段时间更新了一些 k8s 相关的博客和视频&#xff0c;也收到了一些反馈&#xff1b;大概分为这几类&#xff1a; 公司已经经历过服务化改造了&#xff0c;但还未接触过云原生。公司部分应用进行了云原生改造&…...

编程日记 2023/9/8 11:42:05

编程语言新特性：instanceof的改进

以前也写过类似的博文&#xff0c;可能重复。 要判断一个对象是哪个类或父类的实例&#xff0c;JAVA用到instanceof&#xff0c;其实语言也有类似语法。而类一般是多层继承的&#xff0c;有时就让人糊涂。所以我提出改进思路&#xff1a; instanceof&#xff1a;保持不变。ins…...

编程日记 2023/9/8 11:40:02

数据挖掘的学习路径

⭐️⭐️⭐️⭐️⭐️欢迎来到我的博客⭐️⭐️⭐️⭐️⭐️ &#x1f434;作者&#xff1a;秋无之地 &#x1f434;简介&#xff1a;CSDN爬虫、后端、大数据领域创作者。目前从事python爬虫、后端和大数据等相关工作&#xff0c;主要擅长领域有&#xff1a;爬虫、后端、大数据…...

编程日记 2023/9/8 11:39:01

逻辑回归Logistic

回归 概念 假设现在有一些数据点&#xff0c;我们用一条直线对这些点进行拟合&#xff08;这条直线称为最佳拟合直线&#xff09;&#xff0c;这个拟合的过程就叫做回归。进而可以得到对这些点的拟合直线方程。 最后结果用sigmoid函数输出 因此&#xff0c;为了实现 Logisti…...

编程日记 2023/9/8 11:37:58

网页设计就业/企业关键词优化公司

2019独角兽企业重金招聘Python工程师标准>>> 基本思路&#xff1a;通过一个队列保存最近10次的登录记录&#xff0c;下一次登录请求来时&#xff0c;通过与队列中的第一条进行比较&#xff0c;如果在1分钟之内则拒绝请求&#xff0c;否则移除队首元素&#xff0c;将…...

编程日记 2025/2/6 14:44:56

上海房地产网站建设/上海百度公司地址

我的克隆过程&#xff0c;是通过这个语句完成的SqlConnection conn new SqlConnection(); &#xff0c;你不会有意见吧&#xff1f; 二、执行查询命令并显示查询结果 打开数据库&#xff0c;总要做点事&#xff0c;我们来查询点什么吧&#xff0c;我们换一个人&#xff0c;找…...

编程日记 2025/2/6 14:24:42

自己做的网站怎样才有网址浏览/橘子seo查询

llvm如何使用vc编译器本系列的其他文章 在“ 使用LLVM框架创建可用的编译器”系列中查看更多文章。 本系列的第一篇文章探讨了LLVM中间表示&#xff08;IR&#xff09;。 您是手工制作的“ Hello World”测试程序&#xff1b; 学习了LLVM的一些细微差别&#xff0c;例如类型转…...

编程日记 2025/2/6 14:02:26

wordpress 要求ftp/购物网站大全

在中国很多人都想一夜暴富&#xff0c;在法律允许之内彩票是不错的选择&#xff0c;但&#xff0c;并不是每个人都那么goog luck&#xff0c;因此很多运气不好的朋友沉迷彩票&#xff0c;甚至倾家荡产搞得家破人亡&#xff0c;此情此景&#xff0c;触目惊心&#xff0c;深表同情…...

编程日记 2025/2/6 12:32:30

如何上传网站源码/济南优化网站关键词

eog命令查看图片不支持在终端/控制台显示图片。使用GUI显示。fbi命令查看图片安装&#xff1a;$ sudo apt-get install fbi进入控制台(不是终端)&#xff0c;可以使用Control-Alt-F1快捷键。sudo fbi foo.jpg显示正常的图片&#xff0c;不使用字符代替。cacaview命令查看图片安…...

编程日记 2025/2/6 7:42:37

制作网站要不要域名/seo网站快速整站优化技术

Python 多进程 Python中的多线程无法使用多核的优势&#xff0c;如果想要充分地使用多核CPU的资源&#xff08;os.cpu_count()查看&#xff09;&#xff0c;在Python中大部分情况需要使用多进程。Python提供了multiprocessing。 multiprocessing模块用来开启子进程&#xff0…...

编程日记 2025/2/6 4:07:33