pyspark 安装记录
1、安装软件
1、python 3.10
2、hadoop-3.3.4 里面的winutils 要记得添加
3、java-17
4、spark-3.5.1-bin-hadoop3
python 安装 pyspark，Jupyter notebook
pip install pyspark
pip install jupyter notebook2、添加环境变量
- JAVA_HOME=C:\PySparkService\java-17
- HADOOP_HOME=C:\PySparkService\hadoop-3.3.4
- SPARK_HOME=C:\PySparkService\spark-3.5.1-bin-hadoop3
- %JAVA_HOME%\bin
- %HADOOP_HOME%\bin
- %SPARK_HOME%\bin
下面环境不配置会报错
PYSPARK_PYTHON=python
#jupyter notebook 启动 pyspark
# 自己安装 jupyter notebook 使用下面环境变量
PYSPARK_DRIVER_PYTHON=jupyter
<
相关文章：
pyspark 安装记录
1、安装软件 1、python 3.10 2、hadoop-3.3.4 里面的winutils 要记得添加 3、java-17 4、spark-3.5.1-bin-hadoop3 python 安装 pyspark，Jupyter notebook pip install pyspark pip install jupyter notebook 2、添加环境变量 JAVA_HOME=C:\PySparkService\java-17H…...
高度可定制的电竞鼠标，雷柏VT1 PRO MAX体验
不管是菜鸟还是老鸟，游戏玩到某个阶段很容易出现瓶颈，在游戏的某个阶段，这里面制约最大的除了操作之外，实际上还是我们用的硬件。比如在PC游戏中，鼠标的影响就非常大，像是在游戏中如果鼠标延迟过高…...
经验笔记：SOA（面向服务的架构）
SOA（面向服务的架构）经验笔记 引言 SOA（Service-Oriented Architecture, 面向服务的架构）是一种设计原则，用于构建灵活且可扩展的分布式系统。SOA强调将应用程序的不同功能封装为独立的服务，这些服务通过…...
triton之ttir学习
一 基本语句 1 常量 %cst arith.constant dense<520192> : tensor<4096xi32> %c127_i32 arith.constant 127 : i32 %cst arith.constant dense<520192> : tensor<4096xi32> 解释：这条语句定义了一个名为 %cst 的常量，它…...
如何在AWS账户上进行充值：一份详尽指南
大家好，小编今天给大家带来一份关于如何在AWS账户上进行充值的详尽指南。对于使用AWS服务的用户来说，保持账户余额充足是确保服务不中断的关键。下面，九河云将详细讲解具体的操作步骤。 步骤一：登录AWS管理控制台 首先ÿ…...
（六十四）第 10 章 内部排序（静态链表的插入排序）
示例代码 staticLinkList.h // 静态链表的插入排序实现头文件#ifndef STATIC_LINK_LIST_H #define STATIC_LINK_LIST_H#include "errorRecord.h"#define SIZE 100 #define NUM 8typedef int InfoType; typedef int KeyType;typedef struct {KeyType key;InfoType inf…...
appium历史版本地址链接
appium / Appium.app / Downloads — Bitbucket ios的appium界面图 链接: https://pan.baidu.com/s/1i8BRaZgQA3ImLUhKZjfhiA 提取码: 5c8b...
)
TCPIP网络编程（尹圣雨）UDP 轮流收发消息(windows)
端口号写的是 2345 客户端 #include <iostream> #include <winsock2.h> #pragma comment(lib, "ws2_32.lib")using std::cout; using std::endl; using std::cin;int main() {WSADATA wsa;if (WSAStartup(MAKEWORD(2, 2), &wsa) ! 0){cout <<…...
【相机方案（2）】V4L2 支持相机图像直接进入GPU内存吗？DeepStream 确实可以将图像数据高效地放入GPU内存进行处理！
V4L2 支持相机图像直接进入GPU内存吗？ V4L2（Video4Linux Two）是Linux内核中用于视频捕获和播放的API，它本身并不直接支持将相机捕获的图像数据直接拷贝到GPU内存而不经过CPU内存。V4L2主要关注于视频设备的控制、数据的捕获和播放…...
UEFI——PEI阶段
一、PEI介绍 Pre-EFI Initialization（PEI）在引导的早期被调用，仅利用CPU资源调用PEIM，这些PEIM负责： （1）初始化一些永久内存 （2）在HOBs中描述内存信息 （3…...
Nacos下载和启动
Nacos是什么？ 一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台 下载 https://github.com/alibaba/nacos/releases/tag/2.1.1启动 将下载好的Nacos解压缩，然后到bin目录下打开cmd 输入指令：startup.cmd -m standalone 出…...
怎么选择适合的服务器
大家都知道，不管是公司还是个人，在数字化浪潮已经席卷全球的环境下，大家对服务器的需求是日渐增长的。很多人在买服务器的时候，多少都有点选择困难，今天我们就来对比下物理服务器和弹性云服务器，看看选哪个…...
通义千问大模型Java调用,百炼
文章目录 一、大模型服务平台[百炼](https://help.aliyun.com/zh/model-studio/getting-started)二、Java sdk调用与eventStream三、百炼平台其它 一、大模型服务平台百炼 百炼是阿里新出的一个大模型服务平台，聚合了多个千问大模型及其它一些大模型的调用…...
新发现！一键管理所有远程会话的神器——1Remote
大家好，今天给大家介绍一款非常实用的工具——1Remote，这是一款现代化的个人远程会话管理器与启动器，让您的远程工作变得更加轻松高效！ 项目介绍 🚀 核心功能概览 多协议支持：1Remote支持RDP、SSH、VNC、…...
华为 HCIP 认证费用和报名资格
在当今竞争激烈的信息技术领域，华为 HCIP认证备受关注。它不仅能提升个人的技术实力与职业竞争力，也为企业选拔优秀人才提供了重要依据。以下将详细介绍华为 HCIP 认证的费用和报名资格。 一、HCIP 认证费用 华为HCIP认证的费用主要由考试费和培训费构成…...
Linux下载压缩包：tar.gz、zip、tar.bz2格式全攻略
在 Linux 中，下载各种格式的压缩包（如 .tar.gz、.zip、.tar.bz2 等）通常使用命令行工具如 wget 和 curl。 1. 使用 wget 下载压缩包 wget 是 Linux 中最常用的文件下载工具，支持 HTTP、HTTPS、FTP 等协议，可以直接从…...
运行PaddleOCR报错：requests.exceptions.SSLError: HTTPSconnectionPool……
文章目录 问题描述解决方法 问题描述 在运行以下代码时报错： ocr PaddleOCR(lang"en")解决方法 打开cmd，输入以下命令，查找Python解释器所在路径。 找到 Lib\site-packages\paddleocr\ppocr\utils\network.py，将代码…...
(223))
基于STM32L431小熊派设计的智能花盆(微信小程序+腾讯云IOT)(223)
文章目录 一、前言1.1 项目介绍【1】项目背景【2】设计实现的功能【3】项目硬件模块组成1.2 设计思路【1】整体设计思路【2】ESP8266工作模式配置1.3 项目开发背景【1】选题的意义【2】可行性分析【3】参考文献1.4 开发工具的选择【1】设备端开发【2】上位机开发1.5 系统框架图…...
CentOS 入门必备基础知识
CentOS（Community ENTerprise Operating System）是一个基于Red Hat Enterprise Linux（RHEL）的免费开源操作系统，广泛用于服务器环境。它以其稳定性、安全性和社区支持而闻名，对于初学者来说掌握一些基础知识…...
快速排序
一：基本思想 任取待排序元素序列中的某元素作为基准值，按照该排序码将待排序集合分割成两子序列，左子序列中所有元素均小于基准值，右 子序列中所有元素均大于基准值，然后最左右子序列重复该过程，直到所有元…...
业务系统对接大模型的基础方案：架构设计与关键步骤
业务系统对接大模型：架构设计与关键步骤 在当今数字化转型的浪潮中，大语言模型（LLM）已成为企业提升业务效率和创新能力的关键技术之一。将大模型集成到业务系统中，不仅可以优化用户体验，还能为业务决策提供…...
全球首个30米分辨率湿地数据集(2000—2022)
数据简介 今天我们分享的数据是全球30米分辨率湿地数据集，包含8种湿地亚类，该数据以0.5X0.5的瓦片存储，我们整理了所有属于中国的瓦片名称与其对应省份，方便大家研究使用。 该数据集作为全球首个30米分辨率、覆盖2000–2022年时间…...
CMake 从 GitHub 下载第三方库并使用
有时我们希望直接使用 GitHub 上的开源库，而不想手动下载、编译和安装。 可以利用 CMake 提供的 FetchContent 模块来实现自动下载、构建和链接第三方库。 FetchContent 命令官方文档✅ 示例代码 我们将以 fmt 这个流行的格式化库为例，演示如何： 使用 FetchContent 从 GitH…...
图表类系列各种样式PPT模版分享
图标图表系列PPT模版，柱状图PPT模版，线状图PPT模版，折线图PPT模版，饼状图PPT模版，雷达图PPT模版，树状图PPT模版 图表类系列各种样式PPT模版分享：图表系列PPT模板https://pan.quark.cn/s/20d40aa…...
C++使用 new 来创建动态数组
问题： 不能使用变量定义数组大小 原因： 这是因为数组在内存中是连续存储的，编译器需要在编译阶段就确定数组的大小，以便正确地分配内存空间。如果允许使用变量来定义数组的大小，那么编译器就无法在编译时确定数组的大…...
视频行为标注工具BehaviLabel（源码+使用介绍+Windows.Exe版本）
前言： 最近在做行为检测相关的模型，用的是时空图卷积网络（STGCN），但原有kinetic-400数据集数据质量较低，需要进行细粒度的标注，同时粗略搜了下已有开源工具基本都集中于图像分割这块，…...
QT3D学习笔记——圆台、圆锥
类名作用Qt3DWindow3D渲染窗口容器QEntity场景中的实体（对象或容器）QCamera控制观察视角QPointLight点光源QConeMesh圆锥几何网格QTransform控制实体的位置/旋转/缩放QPhongMaterialPhong光照材质（定义颜色、反光等）QFirstPersonC…...
莫兰迪高级灰总结计划简约商务通用PPT模版
莫兰迪高级灰总结计划简约商务通用PPT模版，莫兰迪调色板清新简约工作汇报PPT模版，莫兰迪时尚风极简设计PPT模版，大学生毕业论文答辩PPT模版，莫兰迪配色总结计划简约商务通用PPT模版，莫兰迪商务汇报PPT模版，…...
【Nginx】使用 Nginx+Lua 实现基于 IP 的访问频率限制
使用 NginxLua 实现基于 IP 的访问频率限制 在高并发场景下，限制某个 IP 的访问频率是非常重要的，可以有效防止恶意攻击或错误配置导致的服务宕机。以下是一个详细的实现方案，使用 Nginx 和 Lua 脚本结合 Redis 来实现基于 IP 的访问频率限制…...
在 Spring Boot 项目里，MYSQL中json类型字段使用
前言： 因为程序特殊需求导致，需要mysql数据库存储json类型数据，因此记录一下使用流程 1.java实体中新增字段 private List<User> users 2.增加mybatis-plus注解 TableField(typeHandler FastjsonTypeHandler.class) private Lis…...