Python爬虫（1） --基础知识
爬虫
- 爬虫是什么？ spider
是一种模仿浏览器上网过程的一种程序，可以获取一些网页的数据
基础知识
- URL
统一资源定位符 uniform resource locator
http: 超文本传输协议 HyperText Transfer Protocol 默认端口 80
https: 安全的超文本传输协议 security 默认端口 443
www.example.com 域名
80 端口 port
/path/to/myfile.html 资源路径
?key1=value1&key2=value2 参数 & 表示多个参数的拼接
# 锚点
- 前端代码
<!DOCTYPE html> 声明为 HTML5 文档
<html>..</html> 是网页的根元素
<head>..</head> 元素包含了文档的元（meta）数据，如 <meta charset="utf-8"> 定义网页编码格式为 utf-8。
<title>..<title> 元素描述了文档的标题
<body>..</body> 表示用户可见的内容
<div>..</div> 表示框架
<p>..</p> 表示段落
<ul>..</ul> 定义无序列表
<ol>..</ol>定义有序列表
<li>..</li>表示列表项
<img src="" alt="">表示图片
<h1>..</h1>表示标题
<a href="">..</a>表示超链接
<!DOCTYPE html>
<html><head><!-- 内嵌样式 --><style type="text/css">body{background-color:yellow;}p{font-size: 30px;color: springgreen;}</style><meta charset="utf-8"><title>兰智数加学院</title></head><body><a href="www.anhuisjxy.com">点击访问</a><h1>兰智数加www.anhuisjxy.com</h1><h2>Python爬虫</h2><div><p>认识网页结构</p><ul><li>HTML</li><li>CSS</li></ul></div></body>
</html>
<!DOCTYPE html>
<html><head><style type="text/css">body{background-color: rgb(220, 226, 226);}</style><meta charset="utf-8"><title>兰智数加学院</title></head><body><h1 style="color: blue;">兰智数加www.anhuisjxy.com</h1><h2>Python爬虫</h2><p>点击下方按钮获取当前时间</p><button onclick="DisplayDate()">点击这里</button><p id="time" style="color: red;"></p><!-- script标签内部编写js代码 --><script>function DisplayDate(){document.getElementById("time").innerHTML=Date()}</script></div></body>
</html>
爬虫代码
- 安装requests包
pip install requests
- pip 换源
pip config set global.index-url https://pypi.mirrors.ustc.edu.cn/simple/
pip config set install.trusted-host pypi.mirrors.ustc.edu.cn
- User-Agent： 身份标识 表示你是哪个浏览器
相关文章：
Python爬虫（1） --基础知识
爬虫 爬虫是什么？ spider 是一种模仿浏览器上网过程的一种程序，可以获取一些网页的数据 基础知识 URL 统一资源定位符 uniform resource locator http: 超文本传输协议 HyperText Transfer Protocol 默认端口 80 https: 安全的超文本传输协议 security…...
云原生系列 - Jenkins
Jenkins Jenkins，原名 Hudson，2011 年改为现在的名字。它是一个开源的实现持续集成的软件工具。 官方网站（英文）：https://www.jenkins.io/ 官方网站（中文）：https://www.jenkins.io…...
django踩坑（四）：终端输入脚本可正常执行，而加入crontab中无任何输出
使用crontab执行python脚本时，有时会遇到脚本无法执行的问题。这是因为crontab在执行任务时使用的环境变量与我们在终端中使用的环境变量不同。具体来说，crontab使用的环境变量是非交互式(non-interactive)环境变量，而终端则使用交互式(inter…...
计算机网络入门 -- 常用网络协议
计算机网络入门 – 常用网络协议 1.分类 1.1 模型回顾 计算机网络细分可以划为七层模型，分别是物理层、数据链路层、网络层、传输层、会话层、表示层和应用层。而上三层可以划为应用层中。 1.2 分类 1.2.1 应用层 为用户的应用进程提供网络通信服务࿰…...
【LabVIEW作业篇 - 4】：属性节点赋值和直接节点赋值的区别体现
文章目录 属性节点赋值和直接节点赋值的区别体现 属性节点赋值和直接节点赋值的区别体现 创建5个圆形指示灯，然后循环点亮，先给圆形指示灯赋值假变量，然后再进行循环。 运行结果，观察结果，发现刚开始运行时࿰…...
【数据库系列】Parquet 文件介绍
💝💝💝欢迎来到我的博客，很高兴能够在这里和您见面！希望您在这里可以感受到一份轻松愉快的氛围，不仅可以获得有趣的内容和知识，也可以畅所欲言、分享您的想法和见解。 推荐:kwan 的首页,持续学…...
A Survey on Multimodal Large Language Models综述
论文题目：A Survey on Multimodal Large Language Models 论文地址：https://arxiv.org/pdf/2306.13549 话题：多模态LLMs综述 MLLMs Paper: https://github.com/BradyFU/Awesome-Multimodal-Large-Language-Models 1. 摘要 近期，以GPT-4V为代表的跨模态大型语言模型（MLLM…...
Leetcode3208. 交替组 II
Every day a Leetcode 题目来源：3208. 交替组 II 解法1：环形数组 把数组复制一份拼接起来，和 3101 题一样，遍历数组的同时，维护以 i 为右端点的交替子数组的长度 cnt。 如果 i ≥ n 且 cnt ≥ k，那么 i…...
汇编教程2
本教程主要教大家如何安装32位Linux虚拟机，为后续实验拆炸弹做准备 下载系统映像文件 以Ubuntu14.04.6系统为例 官方网站：下载地址 点击下载图中32位系统 如果官网进不去可以使用镜像网站 清华镜像网站：下载地址 进入之后找到下图中链接…...
使用 git 和 GitHub 互动
本文根据《GitHub入门与实践》整理 创建账户 要想使用GitHub那就必须先有GitHub账号，账号自行注册，不作介绍。 本地生成 SSH Key SSH 提供了一种安全的方式来通过不安全的网络进行通信。当你使用SSH key连接到GitHub时，你的身份是通过密钥对（一个公钥和一个私钥）来验…...
【Spring Boot 中的 `banner.txt` 和 `logback-spring.xml` 配置】
文章目录 一、banner.txt1. 创建自定义 banner.txt2. 配置 banner.txt 的内容 二、logback-spring.xml1. 创建 logback-spring.xml2. 配置 logback-spring.xml 一、banner.txt banner.txt 是 Spring Boot 项目启动时显示的自定义横幅内容。用来展示项目名称、版本信息或者其他…...
Python Linux环境（Centos8）安装minicoda3+jupyterlab
文章目录 安装miniconda安装python环境启动 最近服务器检查，我下面的服务器有漏洞，不得已重装了，正好记录下怎么从零到python写代码。 安装miniconda miniconda是anconda的精简版，就是管理python环境的得力助手。 # 创建一个名…...
Python PDF Magic：合并和拆分随心所欲
大家好！小编今天要为大家带来一篇关于Python操作PDF的秘籍——无论是要将PDF合并成一份整体，还是将一个庞大的PDF文件拆分成多个小伙伴，都轻松hold住！你准备好了吗？让我们开始这场奇妙的PDF操作之旅吧！ 准…...
Gmsh应用程序编程接口
Gmsh应用程序编程接口（API）允许将Gmsh库集成到使用C、C、Python、Julia或Fortran编写的外部应用程序中。从设计上讲，Gmsh API是纯粹功能性的，并且仅使用目标语言的基本类型。 API的结构反映了底层的Gmsh数据模型（也请参…...
DP 203 学习笔记
考试内容总览 Learning Objects: 工具 Designing and implementing data storage 1. Storage Azure Synapse Analytics Azure Databricks Azure Data Lake Storage Gen2(ADLS2，可代替Hadoop Distributed File System也就是HDFS) 2. Shard Partition data store …...
SQLite 事务
SQLite 事务 SQLite 是一种轻量级的数据库管理系统，广泛用于各种应用程序中，特别是在移动设备和嵌入式系统中。它支持标准的 SQL 语法，包括事务处理。事务是数据库管理系统中的一个重要概念，它允许将一系列操作作为一个单独的工作单元来处理，以确保数据库的一致性和可靠性…...
LabVIEW和Alicat Scientific质量流量计实现精确流量控制
在现代工业自动化和科研实验中，精确的气体流量控制至关重要。这里将介绍一个使用LabVIEW与Alicat Scientific公司的质量流量计实现流量控制的项目。项目采用Alicat Scientific的质量流量计（型号：M-200SCCM-D），通过LabV…...
2024-07-19 Unity插件 Odin Inspector10 —— Misc Attributes
文章目录 1 说明2 其他特性2.1 CustomContextMenu2.2 DisableContextMenu2.3 DrawWithUnity2.4 HideDuplicateReferenceBox2.5 Indent2.6 InfoBox2.7 InlineProperty2.8 LabelText2.9 LabelWidth2.10 OnCollectionChanged2.11 OnInspectorDispose2.12 OnInspectorGUI2.13 OnIns…...
Go操作Redis详解
文章目录 Go操作Redis详解来源介绍Redis支持的数据结构Redis应用场景Redis与Memcached比较准备Redis环境go-redis库 安装连接普通连接连接Redis哨兵模式连接Redis集群基本使用set/get示例zset示例Pipeline事务WatchGo操作Redis详解 来源 https://www.liwenzhou.com/posts/Go/…...
钡铼Modbus TCP耦合器BL200实现现场设备与SCADA无缝对接
前言 深圳钡铼技术推出的Modbus TCP耦合器为SCADA系统与现场设备之间的连接提供了强大而灵活的解决方案，它不仅简化了设备接入的过程，还提升了数据传输的效率和可靠性，是工业自动化项目中不可或缺的关键设备。本文将从Modbus TC、SCADA的简要…...
数据分析入门：用Python和Numpy探索音乐流行趋势
一、引言 音乐是文化的重要组成部分，而音乐流行趋势则反映了社会文化的变迁和人们审美的变化。通过分析音乐榜单，我们可以了解哪些歌曲或歌手正在受到大众的欢迎，甚至预测未来的流行趋势。Python作为一种强大的编程语言，结合其丰…...
数仓工具—Hive语法之替换函数和示例
Hive 替换函数和示例 默认情况下，并没有可用的 Hive 替换函数。如果在处理字符串时需要替换特定值，例如垃圾值，字符串操作函数替换是非常需要的。在本文中，我们将检查 Hive 替换函数 的替代方法，以便在需要时使用。 如前所述，Apache Hive 不提供替换函数的支持。但是，…...
[SUCTF 2019]EasySQL1
这是一个简单的SQL注入题，但是因为我的SQL基础约等于0，所以做起来很难。 首先试试引号是否被过滤 可以看到单引号、双引号都被过滤了，试试其他的盲注都不行，基本上可以确定不能用这种方法。 在测试的过程中发现，输入…...
elasticsearch, kibana, 6.8.18 版本下的创建索引，指定timestamp，java CRUD，maven版本等
ELK 这一套的版本更迭很快， 而且es常有不兼容的东西出现， 经常是搜一篇文章，看似能用，拿到我这边就不能用了。 很是烦恼。 我这边的ELK版本目前是 6.8.18，这次的操作记录一下。 （涉密内容略有删改…...
无人机侦察：二维机扫雷达探测设备技术详解
二维机扫雷达探测设备采用机械扫描方式，通过天线在水平方向和垂直方向上的转动，实现对目标空域的全方位扫描。雷达发射机发射电磁波信号，遇到目标后产生反射，反射信号被雷达接收机接收并处理，进而得到目标的位置、速度…...
未来互联网的新篇章：深度解析Web3技术
随着技术的飞速发展，Web3作为新一代互联网技术范式，正在重新定义我们对互联网的认知和使用方式。本文将深入探讨Web3技术的核心概念、关键特征以及其在未来互联网发展中的潜力和影响，为读者打开Web3时代的大门。 Web3技术的核心概念和特征 1…...
vst 算法R语言手工实现 | Seurat4 筛选高变基因的算法
1. vst算法描述 （1）为什么需要矫正 image source: https://ouyanglab.com/singlecell/basic.html In this panel, we observe that there is a very strong positive relationship between a gene’s average expression and its observed variance. I…...
阿里通义千问大模型Qwen2-72B-Instruct通用能力登顶国内第一！
前言： 中国互联网协会副秘书长裴玮近日在2024中国互联网大会上发布《中国互联网发展报告(2024)》。《报告》指出， 在人工智能领域，2023年我国人工智能产业应用进程持续推进，核心产业规模达到5784亿元。 截至2024年3月ÿ…...
CH04_依赖项属性
第4章：依赖项属性 本章目标 理解依赖项属性理解属性验证 依赖项属性 属性与事件是.NET抽象模型的核心部分。WPF使用了更高级的依赖项属性（Dependency Property）功能来替换原来.NET的属性，实现了更高效率的保存机制…...
CentOS 7开启SSH连接
1. 安装openssh-server 1.1 检查是否安装openssh-server服务 yum list installed | grep openssh-server如果有显示内容，则已安装跳过安装步骤，否则进行第2步 1.2 安装openssh-server yum install openssh-server2. 开启SSH 22监听端口 2.1 打开ssh…...
区网站制作/云搜索神器
创建2维dataframe格式数据 import numpy as np import pandas as pddata [[1, 5, 1.2], [2, 6, 2.2], [3, 7, 3.2]] df pd.DataFrame(data data,index [row_%d%i for i in range(3)],columns[col_0, col_1, col_2],dtypefloat64)对所有数据函数处理 def pow(x):return x*…...
网上学设计哪个网站好/网页开发工具
点击上方蓝字关注我们在射频 /微波/毫米波测试中，除了同轴和波导互连器件之外，还有其他两种与DUT交互的主要器件。它们包括连接到元件引线或微带焊盘的表面探针，以及设计用于测试的天线。测试探针和天线所适用的测试类型差异巨大，…...
wordpress 通用代码/seo网站分析工具
本科生毕业论文 基于Java（springboot框架）图书馆管理系统 开题报告 学 院： 专 业： 计算机科学与技术 年 级： 学生姓名： …...
聊城手机网站建设方案/怎么注册域名网址
前面写了一个参数估计，现在也顺便把假设检验也总结一下吧，主要参考书还是那本《概率论与数理统计》(陈希孺)。 假设检验就是提出一个命题，根据样本判断对错。 问题提法 有一个已知分布的总体，其中个别参数未知。现在抽取的一组样本…...
建筑模板工/百度优化点击软件
开发时 向后台发送请求，返回成功后，重新刷新页面并且弹窗提示成功。弹窗经常只显示一条线，就结束了。一开始initPage(); //重绘页面showInfo(操作成功); //提示框后来尝试用Promise同步new Promise(function(resolve){init.initPage();window…...
做问卷调查用哪个网站好/青岛seo整站优化哪家专业
VMware安装后主机未连接虚拟网卡VMnet1和VMnet8 安装VMware后，打开虚拟网络编辑器 发现VMnet1和VMnet8 主机未连接 情况如下： 1、还原默认还是显示未连接 2、发现VMnet1和VMnet8的主机连接还是没有连接 解决方法 首先卸载VMware 并且将C\ProgramData下的…...