当前位置： 首页 > news >正文

Python爬虫之简单学习BeautifulSoup库，学习获取的对象常用方法，实战豆瓣Top250

news 文章来源：https://blog.csdn.net/m0_66111719/article/details/139395202 2025/5/7 4:00:29

BeautifulSoup是一个非常流行的Python库，广泛应用于网络爬虫开发中，用于解析HTML和XML文档，以便于从中提取所需数据。它是进行网页内容抓取和数据挖掘的强大工具。

功能特性

  1. 易于使用: 提供简洁的API，使得即使是对网页结构不熟悉的开发者也能快速上手。
  2. 文档解析: 支持多种解析器，包括Python标准库中的HTML解析器以及第三方的lxml解析器，后者速度更快且功能更强大。
  3. 自动编码识别: 自动将输入文档转换为Unicode编码，输出文档转换为UTF-8编码，简化了编码处理的复杂性。
  4. 导航与搜索: 提供了丰富的选择器和方法，如 .find(), .find_all(), .select() 等，便于按标签名、属性、类名等查找元素。
  5. 数据提取: 可以轻松地提取和修改HTML或XML文档中的数据，支持遍历和搜索DOM树，提取文本、属性等信息。
  6. 灵活的输出格式: 可以将解析后的数据输出为Python对象、字符串或者保存为文件。

目录

安装BeautifulSoup

基本使用

BeautifulSoup获取对象

选择器

1、CSS选择器（select()方法）：

2、Tag名：

3、属性选择：

方法

.find_all()

.find()

示例

使用BeautifulSoup爬取豆瓣Top250实例

安装BeautifulSoup

在命令窗口安装

pip install

基本使用

我们使用requests库发送请求获取html，获得的是html字符串，在爬虫中，只有正则表达式（re）才可以直接对html字符串进行解析，而对于html字符串我们无法使用xpath语法和bs4语法进行直接提取，需要通过lxml或者bs4对html字符串进行解析，解析为html页面才能进行数据提取。

在xpath中我们使用lxml进行解析，但是在bs4中，我们有很多的解析器对网页进行解析。

这里我们只说一种最常用最简单的解析器"html.parser"

简单来说BeautifulSoup是一个从html字符串提取数据的工具，使用BeautifulSoup分为三步：
第一步 导入BeautifulSoup类，抓取网页同时也导入requests库

from bs4 import BeautifulSoup
import requests

第二步 传递初始化参数（HTML代码，HTML解析器），并初始化

这里解析器使用'html.parser'，这是python自带的解析器，更方便使用

# html_code：html代码  html.parser：解析器，python自带的解析器
soup = BeautifulSoup(html_code, 'html.parser')

第三步 获取实例对象，操作对象获取数据

BeautifulSoup获取对象可以使用选择器和方法。

BeautifulSoup获取对象

选择器

1、CSS选择器（select()方法）：

支持ID选择器、类选择器、属性选择器、伪类等

复杂选择

  • 组合选择器：可以使用逗号 , 分隔多个选择器来选择多个不同类型的元素。
  • 后代选择器：使用空格表示，如 .story a 选取所有.story类内的<a>标签。
  • 子选择器：使用 > 表示直接子元素，如 body > p 选取<body>直接下的所有段落。
  • 属性选择器：如 [href*=example] 选取所有href属性包含"example"的元素。
  • 伪类选择器：如 a:hover、:first-child 等，虽然不是所有CSS伪类在BeautifulSoup中都可用，但一些基本的如:first-child, :last-child等有时也能派上用场。

2、Tag名：

  • 直接使用tag名作为属性，如 soup.div 返回第一个<div>标签。
  • 支持通过列表索引来定位特定的标签，如 soup.divs[0]。

3、属性选择：

使用[attribute=value]语法，例如 soup.find_all(attrs={'class': 'active'}) 查找所有class为"active"的元素。

方法

.find_all()

查找文档中所有匹配指定条件的tag，返回一个列表。

参数可以精确指定tag名字、属性、文本内容等。

.find()

类似于.find_all()，但只返回第一个匹配的元素。

示例

1、获取所有div标签

soup.find_all('div')

2、获取拥有指定属性的标签（id='even'的div标签）

soup.find_all('div', id='even')

如果有多个属性的标签，可以使用字典模式

soup.find_all('div', attrs={"id":"even", "class":"cc"})
soup.find_all('div', id='even',class_='c')

使用字典形式，还可以添加样式属性，更加灵活

3、获取标签的属性值

方法1：通过下标方式提取

alist = soup.find_all('a')
# 我想获取a标签的href值
for a in alist:href = a['href']print(href)

方法2：利用attrs参数提取

for a in alist:href = a.attrs['href']print(href)

使用BeautifulSoup爬取豆瓣Top250实例

网址：豆瓣电影 Top 250

导入库，使用requests向网站发起请求，获取页面响应对象

.status_code状态码为200则请求成功，可以继续下一步

import requests
from bs4 import BeautifulSoupurl = 'https://movie.douban.com/top250'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/125.0.0.0 Safari/537.36 Edg/125.0.0.0'
}# 发送GET请求
response = requests.get(url, headers=headers)
print(response.status_code)

打开浏览器开发者工具，找到User-Agent复制

这次实验我们爬取电影名称和短语，我们通过观察知道每个电影的信息都包含在一个div中，这个div的class选择器为"info"，而我们需要爬取的数据在这个div里面。

import requests
from bs4 import BeautifulSoupurl = 'https://movie.douban.com/top250'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/125.0.0.0 Safari/537.36 Edg/125.0.0.0'
}# 发送GET请求
response = requests.get(url, headers=headers)if response.status_code == 200:soup = BeautifulSoup(response.text, 'html.parser')divs = soup.find_all('div', class_='info')

获取到每个电影外层的div元素后，再嵌套循环，将需要抓取的标签使用.find()和.find_all()方法获取到。

import requests
from bs4 import BeautifulSoupurl = 'https://movie.douban.com/top250'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/125.0.0.0 Safari/537.36 Edg/125.0.0.0'
}# 发送GET请求
response = requests.get(url, headers=headers)list = []if response.status_code == 200:# 解析html代码soup = BeautifulSoup(response.text, 'html.parser')# 查找此页面的所有div标签，选择器为'info'divs = soup.find_all('div', class_='info')# 遍历获取到的元素，获取电影名称和短语for div in divs:title = div.find_all('span')[0].textsen = div.find('span', class_='inq').textlist.append([title,sen])for l in list:print(l)

相关文章：

Python爬虫之简单学习BeautifulSoup库，学习获取的对象常用方法，实战豆瓣Top250

BeautifulSoup是一个非常流行的Python库&#xff0c;广泛应用于网络爬虫开发中&#xff0c;用于解析HTML和XML文档&#xff0c;以便于从中提取所需数据。它是进行网页内容抓取和数据挖掘的强大工具。 功能特性 易于使用: 提供简洁的API&#xff0c;使得即使是对网页结构不熟悉…...

编程日记 2024/6/6 11:06:53

SAP-BASIS15-查看系统状态

...

编程日记 2024/6/6 11:05:52

前端怎么debugger排查线上问题

前端怎么debugger排查线上问题 1.问题背景2.问题详细说明3.处理方案a.开发环境怎么找&#xff0c;步骤一样的&#xff1a;b.生产环境怎么找&#xff0c;步骤一样的&#xff1a;还有一种情况就是你的子盒子是使用csshover父盒子出来的&#xff0c; 4.demo地址&#xff1a; 1.问题…...

编程日记 2024/6/6 11:02:48

LabVIEW源程序安全性保护综合方案

LabVIEW源程序安全性保护综合方案 一、硬件加密保护方案 选择和安装硬件设备 选择加密狗和TPM设备&#xff1a;选择Sentinel HASP加密狗和支持TPM&#xff08;可信平台模块&#xff09;的计算机主板。 安装驱动和开发工具&#xff1a;安装Sentinel HASP加密狗的驱动程序和开发…...

编程日记 2024/6/6 11:01:47

JS包装类：循环中为什么建议用变量存储str.length进行循环判断？

前言 在Javascript通常我们在遍历一个字符串的时候通常使用的方式是 var str "abcdefg"; for(let i0;i<str.length;i){}但在最近的学习中&#xff0c;有人建议我最好应该是下面这样执行。 var str "abcdefg"; for(let i0,len str.length;i<len;i)…...

编程日记 2024/6/6 10:59:45

Android Audio实战——音量默认值修改（一）

在前面的文章《音频配置加载》中我们知道了，Audio 的一些配置信息是由硬件驱动保存到 audio_policy_configuration.xml 文件中，音量的一些默认值也会如此。但是在一些车载设备开发中，需要适配不同车型的需求，一套代码通常要适配多个车型，这就需要在 FW 层进行一些默认值的…...

编程日记 2024/6/6 10:57:42

解决uni-app progress控件不显示问题

官方代码&#xff1a; <view class"progress-box"><progress :percent"80" show-info activeColor"red" stroke-width"10" /> </view> 进度条并不在页面中显示&#xff0c;那么我们需要给进度条加上宽高style"…...

编程日记 2024/6/6 10:55:39

使用C++版本的opencv dnn 部署onnx模型

使用OpenCV的DNN模块在C中部署ONNX模型涉及几个步骤&#xff0c;包括加载模型、预处理输入数据、进行推理以及处理输出。 构建了yolo类&#xff0c;方便调用 yolo.h 文件 #ifndef YOLO_H #define YOLO_H #include <fstream> #include <sstream> #include <io…...

编程日记 2024/6/6 10:53:36

python中实现队列功能

【小白从小学Python、C、Java】 【考研初试复试毕业设计】 【Python基础AI数据分析】 python中实现队列功能 选择题 以下代码最后一次输出的结果是&#xff1f; from collections import deque queue deque() queue.append(1) queue.append(2) queue.append(3) print(【显示】…...

编程日记 2024/6/6 10:52:34

自然资源-关于城镇开发边界局部优化的政策思路梳理

自然资源-关于城镇开发边界局部优化的政策思路梳理 国土空间规划的核心之一是要统筹划定“三区三线”&#xff0c;三条控制线中的城镇开发边界的划定与优化工作&#xff0c;一直是国土空间规划改革的重要组成部分&#xff0c;其有助于遏制城市盲目扩张&#xff0c;强化底线约束…...

编程日记 2024/6/6 10:51:32

ElementUI的Table组件在无数据情况下让“暂无数据”文本居中显示

::v-deep .el-table__empty-block {width: 100%;min-width: 100%;max-width: 100%; }...

编程日记 2024/6/6 10:50:30

SAP-BASIS14-安装语言包

...

编程日记 2024/6/6 10:46:25

ant design的upload组件踩坑记录

antd版本 v4.17.0 1.自定义了onpreview和onchange事件&#xff0c;上传文件后&#xff0c;文件显示有preview的icon但是被禁用&#xff0c;无法调用onpreview事件。 问题展现&#xff1a; 苦苦查找原因&#xff0c;问题出在了这里&#xff0c;当文件没有url的时候&#xff0c…...

编程日记 2024/6/6 10:45:24

Python私教张大鹏 Vue3整合AntDesignVue之按钮组件

何时使用 标记了一个&#xff08;或封装一组&#xff09;操作命令&#xff0c;响应用户点击行为&#xff0c;触发相应的业务逻辑。 在 Ant Design Vue 中我们提供了五种按钮。 主按钮&#xff1a;用于主行动点&#xff0c;一个操作区域只能有一个主按钮。默认按钮&#xff1…...

编程日记 2024/6/6 10:44:23

【小海实习日记】PHP安装

## PHP环境搭建(Mac) ### php安装 使用brew需要安装homebrew >brew tap shivammathur/php >brew install shivammathur/php/php7.3 >brew link php7.3 这里可以需要homebrew使用代理进行下载&#xff0c;如果代理下载速度还是太慢&#xff0c;建议直接更该国内镜像…...

编程日记 2024/6/6 10:43:22

C++ Primer Chapter 4 Expressions

Chapter 4 Expressions 4.11 类型转换 4.11.2 其他隐式类型转换 数组转换成指针&#xff1a; 在大多数用到数组的表达式中&#xff0c;数组自动转换成指向数组首元素的指针&#xff1a; int ia[10]; int* ipa;♜ 当数组被用作decltype关键字的参数&#xff0c;或者作为取地…...

编程日记 2024/6/6 10:42:21

[leetcode hot 150]第一百三十七题，只出现一次的数字Ⅱ

题目&#xff1a; 给你一个整数数组 nums &#xff0c;除某个元素仅出现 一次 外&#xff0c;其余每个元素都恰出现 三次 。请你找出并返回那个只出现了一次的元素。 你必须设计并实现线性时间复杂度的算法且使用常数级空间来解决此问题。 由于需要常数级空间和线性时间复杂度…...

编程日记 2024/6/6 10:41:19

wpf工程中加入Hardcodet.NotifyIcon.Wpf生成托盘

1、在项目中用nuget引入Hardcodet.NotifyIcon.Wpf。如下图所示。 2、在App.xaml中创建托盘界面&#xff0c;代码是写在 App.xaml 里面 注意在application中一定要加入这一行代码&#xff1a; xmlns:tb"http://www.hardcodet.net/taskbar" 然后在<Application.R…...

编程日记 2024/6/6 10:39:16

keil下载及安装(社区版本)

知不足而奋进 望远山而前行 目录 文章目录 前言 Keil有官方版本和社区版本&#xff0c;此文章为社区版本安装&#xff0c;仅供参考。 1.keil MDK 2.keil社区版介绍 3.keil下载 (1)打开进入登录界面 (2)点击下载,跳转到信息页面 (3)填写个人信息,点击提交 (4)点击下载…...

编程日记 2024/6/6 10:38:15

python书上的动物是啥

Python的创始人为Guido van Rossum。1989年圣诞节期间&#xff0c;在阿姆斯特丹&#xff0c;Guido为了打发圣诞节的无趣&#xff0c;决心开发一个新的脚本解释程序&#xff0c;做为ABC语言的一种继承。之所以选中Python作为程序的名字&#xff0c;是因为他是一个叫Monty Python…...

编程日记 2024/6/6 10:35:11

数据库管理-第198期 升级Oracle ACE Pro，新赛季继续努力（20240605）

数据库管理198期 2024-06-05 数据库管理-第198期 升级ACE Pro&#xff0c;新赛季继续努力&#xff08;20240605&#xff09;1 惊喜2 变化3 Oracle ACE总结 数据库管理-第198期 升级ACE Pro&#xff0c;新赛季继续努力&#xff08;20240605&#xff09; 作者&#xff1a;胖头鱼的…...

编程日记 2024/6/6 10:34:08

华为坤灵交换机S300, S500, S210,S220, S200, S310 如何WEB抓包

通过S系列交换机配置端口镜像实现抓包 1、应用场景 端口镜像是指将经过指定端口(源端口或者镜像端口)的报文复制一份到另一个指定端口(目的端口或者观察端口)。 在网络运营与维护的过程中&#xff0c;为了便于业务监测和故障定位&#xff0c;网络管理员时常要获取设备上的业务…...

编程日记 2024/6/6 10:33:07

【亚马逊云科技 CSDN 联合巨献】 「对话AI 构建者：从基础到应用的 LLM 全景培训」 限时免费！

&#x1f680;&#x1f31f;【亚马逊云科技 & CSDN 联合巨献】 &#x1f4da;「对话AI 构建者&#xff1a;从基础到应用的 LLM 全景培训」&#x1f525; 限时免费&#xff01; &#x1f4c6; 抓紧时间&#xff01;6月7日前注册&#xff0c;原价 399&#xff0c;现在仅需 0…...

编程日记 2024/6/6 10:30:59

【AI大模型】Function Calling

目录 什么是Function Calling 示例 1&#xff1a;调用本地函数 Function Calling 的注意事项 支持 Function Calling 的国产大模型 百度文心大模型 MiniMax ChatGLM3-6B 讯飞星火 3.0 通义千问 几条经验总结 什么是Function Calling Function Calling 是一种函数调用机…...

编程日记 2024/6/6 10:24:53

零钱兑换 - LeetCode 热题 85

大家好&#xff01;我是曾续缘&#x1f92a; 今天是《LeetCode 热题 100》系列 发车第 85 天 动态规划第 5 题 ❤️点赞 &#x1f44d; 收藏 ⭐再看&#xff0c;养成习惯 零钱兑换 给你一个整数数组 coins &#xff0c;表示不同面额的硬币&#xff1b;以及一个整数 amount &…...

编程日记 2024/6/6 10:22:50

基于web的垃圾分类回收系统的设计

管理员账户功能包括&#xff1a;系统首页&#xff0c;个人中心&#xff0c;管理员管理&#xff0c;用户管理&#xff0c;公告管理&#xff0c;运输管理&#xff0c;基础数据管理 用户账户功能包括&#xff1a;系统首页&#xff0c;个人中心&#xff0c;运输管理&#xff0c;公告…...

编程日记 2024/6/6 10:21:49

优化你的WordPress网站：内链建设与Link Whisper Pro插件的利用

文章目录 内链的重要性WordPress SEO插件&#xff1a;Link Whisper Pro主要功能使用指南下载与安装 结语 在数字营销和网站管理领域&#xff0c;SEO内部优化是提升网站排名、增加流量和提高用户参与度的核心策略。在众多SEO技巧中&#xff0c;内链建设是构建良好网站结构和提升…...

编程日记 2024/6/6 10:18:46

spring中那些地方使用了反射

1、依赖注入&#xff08;Dependency Injection&#xff09; Spring Boot通过反射机制将bean注入到相应的属性或构造函数中。当我们在Spring Boot中使用如Autowired这样的注解时&#xff0c;Spring容器会利用反射机制找到相应的bean并注入到对应的属性或构造函数中。 2、Bean的…...

编程日记 2024/6/6 10:16:44

1 机器人软件开发学习所需通用技术栈（一）

机器人软件工程师技术路线&#xff08;如有缺失&#xff0c;欢迎补充&#xff09; 1. 机器人软件开发工程师技术路线 1.1 基础知识 C/C编程&#xff1a;掌握C/C语言基础&#xff0c;包括数据结构、算法、内存管理等。操作系统&#xff1a;了解Linux或Windows等操作系统的基本…...

编程日记 2024/6/6 10:13:41

Java（十二）——Comparable接口与Comparator接口

文章目录 Comparable与Comparator接口Comparable接口Comparator接口 Comparable与Comparator接口 我们可能会遇到这样的问题&#xff1a;怎么对一个对象数组进行排序&#xff1f; 比如对一个狗类对象数组进行排序&#xff0c;而想到这&#xff0c;我们又会有一个问题&#xff…...

编程日记 2024/6/6 10:12:40