孤荷凌寒自学python第六十九天学习并实践beautifulsoup对象用法2
孤荷凌寒自学python第六十九天学习并实践beautifulsoup对象用法2
(完整学习过程屏幕记录视频地址在文末)
今天继续学习beautifulsoup对象的属性与方法等内容。
一、今天进一步了解到的BeautifulSoup模块中的一些用法小结:
1.
Html标签对象.parent
#返回直接上一级父级对象整体
2.
Html标签对象.parents
#parents返回从a对象的直接父级对象开始的各个逐个上升的父级直到<html></html>级为止的宗谱链,是一个生成器
3.
Html标签对象.next_sibling
#获取当前Html标签对象的下一个平级兄弟对象本身
4.
Html标签对象.previous_sibling
#获取当前Html标签对象的上一个平级兄弟对象本身
5.
Html标签对象.next_siblings
#next_siblings返回和当前Html标签对象平级的在此之后的所有Html标签对象的一个生成器
6.
Html标签对象.previous_siblings
#previous_siblings返回和当前Html标签对象平级的在此之前的所有Html标签对象的一个生成器
7.应用可能最多的方法是搜索Html文档树中的符合指定特征的Html标签对象
(1)搜索指定的tag标签
1)
BeautifulSoup对象.find_all('html标签tag')
html标签tag如:a div p span ……
#执行此方法后返回的是一个bs4.element.ResultSet集合对象,此对象可以理解为列表(list),但此集合中的每一个子元素对象,都可以再次执行.find_all方法,就类似于是BeautifulSoup对象的片断对象一般。
2)搜索tag标签时,还可以指定第二个参数,指明此Html标签对象的一些属性值的特征
BeautifulSoup对象.find_all(' html标签tag',attrs={要筛选的一些属性字段及值组成的字典对象})
#第二个参数传入一个字典,即要筛选的Html标签对象的属性条件,因为BeautifulSoup对象将任何一个Html标签对象的属性都存储在内置的一个字典对象中
三、我的测试代码:
```
import requests
from bs4 import BeautifulSoup
import _mty
strHtml='''
<html><head><title>孤荷凌寒的测试网页qq:578652607</title>
<style>
.title{
font-size:20px;
}
.story{
font-size:12px;
}
#divfirst{
font-size:30px;
}
</style>
</head>
<body>
现在网页的BODY部分开始:
<div id="divfirst" class="story">
现在第一个p标签马上开始:
<p id="firstptag" class="title"><b>这是在第一个P标签中的TEXT</b></p>
<p class="story">现在分享一些网站链接:
</br>
<a href="http://www.baidu.com/" class="sister"
id="link1">1.百度链接</a>,
<a href="http://www.taobao.com/" class="sister"
id="link2">2.淘宝链接</a> and
<a href="3.http://www.jianshu.com/" class="sister"
id="link3">3。简书链接</a>;
</br>
所有链接分享完了</p>
现在第一个P标签已结束。
</div>
接下来第二个DIV开始
<div id="divsecond" class="title">
<p class="story">
<a href="http://www.lhghroom.cn/" id="a_ghlh"><span id="spanone">4.孤荷凌寒的小站</span></a>
</p>
</div>
现在body部分结束了
</body>
</html>
'''
def msgbox(info,titletext='孤荷凌寒的DB模块对话框QQ578652607',style=0,isShowErrMsg=False):
return _mty.msgboxGhlh(info,titletext,style,isShowErrMsg)
def myfirst(s,h):
#r=requests.get(s,headers=h)
#print(r.text) #r.text得到的是页面源html代码
bs=BeautifulSoup(strHtml,features="lxml") #第二个参数指明了解析器,得到的是一个beautifulsoup对象
#-----测试用法
#strnew=bs.prettify() #对html源代码 进行了美化。
#print(strnew)
#-------访问html文档中第一个指定tag标识的html标签元素的方法-----------
#print(bs.p) #这种方法将返回html文档中的第一个p标签本身这个对象,不是文本,但Print之后会显示为如:【<p class="title" id="firstptag"><b>这是在第一个P标签中的TEXT</b></p>】
#print(bs.p) #重复执行,也只是返回html文档 中的第一个P标签
#msgbox(str(bs.a)) #bs.a 返回的是一个对象,而不是文本字符串
a=bs.a #得到了Html文档中的第一个a标签本身这个对象
#-----获取Html标签元素对象的属性,及相关对象--------------
#---以字典的方式 存放着Html标签元素对象的属性----
#msgbox(a['href']) #a的Html标签元素对象的 链接地址 这个属性
#msgbox(a.get('href'))
#----标签的内嵌内容(innertext)存放在Html标签元素对象的string属性中
#msgbox(a.string)
#---获取一个Html标签元素对象下的所有子对象集-------------------------------------------
#elements=bs.body.contents #返回的是列表,列表中的元素,包括了此Html标签元素对象下的直属一级子对象。
#print(elements)
#elements=bs.div.children #返回的是一个迭代器对象,其中的内容与上一个属性获取 的一致
#print(list(elements))
#----获取父对象--------------
#print(a.parent) #返回直接上一级父级对象整体
#g=a.parents #parents返回从a对象的直接父级对象开始的各个逐个上升的父级直到<html></html>级为止的宗谱链,是一个生成器
#for i in g:
# msgbox(str(i))
#-----获取平级兄弟对象-----------------
#m=a.next_sibling #获取当前Html标签对象的下一个平级兄弟对象本身
#m=m.previous_sibling #获取当前Html标签对象的上一个平级兄弟对象本身
#msgbox(str(m))
#------
#g=a.next_siblings #next_siblings返回和当前Html标签对象平级的在此之后的所有Html标签对象的一个生成器
#msgbox(str(type(g)))
#for i in g:
# msgbox(str(i))
#m=a.next_sibling.next.next_sibling.next_sibling.next_sibling
#g=m.previous_siblings #previous_siblings返回和当前Html标签对象平级的在此之前的所有Html标签对象的一个生成器
#for i in g:
# msgbox(str(i))
#---搜索Html文档树中的符合指定特征的Html标签对象---------------
#===============================================
#------搜索tag标签------------------
#alla=bs.find_all('a') #返回的是一个bs4.element.ResultSet集合对象,此对象可以理解 为LIST,但集合中的每一个子元素对象,都可以再次执行.find_all方法,就类似于是BeautifulSoup对象的片断对象一般。
#print(type(alla))
#msgbox(str(type(alla)))
#for i in alla:
# msgbox(str(i))
#--------搜索tag标签时,还可以指定第二个参数,指明此Html标签对象的一些属性值的特征----
alla=bs.find_all('a',attrs={'id':'a_ghlh'}) #第二个参数传入一个字典,即要筛选的Html标签对象的属性条件,因为bs对象将任何一个Html标签对象的属性都存储在内置的一个字典对象中
for i in alla:
msgbox(str(i))
strurl='http://www.dianping.com/'
header={
'Host':'www.dianping.com',
'User-Agent':'Mozilla/5.0
(Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko)
Chrome/68.0.3440.106 Safari/537.36'
}
myfirst(strurl,header)
```
——————————
今天整理的学习笔记完成,最后例行说明下我的自学思路:
根据过去多年我自学各种编程语言的经历,认为只有真正体验式,解决实际问题式的学习才会有真正的效果,即让学习实际发生。在2004年的时候我开始在一个乡村小学自学电脑 并学习vb6编程语言,没有学习同伴,也没有高师在上,甚至电脑都是孤岛(乡村那时还没有网络),有的只是一本旧书,在痛苦的自学摸索中,我找到适应自己零基础的学习方法:首先是每读书的一小节就作相应的手写笔记,第二步就是上机测试每一个笔记内容是否实现,其中会发现书中讲的其实有出入或错误,第三步就是在上机测试之后,将笔记改为电子版,形成最终的修订好的正确无误的学习笔记
。
通过反复尝试错误,在那个没有分享与交流的黑暗时期我摸黑学会了VB6,尔后接触了其它语言,也曾听过付费视频课程,结果发现也许自己学历果然太低,就算是零基础的入门课程,其实也难以跟上进度,讲师的教学多数出现对初学者的实际情况并不了解的情况,况且学习者的个体也存在差异呢?当然更可怕的是收费课程的价格往往是自己难以承受的。
于是我的所有编程学习都改为了自学,继续自己的三步学习笔记法的学习之路。
当然自学的最大问题是会走那么多的弯路,没有导师直接输入式的教学来得直接,好在网络给我们带来无限搜索的机会,大家在网络上的学习日志带给我们共享交流的机会,而QQ群等交流平台、网络社区的成立,我们可以一起自学,互相批评交流,也可以获得更有效,更自主的自学成果。
于是我以人生已过半的年龄,决定继续我的编程自学之路,开始学习python,只希望与大家共同交流,一个人的独行是可怕的,只有一群人的共同前进才是有希望的。
诚挚期待您的交流分享批评指点!欢迎联系我加入从零开始的自学联盟。
这个时代互联网成为了一种基础设施的存在,于是本来在孤独学习之路上的我们变得不再孤独,因为网络就是一个新的客厅,我们时刻都可以进行沙龙活动。
非常乐意能与大家一起交流自己自学心得和发现,更希望大家能够对我学习过程中的错误给予指点——是的,这样我就能有许多免费的高师了——这也是分享时代,社区时代带来的好福利,我相信大家会的,是吧!
根据完全共享的精神,开源互助的理念,我的个人自学录制过程是全部按4K高清视频录制的,从手写笔记到验证手写笔记的上机操作过程全程录制,但因为4K高清文件太大均超过5G以上,所以无法上传至网络,如有需要可联系我QQ578652607对传,乐意分享。上传分享到百度网盘的只是压缩后的720P的视频。
我的学习过程录像百度盘地址分享如下:(清晰度:1280x720)
链接:https://pan.baidu.com/s/1kFPBDZH6pscVFbM6SkPnnQ
提取码:b6mr
Bilibili:
https://www.bilibili.com/video/av40434837/
喜马拉雅语音笔记:
https://www.ximalaya.com/keji/19103006/152838374
孤荷凌寒自学python第六十九天学习并实践beautifulsoup对象用法2的更多相关文章
- 孤荷凌寒自学python第七十天学习并实践beautifulsoup对象用法3
孤荷凌寒自学python第七十天学习并实践beautifulsoup对象用法3 (完整学习过程屏幕记录视频地址在文末) 今天继续学习beautifulsoup对象的属性与方法等内容. 一.今天进一步了 ...
- 孤荷凌寒自学python第六十六天学习mongoDB的基本操作并进行简单封装5
孤荷凌寒自学python第六十六天学习mongoDB的基本操作并进行简单封装5并学习权限设置 (完整学习过程屏幕记录视频地址在文末) 今天是学习mongoDB数据库的第十二天. 今天继续学习mongo ...
- 孤荷凌寒自学python第六十五天学习mongoDB的基本操作并进行简单封装4
孤荷凌寒自学python第六十五天学习mongoDB的基本操作并进行简单封装4 (完整学习过程屏幕记录视频地址在文末) 今天是学习mongoDB数据库的第十一天. 今天继续学习mongoDB的简单操作 ...
- 孤荷凌寒自学python第六十四天学习mongoDB的基本操作并进行简单封装3
孤荷凌寒自学python第六十四天学习mongoDB的基本操作并进行简单封装3 (完整学习过程屏幕记录视频地址在文末) 今天是学习mongoDB数据库的第十天. 今天继续学习mongoDB的简单操作, ...
- 孤荷凌寒自学python第六十三天学习mongoDB的基本操作并进行简单封装2
孤荷凌寒自学python第六十三天学习mongoDB的基本操作并进行简单封装2 (完整学习过程屏幕记录视频地址在文末) 今天是学习mongoDB数据库的第九天. 今天继续学习mongoDB的简单操作, ...
- 孤荷凌寒自学python第六十天在windows10上搭建本地Mongodb数据服务
孤荷凌寒自学python第六十天在windows10上找搭建本地Mongodb数据服务 (完整学习过程屏幕记录视频地址在文末) 今天是学习mongoDB数据库的第六天.成功在本地搭建了windows ...
- 孤荷凌寒自学python第四十九天继续研究跨不同类型数据库的通用数据表操作函数
孤荷凌寒自学python第四十九天继续研究跨不同类型数据库的通用数据表操作函数 (完整学习过程屏幕记录视频地址在文末,手写笔记在文末) 今天继续建构自感觉用起来顺手些的自定义模块和类的代码. 不同类型 ...
- 孤荷凌寒自学python第三十九天python 的线程锁Lock
孤荷凌寒自学python第三十九天python的线程锁Lock (完整学习过程屏幕记录视频地址在文末,手写笔记在文末) 当多个线程同时操作一个文件等需要同时操作某一对象的情况发生时,很有可能发生冲突, ...
- 孤荷凌寒自学python第七十九天开始写Python的第一个爬虫9并使用pydocx模块将结果写入word文档
孤荷凌寒自学python第七十九天开始写Python的第一个爬虫9 (完整学习过程屏幕记录视频地址在文末) 今天在上一天的基础上继续完成对我的第一个代码程序的书写. 到今天终于完成了对docx模块针对 ...
随机推荐
- svn cleanup failed–previous operation has not finished; run cleanup if it was interrupted
svn提交遇到恶心的问题,可能是因为上次cleanup中断后,进入死循环了. 错误如下: 解决方法:清空svn的队列 1.下载sqlite3.exe 2.找到你项目的.svn文件,查看是否存在wc.d ...
- py faster rcnn的lib编译出错问题
真是好事多磨啊,计算机系统依然是14.04,而cuda依然是8.0,唯一不同的是时间不一样,下载的各种库版本有差别,GPU的driver不一样. 但是这样就出问题了,py-faster rcnn的li ...
- 史上最简单的SpringCloud教程 | 第三篇: 服务消费者(Feign)(Finchley版本)
转载请标明出处: 原文首发于:https://www.fangzhipeng.com/springcloud/2018/08/30/sc-f3-feign/ 本文出自方志朋的博客 上一篇文章,讲述了如 ...
- Struts2 第二讲 -- Struts2的入门
搭建struts2环境时,我们一般需要做以下几个步骤的工作: 第一步:创建javaweb工程(这个很废话有木有) 第二步:找到开发Struts2应用需要使用到的jar文件.(这个很白痴有没有) 到ht ...
- Swift_字典详解
Swift_字典详解 点击查看源码 初始化 fileprivate func testInit() { //空字典 var dic = [String:String]() print(dic) dic ...
- git 本地分支与远程仓库分支关联
当我们从远程仓库项目克隆到本地后,会自动创建本地master分支,并且与远程仓库主分支关联.如果我们需要在本地创建一个分支并且与远程仓库的origin/xxx分支关联,则可以通过以下命令实现 git ...
- Co. - Microsoft - Windows - 快捷键
[F1-F12]键 [Win]键 Windows键就是电脑键盘上是Windows图标的键,一般在Ctrl键和Alt键之间.搜索看整个键盘你会发现键盘上有两个Windows键,主要是左右手设计方便按各种 ...
- 针对 npm ERR! cb() never called! 问题
在开发项目安装依赖时(npm install) 往往会报 npm ERR! cb()never called!的错误 如图: 解决方法: 一.首先要以管理员模式打开cmd清除你的npm缓存 : np ...
- HTML自定义Checkbox框背景色
input[type=checkbox]{ margin-right:5px; width:13px; height:13px; }input[type=checkbox]:after { width ...
- javaScript函数封装
本篇封装了一些常用的函数,兼容IE8及以下的浏览器,怪异模式. 按需加载loadScript().绑定事件处理函数addEvet().查看滚动尺寸getScrollOffset().查看可视区窗口尺寸 ...