今天尝试使用pycharm+beautifulsoup进行爬虫测试。我理解的主要分成了自己写的HTML和百度上的网页两种吧。第一种，读自己写的网页（直接上代码）：

（主要参考博客：https://blog.csdn.net/Ka_Ka314/article/details/80999803）

from bs4 import BeautifulSoup

file = open('aa.html', 'rb')

html = file.read()

bs = BeautifulSoup(html,"html.parser")

# 缩进格式

print(bs.prettify())

# 获取title标签的所有内容

print(bs.title)

# 获取title标签的名称

print(bs.title.name)

# 获取title标签的文本内容

print(bs.title.string)

# 获取head标签的所有内容

print(bs.head)

# 获取第一个div标签中的所有内容

print(bs.div)

# 获取第一个div标签的id的值

print(bs.div["id"])

# 获取第一个a标签中的所有内容

print(bs.a)

# 获取所有的a标签中的所有内容

print(bs.find_all("a"))

# 获取id="u1"

print(bs.find(id="u1"))

# 获取所有的a标签，并遍历打印a标签中的href的值

for item in bs.find_all("a"):

    print(item.get("href"))

# 获取所有的a标签，并遍历打印a标签的文本值

for item in bs.find_all("a"):

    print(item.get_text())

　　HTML代码：

<!DOCTYPE html>

<!--STATUS OK-->

<html>

 <head>

  <meta content="text/html;charset=utf-8" http-equiv="content-type"/>

  <meta content="IE=Edge" http-equiv="X-UA-Compatible"/>

  <meta content="always" name="referrer"/>

  <link href="https://ss1.bdstatic.com/5eN1bjq8AAUYm2zgoY3K/r/www/cache/bdorz/baidu.min.css" rel="stylesheet" type="text/css"/>

  <title>

   百度一下，你就知道

  </title>

 </head>

 <body link="#0000cc">

  <div id="wrapper">

   <div id="head">

    <div class="head_wrapper">

     <div id="u1">

      <a class="mnav" href="http://news.baidu.com" name="tj_trnews">

       新闻

      </a>

      <a class="mnav" href="https://www.hao123.com" name="tj_trhao123">

       hao123

      </a>

      <a class="mnav" href="http://map.baidu.com" name="tj_trmap">

       地图

      </a>

      <a class="mnav" href="http://v.baidu.com" name="tj_trvideo">

       视频

      </a>

      <a class="mnav" href="http://tieba.baidu.com" name="tj_trtieba">

       贴吧

      </a>

      <a class="bri" href="//www.baidu.com/more/" name="tj_briicon" style="display: block;">

       更多产品

      </a>

     </div>

    </div>

   </div>

  </div>

 </body>

</html>

　　项目目录：

第二种是爬取在线网页内容，使用URL解析，这里我使用时出现了问题，就是URLopen。因为没有找到python27和python36区别，所以这里直接上结果（我用的python36）,下载urllib.request的包。网上个别教程直接使用urllib,这里我把urllib3、5进行了下载，会报一个错误，显示连接网页超时。下下载这个urllib没问题

pycharm初爬虫的更多相关文章

  1. 解决pycharm的爬虫乱码问题（初步了解各种编码格式）

    Ascii码(American Standard Code for Information Interchange,美国信息互换标准代码):最初计算机只在美国使用时,只用8位的字节来组合出256(2的 ...

  2. Python开发之---PyCharm初体验

    PyCharm 的初始设置(知道) 目标 恢复 PyCharm 的初始设置 第一次启动 PyCharm 新建一个 Python 项目 设置 PyCharm 的字体显示 PyCharm 的升级以及其他 ...

  3. 【Django】用pycharm初学习使用Django

    开发框架流程 M V C(99%的开发都是这种流程.) 1.URL控制器 2.Views 视图 3.models 库   1.首先创建一个Django   2.创建成功后里面几个模块的功能   用它来 ...

  4. 爬虫系列----scrapy爬取网页初始

    一 基本流程 创建工程,工程名称为(cmd):firstblood: scrapy startproject firstblood 进入工程目录中(cmd):cd :./firstblood 创建爬虫 ...

  5. scrapy框架修改单个爬虫的配置,包括下载延时，下载超时设置

    在一个框架里面有多个爬虫时,每个爬虫的需求不相同,例如,延时的时间,所以可以在这里配置一下custom_settings = {},大括号里面写需要修改的配置,然后就能把settings里面的配置给覆 ...

  6. Python Scrapy爬虫速成指南

    序 本文主要内容:以最短的时间写一个最简单的爬虫,可以抓取论坛的帖子标题和帖子内容. 本文受众:没写过爬虫的萌新. 入门 0.准备工作 需要准备的东西: Python.scrapy.一个IDE或者随便 ...

  7. python爬虫出现ProxyError: HTTPSConnectionPool错误

    在今天刚刚打开pycharm运行爬虫时,发现所有的爬虫都不能运行,会出现如下的错误: 错误出现的主要原因是;代理错误(其实自己根本没有设置代理) 解决方法: 在网上查阅了许多类似的错误解决方法,试过后 ...

  8. python爬虫1

    1 网页结构 html:超文本标记语言------->类似人的鼻子耳朵,长在那里,大体骨架就是那个样子 css:层叠样式表------->这个是外观的深化,比如贴个双眼皮,橙色眼睛... ...

  9. 附: Python爬虫 数据库保存数据

    原文 1.笔记 #-*- codeing = utf-8 -*- #@Time : 2020/7/15 22:49 #@Author : HUGBOY #@File : hello_sqlite3.p ...

随机推荐

  1. SQL Server 迁移数据库 （四）备份和还原

    1. 备份 2. 复制 3. 粘贴 4. 还原 截图软件出问题了,估计重启下就好,但是备份还原比较简单,懂的都懂,马上下班了就不贴图了.

  2. 第09组 Beta版本演示

    组长博客 本组(组名)所有成员 短学号 姓名 2236 王耀鑫(组长) 2210 陈超颖 2209 陈湘怡 2228 许培荣 2204 滕佳 2205 何佳琳 2237 沈梓耀 2233 陈志荣 22 ...

  3. leetcode 236. 二叉树的最近公共祖先LCA（后序遍历，回溯）

    LCA(Least Common Ancestors),即最近公共祖先,是指在有根树中,找出某两个结点u和v最近的公共祖先. 题目描述 给定一个二叉树, 找到该树中两个指定节点的最近公共祖先. 百度百 ...

  4. strpbrk(), strcasecmp(), strspn()

    Linux字符比较函数: strpbrk() strcasecmp() strspn() #if _MSC_VER #define strcasecmp _stricmp //strcasecmp 找 ...

  5. jquery改变表单某个输入框的值时,另一个或几个输入框的值同步变化,这里演示的是改变数量时价格同步变化

    效果如下,当我输入数量时,下面的价格同步变化 代码如下: 上图圈起来的事件是当input 框里面的值改变时触发的事件. 补图

  6. tf.clip_by_value

    tf.clip_by_value(t, clip_value_min, clip_value_max, name=None) 功能:基于定义的min与max对tesor数据进行截断操作,目的是为了应对 ...

  7. zabbix 自定义mysql监控

    一.配置zabbix-agent 编辑 /etc/zabbix/zabbix_agentd.conf文件  增加如下两个配置 1.vim /etc/zabbix/zabbix_agentd.conf ...

  8. 【题解】Ples [COCI2011]

    [题解]Ples [COCI2011] 依旧是没有传送门,只有提供了数据的官网. [题目描述] \(N\) 个汉子和 \(N\) 个妹纸一起参加舞会,跳舞时只能是一个汉子一个妹纸配对,现在给出每个人的 ...

  9. Delphi - DateTimePicker控件日期格式

    设置成显示年.月.日.时.分.秒 1:将DateTimePicker的Format属性中加入日期格式设成 'yyyy-MM-dd HH:mm:ss',注意日期里月份对应的MM是大写,时间里的分钟对应的 ...

  10. Python - 面向对象 - 第二十天

    Python 面向对象 Python从设计之初就已经是一门面向对象的语言,正因为如此,在Python中创建一个类和对象是很容易的.本章节我们将详细介绍Python的面向对象编程. 如果你以前没有接触过 ...