Python爬虫:爬取自己博客的主页的标题,链接,和发布时间
##代码
# -*- coding: utf-8 -*-
"""
-------------------------------------------------
File Name: getCnblogs
Description :
Author : 神秘藏宝室
date: 2017-09-21
-------------------------------------------------
Change Activity:
2017-09-21:
-------------------------------------------------
"""
import requests
from bs4 import BeautifulSoup
res = requests.get('http://www.cnblogs.com/Mysterious/')
res.encoding = ('utf-8')
soup = BeautifulSoup(res.text,'html.parser')
def getBlogWriteTime(url):
res = requests.get(url)
res.encoding = ('utf-8')
soup = BeautifulSoup(res.text,'html.parser')
return soup.select('#post-date')[0].text
#获取标题和链接
num = 1
for pt in soup.select('.postTitle2'):
print num,'\t',pt.text,'\t',pt['href'],'\t',getBlogWriteTime(pt['href'])
num = num + 1
##结果
1 Python爬虫:获取新浪网新闻 http://www.cnblogs.com/Mysterious/p/7538833.html 2017-09-18 00:10
2 运行jupyter notebook 出错 Error executing Jupyter command 'notebook' http://www.cnblogs.com/Mysterious/p/7538169.html 2017-09-17 22:10
3 安装和使用jupyter http://www.cnblogs.com/Mysterious/p/7533607.html 2017-09-17 00:25
4 windows下python调用c文件流程 http://www.cnblogs.com/Mysterious/p/7529228.html 2017-09-16 00:01
5 python Unable to find vcvarsall.bat 错误 http://www.cnblogs.com/Mysterious/p/7529142.html 2017-09-15 23:30
6 阿里云公网IP不能使用 http://www.cnblogs.com/Mysterious/p/7523618.html 2017-09-14 22:36
7 Python2 socket TCPServer 多线程并发 超时关闭 http://www.cnblogs.com/Mysterious/p/7523559.html 2017-09-14 22:27
8 Python2 socket 多线程并发 ThreadingTCPServer Demo http://www.cnblogs.com/Mysterious/p/7507314.html 2017-09-11 21:50
9 Python2 socket 多线程并发 TCPServer Demo http://www.cnblogs.com/Mysterious/p/7507221.html 2017-09-11 21:28
10 Python socket TCPServer Demo http://www.cnblogs.com/Mysterious/p/7507042.html 2017-09-11 20:59
Python爬虫:爬取自己博客的主页的标题,链接,和发布时间的更多相关文章
- python 爬虫 爬取序列博客文章列表
python中写个爬虫真是太简单了 import urllib.request from pyquery import PyQuery as PQ # 根据URL获取内容并解码为UTF-8 def g ...
- Python爬虫抓取csdn博客
昨天晚上为了下载保存某位csdn大牛的所有博文,写了一个爬虫来自己主动抓取文章并保存到txt文本,当然也能够 保存到html网页中. 这样就能够不用Ctrl+C 和Ctrl+V了,很方便.抓取别的站点 ...
- windows下使用python的scrapy爬虫框架,爬取个人博客文章内容信息
scrapy作为流行的python爬虫框架,简单易用,这里简单介绍如何使用该爬虫框架爬取个人博客信息.关于python的安装和scrapy的安装配置请读者自行查阅相关资料,或者也可以关注我后续的内容. ...
- Python爬虫爬取一篇韩寒新浪博客
网上看到大神对Python爬虫爬到非常多实用的信息,认为非常厉害.突然对想学Python爬虫,尽管自己没学过Python.但在网上找了一些资料看了一下,看到爬取韩寒新浪博客的视频.共三集,第一节讲爬取 ...
- python爬虫爬取内容中,-xa0,-u3000的含义
python爬虫爬取内容中,-xa0,-u3000的含义 - CSDN博客 https://blog.csdn.net/aiwuzhi12/article/details/54866310
- python爬虫—爬取英文名以及正则表达式的介绍
python爬虫—爬取英文名以及正则表达式的介绍 爬取英文名: 一. 爬虫模块详细设计 (1)整体思路 对于本次爬取英文名数据的爬虫实现,我的思路是先将A-Z所有英文名的连接爬取出来,保存在一个cs ...
- Python爬虫简单实现CSDN博客文章标题列表
Python爬虫简单实现CSDN博客文章标题列表 操作步骤: 分析接口,怎么获取数据? 模拟接口,尝试提取数据 封装接口函数,实现函数调用. 1.分析接口 打开Chrome浏览器,开启开发者工具(F1 ...
- 用Python爬虫爬取广州大学教务系统的成绩(内网访问)
用Python爬虫爬取广州大学教务系统的成绩(内网访问) 在进行爬取前,首先要了解: 1.什么是CSS选择器? 每一条css样式定义由两部分组成,形式如下: [code] 选择器{样式} [/code ...
- Python爬虫 - 爬取百度html代码前200行
Python爬虫 - 爬取百度html代码前200行 - 改进版, 增加了对字符串的.strip()处理 源代码如下: # 改进版, 增加了 .strip()方法的使用 # coding=utf-8 ...
随机推荐
- Atitit.cateService分类管理新特性与设计文档说明v1
Atitit.cateService分类管理新特性与设计文档说明v1 1. V2 新特性规划1 2. 分类管理1 3. 分类增加与修改维护2 4. Js控件分类数据绑定2 1. V2 新特性规划 增加 ...
- Linux操作系统下/etc/hosts文件配置方法
1.关于/etc/host,主机名和IP配置文件 Hosts - The static table lookup for host name(主机名查询静态表) hosts文件是Linux系统中一个负 ...
- 解决双系统开机no such device:
问题描述: 我的电脑本来是Ubuntu+win7双系统,自己前天想换成win64位,于是就安装系统,结果装好了之后开机进入grub选择win7之后,屏幕显示 no such device: press ...
- android学习十四(android的接收短信)
收发短信是每一个手机主要的操作,android手机当然也能够接收短信了. android系统提供了一系列的API,使得我们能够在自己的应用程序里接收和发送短信. 事实上接收短信主要是利用我们前面学过的 ...
- scala 学习(三)——Array和ArrayBuffer
ArrayBuffer:类型化数组 首先需要注意的是Array是定长数组,而ArrayBuffer是可变数组.下面是一个小例子,对数据进行便利和修改的操作.
- 微信蓝牙ble记录
参加了一个简单的微信蓝牙ble项目,做一些记录 首先按网站上面的各种配置 简单的说就是,软件上面,生成deviceid->绑定设备和deviceid. 几点注意: 1>deviceid是唯 ...
- Trailing Zeroes (III) 假设n!后面有x个0.现在要求的是,给定x,要求最小的n; 判断一个n!后面有多少个0,通过n/5+n/25+n/125+...
/** 题目:Trailing Zeroes (III) 链接:https://vjudge.net/contest/154246#problem/N 题意:假设n!后面有x个0.现在要求的是,给定x ...
- https原理与实践
HTTPS 原理与证书实践 分类: Web应用 1.1 网络安全知识 1.1.1 网结安全出现背景 网络就是实现不同主机之间的通讯,网络出现之初利用TCP/IP协议簇的相关协议概念,已经满足了 ...
- JVM架构和GC垃圾回收机制详解
JVM架构图分析 下图:参考网络+书籍,如有侵权请见谅 (想了解Hadoop内存溢出请看:Hadoop内存溢出(OOM)分类.参数调优化) JVM被分为三个主要的子系统 (1)类加载器子系统(2)运行 ...
- NDK 安装小结
建议先看后面的错误,可以先执行那些命令以免出现相关问题. chmod a+x android-ndk-r10c-linux-x86_64.bin ./android-ndk-r10c-linux-x8 ...