# -*- coding:utf-8 -*-# author: kevin# CreateTime: 2018/8/16# software-version: python 3.7 import timefrom selenium import webdriverfrom selenium.webdriver import Firefoximport os class GetCompanyInfo(object): """ 爬取天眼查下的企业的信息 ""&

几个月前...省略一堆剧情...直接请求json文件爬取企业信息未成功,在知乎提问后,得到解决,有大佬说带上全部headers和cookie是可以的,我就又去试了下,果然可以(之前自己试的时候不行,没搞清楚为什么突然可以了...).但是即使sleep几秒后,爬虫还是会死掉,会浏览器再次访问,会发现需要验证才可以继续浏览.咨询了一些大佬,又查了查资料,看来是要用代理了,没有深入去研究.听说天眼查本事就是搞爬虫的...这里就贴下未解决验证码的半成品吧,代码写的很烂,也没有清洗数据,凑活着看看吧先.

刚开始学习Python,不愿意看基础,记忆不好,那些语法记不住,直接上个项目,这样比较深刻 刚好公司有个情况要查企业的信息,就想做个爬虫吧,有验证码的不愿意搞,那是个老大难问题,就选择了天眼查 过程都略了,直接写个结果吧,总结出来的步骤如下: 一.天眼查最大的障碍在于字体问题,这个网上都有介绍,大概意思就是说,在网页显示出来的某些字符,是天眼查自己的字体文件处理的. 比如汉字 坐  的utf-8的编码是 b'\\u5750'  ,但在天眼查的字体文件里,这个编码对应的汉字是  万 . 这样在页面

通过账号登录获取cookies,模拟登录(前提有天眼查账号),会员账号可查看5000家,普通只是100家,同时也要设置一定的反爬措施以防账号被封.拿有权限的账号去获取cookies,去访问页面信息,不过这样呢感觉还是不合适,因为之前也采集过都是避开登录和验证码的问题,因为这些数据只是人家网站让不让你拿,该怎样去拿的问题.这里只是简单地做一下测试,实际采集会遇到各种问题的,这里只是个解题思路仅供参考.不然会被检测如图: # coding:utf-8 import requests from lxm

原始出处:https://www.cnblogs.com/Charltsing/p/XPath2Doc.html 很多人需要从网站采集一些数据填写Word模板,手工操作费时费力还容易出错,所以我给朋友写了这个工具.本程序只支持Docx格式的模板文件.本程序不是爬虫,不是自动采集工具,不能自动登录网站.需要自己在WebBrowser窗口里面手工登录,并找到需要的数据页面,然后点击程序按钮进行采集,所以是个半自动的网页数据填充Docx工具. 工作原理:网页的每个元素,都可以表示成为XPath语句,所

需要注意的问题: 一.1.微信端访问企查查小程序需要登录.2.访问抓包获取的url是有时效性的过一段时间就不能用了. http://xcx.qichacha.com/wxa/v1/base/getEntDetail?unique=e434b35dd6c22f0d8ba51da8e2572923&token=5bd4f2f035570fd93a45528222883421url 主要是由两个主要参数拼接而成的 :unique 和 token url 就是下面获取的KeyNo唯一索引token 应该

python爬虫之User-Agent用户信息 爬虫是自动的爬取网站信息,实质上我们也只是一段代码,并不是真正的浏览器用户,加上User-Agent(用户代理,简称UA)信息,只是让我们伪装成一个浏览器用户去访问网站,然而一个用户频繁的访问一个网站很容易被察觉,既然我们可以伪装成浏览器,那么也同样可以通过UA信息来变换我们的身份. 整理部分UA信息 OperaMozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like G

天眼查sign 算法破解 最近真的在sign算法破解上一去不复返 前几天看过了企查查的sign破解 今天再看看天眼查的sign算法破解,说的好(zhuang)点(bi)就是破解,不好的就是这是很简单的东西啊,只需要找key就可以了,话不多说,看破解之路. 这个不是天眼查的appsign,app没用到sign,用的Authorization,所以啊,要去研究Authorization,下次有时间继续看Authorization,也说不定用到了,继续继续. 今天看天眼查的应用登录,就发挥出天才脑子,

Node.js 爬虫爬取电影信息 我的CSDN地址:https://blog.csdn.net/weixin_45580251/article/details/107669713 爬取的是1905电影网的信息,使用的是正则匹配. 本来为了更好地学习异步编程打好基础,没想到这玩意这么上头. 代码也写了好几天,自己技术不到家,肯定有写的不好的地方,还需要多努力. 下个月争取把vue学完,九月估计该开学了. 代码在最下面 const request=require('request'); const

这里是完整的工商信息采集代码,不过此程序需要配合代理ip软件使用.问题:1.网站对ip之前没做限制,但是采集了一段时间就被检测到设置了反爬,每个ip只能访问十多次左右就被限制访问.2.网站对请求头的检测识别解决:1.配合代理ip软件(风讯代理)设置自动切换ip时间,执行爬虫程序.2.中间件设置随机user-agent 采集结果:正常采集速度一天大概采集1万条数据左右.问题:切换ip会造成程序断网一些字段遗漏解决(设置的有唯一索引避免重复采集,多次执行爬虫)company_info.py # -*

inform_table.py # -*-coding:utf8-*- from selenium import webdriver from selenium.webdriver.common.proxy import Proxy from selenium.webdriver.common.proxy import ProxyType import time from bs4 import BeautifulSoup class InformTable: def __init__(self)

注意点: 1. 用Fiddler抓取登陆后的headers,cookies; 2. 每抓取一次网页暂停一点时间防止反爬虫; 3. 抓取前,需要关闭Fiddler以防止端口占用. 还需解决的问题: 爬取记录较多时,会触发反爬虫机制. 用Fiddler抓取登陆后的headers,cookies 也可使用火狐F12查看 #-*- coding: utf-8 -*- import sys import time import urllib import bs4 import re import rand

在爬虫时,一般需要伪装Agent信息,放在header中 1.header不是必传参数,在需要的时候进行伪装 2.header = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.390" "4.87 Safari/537.36"}

Win10专业版激活永久步骤 ------在安装Win10专业版后,使用激活工具将系统激活到180天 这里附带在下屡试不爽的激活工具--百度云盘-- 链接:http://pan.baidu.com/s/1gfBOQht 密码:wwi3 ------我们可以查看系统的激活状态,按下win+R呼出运行,在窗口中输入:slmgr.vbs -xpr,点击确定,从弹出的窗口查看激活信息------ 1.右键单机windows按钮,选择"命令提示符(管理员)",左键单击打开 2.在窗口中输入命令:

警告:不要恶意的访问网站,仅供学习使用! 本教程实例只抓取信息系统集成及服务资质网的企业资质查询. 1. 抓包 打开谷歌浏览器的开发者工具并访问该网站,过滤请求后找到请求数据的包. 1.1 找到相应封包 1.2 分析(解析)参数a 参数a的值先base64解密,在进行2次url解密得到如下结果: ["{\"parameters\":[{\"name\":\"type\",\"value\":1,\"flag

#导入需要用到的模块 import requests import pymysql import time from bs4 import BeautifulSoup import tkinter as tk import xlwt import importlib,sys importlib.reload(sys) from PIL import Image,ImageTk #背景图片 def resize( w_box, h_box, pil_image): """调整图

查看远程服务器上的包的版本信息 npm view webpack version //查看npm服务器上包webpack的最新版本 npm view webpack versions //查看服务器上包webpack的所有的版本信息 npm info webpack //和npm view webpack version命令类似但是信息更全 查看本地安装的包的版本信息 npm ls webpack //查看某个目录下的包pkg的版本信息------注意该命令一定要在某个项目下执行 npm ls

一.首先需要导入我们的库函数 导语:通过看网上直播学习得到,如有雷同纯属巧合. import requests#请求网页链接import pandas as pd#建立数据模型from bs4 import BeautifulSoupimport ioimport sys#防止乱码sys.stdout=io.TextIOWrapper(sys.stdout.buffer,encoding='gb18030') 注:如有库安装不了,可参考上一篇随笔. 二.源代码: 1 import request

根据域名查询注册人信息 举个例子.随便找一个网站 iappp.cn 通过whois查询,得到以下信息 我们可以得知这个域名的注册商(腾讯云),以及注册人真实姓名(也有可能是假的),还有注册人邮箱等等一系列信息 还可以通过邮箱以及真实姓名查询到旗下的注册的其他域名 通过邮箱获取注册人手机号 以前的qq找回密码能暴露出手机号的前三和后2 现在好像是不行了.当然可以去淘宝或者微博等网站试一下是否注册后 如果注册过就尝试找回密码 获取真实号码 得到了号码的前三和后2了后 再通过手机号码生成器 生成大约几

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"><html xmlns="http://www.w3.org/1999/xhtml"><head> <title>jQuery 动态增删表格</title