https://zhuanlan.zhihu.com/p/20701359

使用Excel+VBA对网页进行操作


http://club.excelhome.net/thread-1215914-1-1.html

自动用chrome打开网页并填入用户名


http://blog.csdn.net/lufy_legend/article/details/25191765

用程序来控制一个网页,实现自动输入等操作


https://www.zhihu.com/question/27677175

思路一般是这样:

1、找到数据源(网页)

2、分析源代码,找到你要的数据,看看它放在哪个标签里,从标签里取出来。vba我习惯用正则取。python的话beautifulsoup很不错。

3、特别要说下,对于URL的分析很关键,要分析出所需的数据是通过什么方式从服务器取得的,是GET还是POST提交到服务器的,服务器返回来的数据是直接放在网页源代码中还通过是json数据。

4、抓到后放到excel里。

推荐的学习网站是excleHome,里面大神多,但是建议自己最好带着问题去看,不然会有大海捞针的感觉。

有些网站采用js动态生成的数据,这个时候如果直接用xmlhttp去抓源代码的话,往往是抓不到的。这个时候思路一般就是采用模拟浏览器的访问,得到整个网页的内容,vba具体到实现上就是调用ie浏览器去访问网站,然后得到数据。但是这个其实挺无奈的,一来速度会比较慢,二来网页一直在加载那么程序就会一直循环等待,这个时候又要人工加上等待时间,以便跳出循环。


VBA与网抓

https://www.jianshu.com/p/059fbe8486f9


小白也抓网——分享网抓作品

http://club.excelhome.net/thread-1162676-1-1.html


不懂html也来学网抓(xmlhttp/winhttp+fiddler)

http://club.excelhome.net/thread-1159783-1-1.html


刚学网抓,试着抓了下EH论坛的帖子

http://club.excelhome.net/thread-1325003-1-1.html


【网抓】请教用正则表达式提取数据

http://www.excelpx.com/thread-332280-1-1.html


关于VBA和“网抓”的一些贴的更多相关文章

  1. Excel催化剂开源第41波-网抓网络采集类库及工具分享

    在VBA开发网抓程序中,会用到xmlhttp/winHttp.winHttprequest.5.1等组件,当时笔者也是这样进入了网抓领域的,这些都是非常过时的东西,在.Net的开发中,有大量的更好用的 ...

  2. 网抓(XML Http Request、VBA)实现

    第一种,先看VBA Public Function GetInfo(strMoblie As String) As String '创建对象 Dim xmlHttp As Object Set xml ...

  3. 强大!不懂html也来学网抓(xmlhttp/winhttp+fiddler)

    http://club.excelhome.net/thread-1159783-1-1.html 学习html强力推荐此网站:http://www.w3school.com.cn/ ,绝对权威 交流 ...

  4. 用WebRequest +HtmlAgilityPack 从外网抓取数据到本地

    相信大家对于WebRequest 并不陌生,我们在C#中发请求的方式,就是创建一个WebRequest .那么如果我们想发一个请求到外网,比如国内上不了的一些网站,那么该怎么做呢? 其实WebRequ ...

  5. 网页抓取小工具(IE法)

    网页抓取小工具(IE法)—— 吴姐 http://club.excelhome.net/thread-1095707-1-1.html 用IE提取网页资料的好处在于:所见即所得,网页上能看到的信息一般 ...

  6. VBA学习资料分享-6

    从网上抓取数据到EXCEL中是VBA的一个常用之处,今天分享下VBA网抓的一些套路,主要有以下几种: 第一种:msxml2.xmlhttp/Microsoft.XMLHTTP/WinHttp.WinH ...

  7. Fiddler 网页采集抓包利器

    最近这段时间,网页采集方面的工作做得比较多.用curl技术开发了一个微信文章聚合类产品,把抓取到的数据转换成json格式,并在android端调用json数据接口加以显示:基于weiphp做了一个掌上 ...

  8. webmagic爬虫抓取工作室成员博客

    一.导入依赖 <!--webmagic依赖--> <dependency> <groupId>us.codecraft</groupId> <ar ...

  9. Fiddler 网页采集抓包利器__手机app抓包

    用curl技术开发了一个微信文章聚合类产品,把抓取到的数据转换成json格式,并在android端调用json数据接口加以显示: 基于weiphp做了一个掌上头条插件,也是用的网页采集技术:和一个创业 ...

随机推荐

  1. docker安装gitlab-ce

    pull and run docker pull docker.io/gitlab/gitlab-ce docker run -itd --name gitlab -p 10080:80 gitlab ...

  2. IDEA安装及破解

    一.下载(IDEA 2019.1.2) 1.下载地址:https://www.jetbrains.com/idea/download/#section=windows 2.选择版本,并选择最终版(.e ...

  3. Bootstrap历练实例:激活导航状态

    激活导航状态 您可以在激活状态的胶囊式导航和列表导航中放置徽章.通过使用 <span class="badge"> 来激活链接,如下面的实例所示: <!DOCTY ...

  4. FFT快速傅里叶变化

    纪念人生第一次FFT 前排感谢iamzky,讲解非常详细 #include<iostream> #include<cstdio> #include<cmath> u ...

  5. 【启发式拆分】bzoj4059: [Cerc2012]Non-boring sequences

    这个做法名字是从武爷爷那里看到的…… Description 我们害怕把这道题题面搞得太无聊了,所以我们决定让这题超短.一个序列被称为是不无聊的,仅当它的每个连续子序列存在一个独一无二的数字,即每个子 ...

  6. 字符串:HDU3064-最长回文

    最长回文 Time Limit: 4000/2000 MS (Java/Others) Memory Limit: 32768/32768 K (Java/Others) Problem Descri ...

  7. HDU 4605 Magic Ball Game 主席树

    题意: 给一棵\(n(1 \leq n \leq 10^5)\)个节点的二叉树,除叶子节点外,每个点都有左儿子和右儿子. 每个点上都有一个权值. 游戏规则是这样的:在根节点放一个权值为\(X\)的小球 ...

  8. 【Linux】tcpdump命令详解

    tcpdump可以将网络中传送的数据包的“头”完全截获下来提供分析. 它支持针对网络层.协议.主机.网络或端口的过滤,并提供and.or.not等逻辑语句帮你过滤到无用的信息. 实用命令实例 1.普通 ...

  9. 和为s的两个数字 【微软面试100题 第十四题】

    题目要求: 输入一个递增排序的数组和一个数字s,在数组中查找两个数,使得它们的和正好是s.如果有多对数字的和等于s,输出任意一对即可. 例如输入数组{1,2,4,7,11,15}和数字15.由于4+1 ...

  10. 大数据学习——sparkSql

    官网http://spark.apache.org/docs/1.6.2/sql-programming-guide.html val sc: SparkContext // An existing ...