功能强大的CURL
linux下的curl,有着非同一般的魔力,有人称它为下载工具,我更倾向于叫它“文件传输工具”因为它好像无所不能。从常见的 FTP, HTTP, TELNET, 等协议,还支持代理服务器,cookies,下载以及上传文件,
curl 打印页面
curl www.baidu.com
curl 抓取一个页面,然后进行保存 -o (小写的英文字母 o )
curl -x ip:port 指定代理
curl -x 代理ip:端口 ,使用代理访问。
curl -D cookies 保存cookie在本地。
curl www.baidu.com -o baidu.html -D baidu.txt
curl www.baidu.com -o baidu.html -D baidu.txt 使用curl 打印出本站的主页,使用 -o 选项来保存在本地, -D保存cookies
目录下将会多出两个文件, baidu.html (网页文件)跟 baidu.txt (cookie文件)
curl -A 模拟浏览器发送报文
curl -A “Mozilla/4.0 (compatible; MSIE 6.0; windows NT 5.0)”
curl -e 很重要的一个选项,模拟来路,比如这样
curl -e www.163.com www.baidu.com 这样是显示本站的某个点过去的~
都知道skycn都使用了referer技术,就是判断点击的来路,不是一级一级点过来,中间突然点击下载地址,就认为你是盗链。
请直接点击 http://dqcnc.skycn.com/down/Ravolxz_2008_206620.zip 会直接跳回主页的
这样再试试
curl -A “Mozilla/4.0 (compatible; MSIE 5.01; windows NT 5.0)” -D skycn.txt -e http://tele.skycn.com/soft/38422.html -o test.rar http://dqcnc.skycn.com/down/Ravolxz_2008_206620.zip
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
31 67.7M 31 21.0M 0 0 513k 0 0:02:15 0:00:41 0:01:34 619k
这样就告诉天空软件站,这是一个运行在windows2000的IE5.0发过来的一个请求,并且来路是http://tele.skycn.com/soft/38422.html 这个页面。
-o 就是指定保存文件的名称。
-O (大写的英文字母 O)这个是自动按服务器上的名字来保存文件到本地。
curl -A “Mozilla/4.0 (compatible; MSIE 5.01; windows NT 5.0)” -D skycn.txt -e http://tele.skycn.com/soft/38422.html -O http://dqcnc.skycn.com/down/Ravolxz_2008_206620.zip
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
4 67.7M 4 3285k 0 0 229k 0 0:05:02 0:00:14 0:04:48 658k
Ravolxz_2008_206620.zip 自己生成的这个名字。
curl -b 是追加旧的cookie,生成新的cookie
功能强大的CURL的更多相关文章
- cURL 是一个功能强大的PHP库。
使用PHP的cURL库可以简单和有效地去抓网页.你只需要运行一个脚本,然后分析一下你所抓取的网页,然后就可以以程序的方式得到你想要的数据了.无论是你想从从一个链接上取部分数据,或是取一个XML文件并把 ...
- 高效、易用、功能强大的 api 管理平台
前言导读 实际环境的需求可以说是:只有你没想到,没有实现不了的,征对于目前实际开发.测试.生产等环境中,需要用到各类的接口可达几十.甚至上百个,因此,必须需要一个统一管理的工具平台来统一管理这类接口, ...
- 工具推荐:ATSCAN,功能强大的Perl脚本扫描器
工具推荐:ATSCAN,功能强大的Perl脚本扫描器 使用perl语言编写的开源的扫描器,功能丰富强大,除了基本的tcp和udp端口扫描之外,还可以搜索wordpress.joomla等网站并进行口令 ...
- Postman - 功能强大的 API 接口请求调试和管理工具
Postman 是一款功能强大的的 Chrome 应用,可以便捷的调试接口.前端开发人员在开发或者调试 Web 程序的时候是需要一些方法来跟踪网页请求的,用户可以使用一些网络的监视工具比如著名的 Fi ...
- 功能强大的滚动播放插件JQ-Slide
查看效果:http://keleyi.com/keleyi/phtml/jqplug/4.htmJQ-Slide插件功能强大,滚动方式自由多样全部滚动方式 方式一 方式二 方式三 方式四 方式五 方式 ...
- 功能强大而又简单易学的编程语言Python
Python是一种面向对象.直译式计算机程序设计语言,也是一种功能强大的通用型语言.首先,Python非常简单,以Hello World为例: Java的Hello World程序一般这么写: pub ...
- 敏捷BI比传统BI功能强大是否属实?
关于大数据的资讯铺天盖地而来,让人眼花缭乱.虽然资讯很精彩,我们也看到了大数据背后的价值,很多企业选择了商业智能BI产品.商业智能在使用上可分为敏捷BI与传统BI,从名字来看敏捷BI要比传统BI显得利 ...
- [转载]什么是FCKeditor?功能强大的HTML编辑器!
天天在用FCKeditor写博客,但一直不清楚FCKeditor到底是什么,今天终于找到了一些相关的资料,大家一起来分享下. FCKeditor文本编辑程序(共享软件)为用户提供在线的文档编辑服务,其 ...
- 整合了一个功能强大完善的OA系统源码,php全开源 界面漂亮美观
整合了一个功能强大完善的OA系统源码,php全开源界面漂亮美观.需要的同学联系Q:930948049
随机推荐
- 平衡的阵容 st表学习
模板 预处理 void rmq_isit() { ;i<=n;i++) mx[i][]=mn[i][]=a[i]; ;(<<j)<=n;j++) ;i+(<<j)- ...
- java基础第六篇之常用思想、封装、继承和多态
a.累加求和思想:求1~100的和,求数组/集合中元素的和,求偶数的数,求总分 int sum=0//循环外部定义sum变量,循环里面对每个元素累加 for (; ; ) { //sum+=数据 } ...
- iOS 技术支持
iOS 技术支持网址:有问题或建议请留言. 邮箱地址:odeyrossskudder4266848@mail.com iOS program design & system consultat ...
- Java 基础类库
与用户互动 1. 运行java程序的参数 public static void main(Stirng[] args) 这个方法是有JVM调用,因此用public static修饰,并且没有返回值,同 ...
- HttpHelper使用记录
重新载入页面以获取源代码 var item = new HttpItem() { URL = @"http://www.xxx.com/msg/basic/?a=sendmsg", ...
- hadoop集群启动时DataNode节点启动失败
错误日志如下: ************************************************************/ 2018-03-07 18:57:35,121 INFO o ...
- untiy3d开发环境搭建和开发准备
1.到untiy3d官网上下载untiy3d的软件(这里我使用的是个人版的5.3.61f做学习使用) 2.安装vs2012 3.因为unity3d和vs的版本有一定的版本对应关系,我这里使用vs201 ...
- 第十七章 提升用户体验 之 使用MVC扩展功能控制程序行为
1. 概述 ASP.NET MVC具有很好的扩展性,每一个核心功能都可以被扩展.重写 和 定制. 本章内容包括:实现MVC过滤器和controller工厂.使用 action results,view ...
- Access denied for user ''@'localhost' (using password: NO)之idea坑~
idea启动sql连接远程数据库时发生错误: 发现是sql连接配置问题: spring: datasource: data-username: root data-password: 123456 u ...
- springboot+shiro+cas实现单点登录之shiro端搭建
github:https://github.com/peterowang/shiro-cas 本文如有配置问题,请查看之前的springboot集成shiro的文章 1.配置ehcache缓存,在re ...