之前做微信登录开发时候,发现微信头像图片没有后缀名,传统的图片抓取方式不奏效,需要特殊的抓取处理。所以,后来将各种情况结合起来,封装成一个类,分享出来。

创建项目

作为演示,我们在www根目录创建项目grabimg,创建一个类GrabImage.php和一个index.php。

编写类代码

我们定义一个和文件名相同的类:GrabImage

1

2

class GrabImage{

}

属性

接下来定义几个需要使用的属性。

1、首先定义一个需要抓取的图片地址:$img_url

2、再定义一个$file_name用来存储文件的名称,但是不携带拓展名,因为可能涉及到拓展名更换,所以这里拆开定义

3、紧接着就是拓展名$extension

4、然后我们定义一个$file_dir,该属性的作用是,远程图片抓取到本地后所存储的目录,一般相对于PHP入口文件所在的位置作为起始。但是该路径一般不保存到数据库。

5、最后我们定义一个$save_dir,顾名思义,该路径是用来直接保存的数据库的目录。这里说明下,我们不直接存储文件保存路径到数据库,一般是为了之后如果系统迁移,方便更换路径做准备。我们这里的$save_dir一般为日期 + 文件名,如果需要使用时候取出,在前方拼上所需要的路径。

方法

属性弄完了,接下来我们正式开始抓取工作。

首先我们定义一个对外开放的方法getInstances用来获取一些数据,比如抓取图片地址,和本地保存路径。同时将其放入属性中。

1

2

3

4

5

6

public function getInstances($img_url , $base_dir)

{

    $this->img_url = $img_url;

    $this->save_dir = date("Ym").'/'.date("d").'/'; // 比如:201610/19/

    $this->file_dir = $base_dir.'/'.$this->save_dir.'/'; // 比如:./uploads/image/2016/10/19/

}

图片保存路径拼接完成,下面我们要注意一个问题,目录是否存在。日期在一天天走,但是目录并不会自动创建。所以,在保存图片之前,首先需要检查一下,如果当前目录不存在我们需要即时创建。

我们创建设置目录方法setDir。属性我们设置了private,安全

1

2

3

4

5

6

7

8

9

10

11

12

13

14

/**

 * 检查图片需要保持的目录是否存在

 * 如果不存在,则立即创建一个目录

 * @return bool

 */

private function setDir()

{

    if(!file_exists($this->file_dir))

    {

        mkdir($this->file_dir,0777,TRUE);

    }

    $this->file_name = uniqid().rand(10000,99999);// 文件名,这里只是演示,实际项目中请使用自己的唯一文件名生成方法

    return true;

}

接下来就是抓取核心代码

第一步,解决一个问题,我们需要抓取的图片可能没有后缀名。按照传统的抓取方法,先抓取图片,然后截取后缀名的方案不可行。

我们必须通过其它方法来获得图片类型。办法就是从文件流信息中获取文件头信息,从而判断文件mime信息,就可以知道文件后缀名。

为了方便,先定义一个mime和文件拓展名映射。

1

2

3

4

5

6

7

$mimes=array(

    'image/bmp'=>'bmp',

    'image/gif'=>'gif',

    'image/jpeg'=>'jpg',

    'image/png'=>'png',

    'image/x-icon'=>'ico'

);

这样,当我获取了类型是image/gif的时候,我就可以知道是.gif图片了。

利用php函数get_headers,获取文件流头信息。当其值不为false时候我们将其赋值给变量$headers

取出Content-Type的值即为mime的值。

1

2

3

4

if(($headers=get_headers($this->img_url, 1))!==false){

    // 获取响应的类型

    $type=$headers['Content-Type'];

}

使用上面我们定义的映射表,我们可以很轻松的获取后缀名。

1

$this->extension=$mimes[$type];

当然上面获取的$type,可能不存在我们的映射表中,说明这种类型文件并不是我们想要的,直接抛弃就好了,不用管它。

下面的步骤就和传统抓取文件一样。

1

2

3

4

5

6

7

8

$file_path = $this->file_dir.$this->file_name.".".$this->extension;

// 获取数据并保存

$contents=file_get_contents($this->img_url);

if(file_put_contents($file_path , $contents))

{

    // 这里返回出去的值是直接保存到数据库的路径 + 文件名,形如:201610/19/57feefd7e2a7aY5p7LsPqaI-lY1BF.jpg

    return $this->save_dir.$this->file_name.".".$this->extension;

}

首先获取本地保图片存完整路径$file_path,接下来使用file_get_contents抓取数据,然后使用file_put_contents保存到刚刚的文件路径。

最后我们返回一个可以直接保存到数据库中的路径,而不是文件存储路径。

该抓取方法完整版是:

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

private function getRemoteImg()

{

    // mime 和 扩展名 的映射

    $mimes=array(

        'image/bmp'=>'bmp',

        'image/gif'=>'gif',

        'image/jpeg'=>'jpg',

        'image/png'=>'png',

        'image/x-icon'=>'ico'

    );

    // 获取响应头

    if(($headers=get_headers($this->img_url, 1))!==false)

    {

        // 获取响应的类型

        $type=$headers['Content-Type'];

        // 如果符合我们要的类型

        if(isset($mimes[$type]))

        {

            $this->extension=$mimes[$type];

            $file_path = $this->file_dir.$this->file_name.".".$this->extension;

            // 获取数据并保存

            $contents=file_get_contents($this->img_url);

            if(file_put_contents($file_path , $contents))

            {

                // 这里返回出去的值是直接保存到数据库的路径 + 文件名,形如:201610/19/57feefd7e2a7aY5p7LsPqaI-lY1BF.jpg

                return $this->save_dir.$this->file_name.".".$this->extension;

            }

        }

    }

    return false;

}

最后,为了简单,我们想在其他地方只要调用其中一个方法就可以完成抓取。所以,我们将抓取动作直接放入到getInstances中,在配置完路径后,直接抓取,所以,在初始化配置方法getInstances里新增代码。

1

2

3

4

5

6

7

8

if($this->setDir())

{

    return $this->getRemoteImg();

}

else

{

    return false;

}

测试

我们去刚刚创建的index.php文件内试试。

1

2

3

4

5

6

7

<?php

require_once 'GrabImage.php';

$object = new GrabImage();

$img_url = "http://www.bidianer.com/img/icon_mugs.jpg"; // 需要抓取的远程图片

$base_dir = "./uploads/image"; // 本地保存的路径

echo $object->getInstances($img_url , $base_dir);

?>

惹,的确抓取过来了

完整代码

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

48

49

50

51

52

53

54

55

56

57

58

59

60

61

62

63

64

65

66

67

68

69

70

71

72

73

74

75

76

77

78

79

80

81

82

83

84

85

86

87

88

89

90

91

92

93

94

95

96

97

98

99

100

101

102

103

104

105

106

107

108

109

110

111

112

113

114

115

116

117

118

119

120

121

<?php

/**

 * 抓取远程图片到本地,可以抓取不带有后缀的图片

 * @author YanYing <yanyinghq@163.com>

 * @link bidianer.com

 */

class GrabImage{

    /**

     * @var string 需要抓取的远程图片的地址

     * 例如:http://www.bidianer.com/img/icon_mugs.jpg

     * 有一些远程文件路径可能不带拓展名

     * 形如:http://www.xxx.com/img/icon_mugs/q/0

     */

    private $img_url;

    /**

     * @var string 需要保存的文件名称

     * 抓取到本地的文件名会重新生成名称

     * 但是,不带拓展名

     * 例如:57feefd7e2a7aY5p7LsPqaI-lY1BF

     */

    private $file_name;

    /**

     * @var string 文件的拓展名

     * 这里直接使用远程图片拓展名

     * 对于没有拓展名的远程图片,会从文件流中获取

     * 例如:.jpg

     */

    private $extension;

    /**

     * @var string 文件保存在本地的目录

     * 这里的路径是PHP保存文件的路径

     * 一般相对于入口文件保存的路径

     * 比如:./uploads/image/201610/19/

     * 但是该路径一般不直接存储到数据库

     */

    private $file_dir;

    /**

     * @var string 数据库保存的文件目录

     * 这个路径是直接保存到数据库的图片路径

     * 一般直接保存日期 + 文件名,需要使用的时候拼上前面路径

     * 这样做的目的是为了迁移系统时候方便更换路径

     * 例如:201610/19/

     */

    private $save_dir;

    /**

     * @param string $img_url 需要抓取的图片地址

     * @param string $base_dir 本地保存的路径,比如:./uploads/image,最后不带斜杠"/"

     * @return bool|int

     */

    public function getInstances($img_url , $base_dir)

    {

        $this->img_url = $img_url;

        $this->save_dir = date("Ym").'/'.date("d").'/'; // 比如:201610/19/

        $this->file_dir = $base_dir.'/'.$this->save_dir.'/'; // 比如:./uploads/image/2016/10/19/

        return $this->start();

    }

    /**

     * 开始抓取图片

     */

    private function start()

    {

        if($this->setDir())

        {

            return $this->getRemoteImg();

        }

        else

        {

            return false;

        }

    }

    /**

     * 检查图片需要保持的目录是否存在

     * 如果不存在,则立即创建一个目录

     * @return bool

     */

    private function setDir()

    {

        if(!file_exists($this->file_dir))

        {

            mkdir($this->file_dir,0777,TRUE);

        }

        $this->file_name = uniqid().rand(10000,99999);// 文件名,这里只是演示,实际项目中请使用自己的唯一文件名生成方法

        return true;

    }

    /**

     * 抓取远程图片核心方法,可以同时抓取有后缀名的图片和没有后缀名的图片

     *

     * @return bool|int

     */

    private function getRemoteImg()

    {

        // mime 和 扩展名 的映射

        $mimes=array(

            'image/bmp'=>'bmp',

            'image/gif'=>'gif',

            'image/jpeg'=>'jpg',

            'image/png'=>'png',

            'image/x-icon'=>'ico'

        );

        // 获取响应头

        if(($headers=get_headers($this->img_url, 1))!==false)

        {

            // 获取响应的类型

            $type=$headers['Content-Type'];

            // 如果符合我们要的类型

            if(isset($mimes[$type]))

            {

                $this->extension=$mimes[$type];

                $file_path = $this->file_dir.$this->file_name.".".$this->extension;

                // 获取数据并保存

                $contents=file_get_contents($this->img_url);

                if(file_put_contents($file_path , $contents))

                {

                    // 这里返回出去的值是直接保存到数据库的路径 + 文件名,形如:201610/19/57feefd7e2a7aY5p7LsPqaI-lY1BF.jpg

                    return $this->save_dir.$this->file_name.".".$this->extension;

                }

            }

        }

        return false;

    }

}

明确的学习思路能更高效的学习

点此加入该群学习

PHP抓取远程图片教程(包含不带后缀图片)的更多相关文章

  1. 下载远程(第三方服务器)文件、图片,保存到本地(服务器)的方法、保存抓取远程文件、图片 将图片的二进制字节字符串在HTML页面以图片形式输出 asp.net 文件 操作方法

    下载远程(第三方服务器)文件.图片,保存到本地(服务器)的方法.保存抓取远程文件.图片   将一台服务器的文件.图片,保存(下载)到另外一台服务器进行保存的方法: 1 #region 图片下载 2 3 ...

  2. 百度UEditor编辑器关闭抓取远程图片功能(默认开启)

    这个坑娘的功能,开始时居然不知道如何触发,以为有个按钮,点击一下触发,翻阅了文档,没有发现,然后再网络上看到原来是复制粘贴非白名单内的图片到编辑框时触发,坑娘啊............... 问题又来 ...

  3. 【转载】ASP.NET以Post方式抓取远程网页内容类似爬虫功能

    使用HttpWebRequest等Http相关类,可以在应用程序中或者网站中模拟浏览器发送Post请求,在请求带入相应的Post参数值,而后请求回远程网页信息.实现这一功能也很简单,主要是依靠Http ...

  4. php使用curl简单抓取远程url的方法

    这篇文章主要介绍了php使用curl简单抓取远程url的方法,涉及php操作curl的技巧,具有一定参考借鉴价值,需要的朋友可以参考下     本文实例讲述了php使用curl抓取远程url的方法.分 ...

  5. file_get_contents抓取远程URL内容

    /** * POST URL * @param $url * @param null $post * @return false / string */ public static function ...

  6. php curl抓取远程页面内容的代码

    使用php curl抓取远程页面内容的例子. 代码如下: <?php /** * php curl抓取远程网页内容 * edit by www.jbxue.com */ $curlPost = ...

  7. 利用wireshark抓取远程linux上的数据包

    原文发表在我的博客主页,转载请注明出处. 前言 因为出差,前后准备总结了一周多,所以博客有所搁置.出差真是累人的活计,不过确实可以学习到很多东西,跟着老板学习做人,学习交流的技巧.入正题~ wires ...

  8. php抓取远程数据显示在下拉列表中

    前言:周五10月20日的时候,经理让做一个插件,使用的thinkphp做这个demo 使用CURL抓取远程数据时如果出现乱码问题可以加入 header("content-type:text/ ...

  9. PHP批量抓取远程网页图片并存到本地实现方法和源码

    做为一个仿站工作者,当遇到网站有版权时甚至加密的时候,WEBZIP也熄火,怎么扣取网页上的图片和背景图片呢.有时候,可能会想到用火狐,这款浏览器好像一个强大的BUG,文章有版权,屏蔽右键,火狐丝毫也不 ...

随机推荐

  1. typescript 入门教程一

    ##### 从今天开始,持续更新typescript入门教程系列.... 目前ts越来越火,主流的前端框架,好比*angular,vue 3*均是采用ts来编写,所有很多公司的项目都是用**ts**来 ...

  2. 03 python学习笔记-文件操作(三)

    本文内容主要包括以下方面: 1. 文件操作基本认识2. 只读(r, rb)3. 只写(w, wb)4. 追加(a, ab)5. r+读写6. w+写读7. a+写读(追加写读)8. 文件的修改 一.文 ...

  3. web常用知识

    Html 1.打电话,发短信和发邮件 <a href="tel:0755-10086">打电话给:0755-10086</a> <a href=&qu ...

  4. Prometheus(二):Prometheus 监控Windows机器

    一.安装wmi-exporter 首先在需要监控的Windows机器上安装wmi_exporter.wmi_exporter下载地址:https://github.com/martinlindhe/w ...

  5. 记录一次诡异的Maven Profile不生效的问题

    记录一次诡异的Maven Profile不生效的问题 现象 maven 打包之后,复制的 profile对应的resource文件总是不正确的. 即便是加了 mvn clean package -P ...

  6. 使用Wireshark成功解决JavaWeb项目的页面一直加载中的问题

    现象 打开 服务器页面 10.2.155.100,然后发现页面JS显示 加载中..F12浏览器看起来像是发起css等静态资源时卡死.一时定位还以为时 前端的问题. 解决过程 上服务器抓包: tcpdu ...

  7. SpringBoot整合MybatisPlus3.X之逻辑删除(三)

    pom.xml <dependencies> <dependency> <groupId>org.springframework.boot</groupId& ...

  8. 面向云原生的混沌工程工具-ChaosBlade

    作者 | 肖长军(穹谷)阿里云智能事业群技术专家   导读:随着云原生系统的演进,如何保障系统的稳定性受到很大的挑战,混沌工程通过反脆弱思想,对系统注入故障,提前发现系统问题,提升系统的容错能力.Ch ...

  9. vue---Excel表格导出

    一.安装依赖 npm install file-saver --save npm install xlsx --save npm install script-loader --save-dev 二. ...

  10. 20191107-配置 pyqt5+pycharm 环境

    因公司需要,今天配置了 pyqt5+pycharm 环境,准备试着写些 UI 界面. 参考资源: 1. Python3+PyQt5+PyCharm 桌面GUI开发环境搭建 https://www.cn ...