爬虫实战【9】Selenium解析淘宝宝贝-获取宝贝信息并保存

通过昨天的分析，我们已经能到依次打开多个页面了，接下来就是获取每个页面上宝贝的信息了。

分析页面宝贝信息

【插入图片，宝贝信息各项内容】

从图片上看，每个宝贝有如下信息；price，title，url，deal amount，shop，location等6个信息，其中url表示宝贝的地址。

我们通过查看器分析，每个宝贝都在一个div里面，这个div的class属性包含item。

而所有的item都在一个div内，这个总的div具有class属性为items，也就是单个页面上包含所有宝贝的一个框架。

因而，只有当这个div已经加载了，才能够断定页面的宝贝信息是可以提取的，所以再提取信息之前，我们要判断这个div的存在。

对于网页源码的解析，这次我们使用Pyquery，轮换着用一下嘛，感觉还是PyQuery比较好用，尤其是pyquery搜索到的对象还能在此进行搜索，很方便。

Pyquery的使用方法请查看我之前的文章，或者看一下API。

下面我们依次来分析一下每项信息应该如何提取。

1、Price

【插入图片，price】

可以看出，price的信息在一个div里面，具有clas属性price，我们如果通过text来获取的话，还会将前面的人民币符号得到，回头切片切掉就好了。

2、Deal Amount

【插入图片，amount】

成交量信息再一个class属性为deal-cnt的div标签里面，仍然需要将最后三个字符切掉。

3、Title

【插入图片，title】

宝贝的标题在一个class属性为title的div标签里面，通过text可以获取。

4、Shop

【插入图片，shop和location】

店铺名在一个class属性为shop的div标签呢。

5、Location

同上图，class属性为location。

6、URL

【插入图片，宝贝的地址】

url地址在一个a标签，class属性为pic-link，这个a标签的href属性就是url地址。

from pyquery import PyQuery as pq
def get_products():
    wait.until(EC.presence_of_element_located((By.CSS_SELECTOR,'.grid > div:nth-child(1)')))
    html=browser.page_source
    doc=pq(html)
    items=doc('div.item').items()#讲解一下
    for item in items:
        product={
            'url':item('a.pic-link').attr('href'),
            'price':item.find('.price').text()[1:],
            'amount':item.find('.deal-cnt').text()[:-3],
            'title':item.find('.title').text(),
            'shop':item.find('.shop').text(),
            'location':item.find('.location').text()
        }
        print(product)
        #save_to_mongo(product)
        save_to_csv(product)

这里我们在讲一下items的内容，看一下源码中的范例：

> d = PyQuery('<div><span>foo</span><span>bar</span></div>')
> [i.text() for i in d.items('span')]
 ['foo', 'bar']
>[i.text() for i in d('span').items()]
 ['foo', 'bar']
>list(d.items('a')) == list(d('a').items())
 True

保存数据到MongoDb

如果我们获取到product，想保存到MongoDb数据库中，其实是很简单的，设置好数据库的url、数据库名、表名，通过pymongo链接到对应的数据库。

即使我们数据库还未建立，没关系的，会动态创建表格和数据。

import pymongo

'''MONGO设置'''
MONGO_URL='localhost'
MONGO_DB='taobao'
MONGO_Table=KEYWORD

client=pymongo.MongoClient(MONGO_URL)
db=client[MONGO_DB]

def save_to_mongo(product):
    try:
        if db[MONGO_Table].insert(product):
            print('保存成功',product)
    except Exception:
        print('保存出错',product)
        pass

【插入图片，MongoDB数据】

保存数据到CSV文件

其实也就是文本文件，只不过可以通过excel打开，方便我们做一些分析。

这里就不展开讲了，请看代码。

def save_to_csv(product):

    with open(FileName,'a') as f:
        s=product['title']+','+product['price']+','+product['amount']+','+product['location']+','+product['shop']+','+product['url']+'\n'
        try:
            f.write(s)
            print('保存到csv成功！',product)
        except:
            pass

全部代码

只要改变KEYWORD关键字的内容，就能搜索到不同的宝贝信息，并保存下来，我们默认保存到csv文件中，数据毕竟只有几千条，还是Excel方便。

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.common.exceptions import TimeoutException
from pyquery import PyQuery as pq
import re
import pymongo
from multiprocessing import Pool

'''要搜索的关键字'''
KEYWORD='Iphone8'
'''MONGO设置'''
MONGO_URL='localhost'
MONGO_DB='taobao'
MONGO_Table=KEYWORD
'''要保存的csv文件'''
FileName=KEYWORD+'.csv'
'''PhantomJS参数'''
SERVICE_ARGS=['--load-images=false']#不加载图片，节省时间

client=pymongo.MongoClient(MONGO_URL)
db=client[MONGO_DB]

#browser=webdriver.Firefox()
browser=webdriver.PhantomJS(service_args=SERVICE_ARGS)
browser.set_window_size(1400,900)
index_url='https://www.taobao.com/'
wait=WebDriverWait(browser, 10)

def search(keyword):
    try:
        browser.get(index_url)
        #user_search_input=browser.find_element_by_css_selector('#q')
        #user_search_button=browser.find_element_by_css_selector('.btn-search')
        user_search_input = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, "#q")))
        user_search_button = wait.until(EC.element_to_be_clickable((By.CSS_SELECTOR, ".btn-search")))
        user_search_input.send_keys(keyword)
        user_search_button.click()
        total=wait.until(EC.presence_of_element_located((By.CSS_SELECTOR,'div.total')))
        total_page=re.compile(r'(\d+)').search(total.text).group(1)
        print(total_page)
        get_products()
        return int(total_page)
    except TimeoutException:
        search(keyword)

def get_next_page(pageNum):
    try:
        user_page_input = wait.until(EC.presence_of_element_located((By.XPATH, "/html/body/div[1]/div[2]/div[3]/div[1]/div[26]/div/div/div/div[2]/input")))
        user_page_button = wait.until(EC.element_to_be_clickable((By.XPATH, "/html/body/div[1]/div[2]/div[3]/div[1]/div[26]/div/div/div/div[2]/span[3]")))
        user_page_input.clear()
        user_page_input.send_keys(pageNum)
        user_page_button.click()
        wait.until(EC.text_to_be_present_in_element((By.CSS_SELECTOR,'li.active > span:nth-child(1)'),str(pageNum)))
        get_products()
    except TimeoutException:
        get_next_page(pageNum)

def get_products():
    wait.until(EC.presence_of_element_located((By.CSS_SELECTOR,'.grid > div:nth-child(1)')))
    html=browser.page_source
    doc=pq(html)
    items=doc('div.item').items()
    for item in items:
        product={
            'url':item('a.pic-link').attr('href'),
            'price':item.find('.price').text()[1:],
            'amount':item.find('.deal-cnt').text()[:-3],
            'title':item.find('.title').text(),
            'shop':item.find('.shop').text(),
            'location':item.find('.location').text()
        }
        print(product)
        #save_to_mongo(product)
        save_to_csv(product)

def save_to_csv(product):

    with open(FileName,'a') as f:
        s=product['title']+','+product['price']+','+product['amount']+','+product['location']+','+product['shop']+','+product['url']+'\n'
        try:
            f.write(s)
            print('保存到csv成功！',product)
        except:
            pass

def save_to_mongo(product):
    try:
        if db[MONGO_Table].insert(product):
            print('保存成功',product)
    except Exception:
        print('保存出错',product)
        pass

def main():
    total=search(KEYWORD)
    # p=Pool()
    # p.map(get_next_page,[i for i in range(2,total+1)])
    for i in range(2,total+1):
        get_next_page(i)
    browser.close()

if __name__=='__main__':
    main()

简单分析一下结果

【插入图片，结果分析示例】

月成交量最好的是一款老人机，只有79元。。。。

智能手机里面，vivo X20是卖的最好的，2999元价位。

1500价位，小米5x出现了。。。

这种类似的分析都是建立在数据挖掘的基础上的，希望你能从本篇内容中学到一些知识。