端午节将至,用Python爬取粽子数据并可视化,看看网友喜欢哪种粽子吧!(粽子数据)

一、

本文就从数据爬取、数据清洗、数据可视化，这三个方面入手，但你简单完成一个小型的数据分析项目，让你对知识能够有一个综合的运用。

整个思路如下：

爬取网页：https://www.jd.com/
爬取说明：基于京东网站，我们搜索网站“粽子”数据，大概有100页。我们爬取的字段，既有一级页面的相关信息，还有二级页面的部分信息；
爬取思路：先针对某一页数据的一级页面做一个解析，然后再进行二级页面做一个解析，最后再进行翻页操作；
爬取字段：分别是粽子的名称（标题）、价格、品牌（店铺）、类别（口味）；
使用工具：requests+lxml+pandas+time+re+pyecharts
网站解析方式：xpath

最终的效果如下：

二、数据爬取

京东网站，一般是动态加载的，也就是说，采用一般方式只能爬取到某个页面的前30个数据（一个页面一共60个数据）。

基于本文，我仅用最基本的方法，爬取了每个页面的前30条数据（如果大家有兴趣，可以自行下去爬取所有的数据）。

那么，本文究竟爬取了哪些字段呢？我给大家做一个展示，大家有兴趣，可以爬取更多的字段，做更为详细的分析。

下面为大家展示爬虫代码：

importpandasaspd
importrequests
fromlxmlimportetree
importchardet
importtime
importre
 
defget_CI(url):
headers={'User-Agent':'Mozilla/5.0(WindowsNT6.1;Win64;X64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/71.0.3578.80Safari/537.36'}
rqg=requests.get(url,headers=headers)
rqg.encoding=chardet.detect(rqg.content)['encoding']
html=etree.HTML(rqg.text)
#价格
p_price=html.xpath('//div/div[@class="p-price"]/strong/i/text()')
#名称
p_name=html.xpath('//div/div[@class="p-namep-name-type-2"]/a/em')
p_name=[str(p_name[i].xpath('string(.)'))foriinrange(len(p_name))]
#深层url
deep_ur1=html.xpath('//div/div[@class="p-namep-name-type-2"]/a/@href')
deep_url=["http:"+iforiindeep_ur1]
#从这里开始，我们获取“二级页面”的信息
brands_list=[]
kinds_list=[]
foriindeep_url:
rqg=requests.get(i,headers=headers)
rqg.encoding=chardet.detect(rqg.content)['encoding']
html=etree.HTML(rqg.text)
#品牌
brands=html.xpath('//div/div[@class="ETab"]//ul[@id="parameter-brand"]/li/@title')
brands_list.append(brands)
#类别
kinds=re.findall('>类别：(.*?)</li>',rqg.text)
kinds_list.append(kinds)
data=pd.DataFrame({'名称':p_name,'价格':p_price,'品牌':brands_list,'类别':kinds_list})
return(data)
x="https://search.jd.com/Search?keyword=%E7%B2%BD%E5%AD%90&qrst=1&wq=%E7%B2%BD%E5%AD%90&stock=1&page="
url_list=[x+str(i)foriinrange(1,200,2)]
res=pd.DataFrame(columns=['名称','价格','品牌','类别'])
 
#这里进行“翻页”操作
forurlinurl_list:
res0=get_CI(url)
res=pd.concat([res,res0])
time.sleep(3)
 
#保存数据
res.to_csv('aliang.csv',encoding='utf_8_sig')

最终爬取到的数据：

三、数据清洗

从上图可以看到，整个数据算是很整齐的，不是特别乱，我们只做一些简单的操作即可。

先使用pandas库，来读取数据。

import pandas as pd
 
df = pd.read_excel("粽子.xlsx",index_col=False)
df.head()

结果如下：

我们分别针对“品牌”、“类别”两个字段，去掉中括号。

df["品牌"] = df["品牌"].apply(lambda x: x[1:-1])
df["类别"] = df["类别"].apply(lambda x: x[1:-1])
df.head()

结果如下：

① 粽子品牌排名前10的店铺

df["品牌"].value_counts()[:10]

结果如下：

② 粽子口味排名前5的味道

deffunc1(x):
ifx.find("甜")>0:
return"甜粽子"
else:
returnx
df["类别"]=df["类别"].apply(func1)
df["类别"].value_counts()[1:6]

结果如下：

③ 粽子售卖价格区间划分

defprice_range(x):# 按照我的购物习惯，划分价格
ifx<=50:
return'<50元'
elifx<=100:
return'50-100元'
elifx<=300:
return'100-300元'
elifx<=500:
return'300-500元'
elifx<=1000:
return'500-1000元'
else:
return'>1000元'
 
df["价格区间"]=df["价格"].apply(price_range)
df["价格区间"].value_counts()

结果如下：

由于数据不是很多，没有很多字段，也就没有很多乱数据。因此，这里也没有做数据去重、缺失值填充等操作。所以，大家可以下去获取更多字段，更多数据，用于数据分析。

四、数据可视化

俗话说：字不如表，表不如图。通过可视化分析，我们可以将数据背后“隐藏”的信息，给展现出来。

拓展：当然，这里只是“抛砖引玉”，我并没有获取太多的数据，也没有获取太多的字段。这里给学习的朋友当一个作业题，自己下去用更多的数据、更多的字段，做更透彻的分析。

在这里，我们基于以下几个问题，做一个可视化展示，分别是：

① 粽子销售店铺Top10柱形图；
② 粽子口味排名Top5柱形图；
③ 粽子销售价格区间划分饼图；
④ 粽子商品名称词云图；

① 粽子销售店铺Top10柱形图

结论分析：去年，我们分析了一些月饼的数据，“五芳斋”、“北京稻香村”这几个牌子记忆犹新，可谓是做月饼、粽子的老店。像“三全”和“思念”，在我印象中一直以为它们只做水饺和汤圆，粽子是否值得一试呢？当然，这里还有一些新的牌子，像“诸老大”、“稻香私房”等一些牌子，大家都可以下去搜索一下。买东西，就是要精挑细选，品牌也重要。

② 粽子口味排名Top5柱形图

结论分析：在我印象中，小时候一直吃的最多的就是“甜粽子”，直到我上了初中才知道，粽子还可以有肉？当然，从图中可以看出，卖“鲜肉粽”的店铺还是居多，毕竟这个送人，还是显得高端、大气一些。这里还有一些口味，像“蜜枣粽”、“豆沙粽”，我基本没吃过。如果你送人，你会送什么口味的呢？

③ 粽子销售价格区间划分饼图