为什么要爬天气呢?1.可以练练手2.利用itchat库实现自动回复功能后,把查天气的功能集成起来,实现微信自助查天气功能!
首先,还是相似的套路,我们看看能不能在官网上直接抓包(XHR)来获取一个通用API。然后直接用API查询就OK?在百度搜关键词【天气】或者【南京天气】会跳出对应的网页:http://www.weather.com.cn/weather/101190101.shtml.点进去,可以看到相应城市下一周的天气情况:
再换一个城市上海,我们发现,浏览器地址变为:http://www.weather.com.cn/weather/101020100.shtml。原来101020100这串数字对应着相应城市的代码。我们来分析下页面上XHR请求,看看有没有直接抓包的可能?
经过谷歌浏览器——检查-Networt-XHR-刷新,发现并没有XHR请求,看来我们需要的天气内容和城市代码,可能是包含在页面中经过JS和服务器处理后呈现的.....好吧,尝试失败!
再看一下JS请求,发现太多了,无力去逐一查看!所幸网上有人早已记录下了所有城市对应的城市代码。我把拷贝了一下,存到了本地mysql,数据在百度云上,需要的可以自行下载下,执行SQL即可直接把SQL表和数据一并建好。https://pan.baidu.com/s/1kXaN2Aj 密码是:8y6n。
好了,准备工作做完了,现在思路就很清楚了,全国城市和代码都有了,我们查某个城市的天气,只需要输入城市,就可以从mysql里获取对应的城市代码如:101020100,然后构造相应的url:http://www.weather.com.cn/weather/101190101.shtml就可以查看到对应城市的7天天气了,然而,页面并没有XHR和直接可用的json数据,那我们只能自己动手了——分析网页内容,动手写正则表达式/beautifulSoup/Xpath来提取页面信息,具体内容在此就不赘述了,详见代码就好:
- import re
- import pymysql
- import requests
- from bs4 import BeautifulSoup
- class SearchWeather():
- def __init__(self):
- self.HEADERS ={
- 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 ''(KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36'}
- self.CONNECTION = pymysql.connect(host='localhost',user='root',password='xxx',db='xxx',charset='utf8',cursorclass=pymysql.cursors.DictCursor)
- def getcityCode(self,cityName):
- SQL = "SELECT cityCode FROM cityWeather WHERE cityName='%s'" % cityName
- try:
- with self.CONNECTION.cursor() as cursor:
- cursor.execute(SQL)
- self.CONNECTION.commit()
- result = cursor.fetchone()
- return result['cityCode']
- except Exception as e:
- print(repr(e))
- def getWeather(self,cityCode,cityname):
- url = 'http://www.weather.com.cn/weather/%s.shtml' % cityCode
- html = requests.get(url,headers = self.HEADERS)
- html.encoding='utf-8'
- soup=BeautifulSoup(html.text,'lxml')
- weather = "日期 天气 【温度】 风向风力\n"
- for item in soup.find("div", {'id': '7d'}).find('ul').find_all('li'):
- date,detail = item.find('h1').string, item.find_all('p')
- title = detail[0].string
- templow = detail[1].find("i").string
- temphigh = detail[1].find('span').string if detail[1].find('span') else ''
- wind,direction = detail[2].find('span')['title'], detail[2].find('i').string
- if temphigh=='':
- weather += '你好,【%s】今天白天:【%s】,温度:【%s】,%s:【%s】\n' % (cityname,title,templow,wind,direction)
- else:
- weather += (date + title + "【" + templow + "~"+temphigh +'°C】' + wind + direction + "\n")
- return weather
- def main(self,city):
- cityCode = self.getcityCode(city)
- detail = self.getWeather(cityCode,city)
- print (detail)
- if __name__ == "__main__":
- weather = SearchWeather()
- weather.main(city=input('请输入城市名称:'))
代码运行效果如下: