百木园-与人分享,
就是让自己快乐。

python采集天气数据 并做数据可视化 (含完整源代码)

前言

最近天气好像有了点小脾气,总是在万分晴朗得时候耍点小性子~

阴会天,下上一会的雨~提醒我们时刻记得带伞哦,不然会被雨淋或者被太阳公公晒到 😜

那么今天我就来分享一下采集天气数据 并做数据可视化的代码吧~

python采集天气数据 并做数据可视化 (含完整源代码)


本篇代码提供者: 青灯教育-巳月老师


知识点:

动态数据抓包

requests发送请求

结构化+非结构化数据解析


开发环境:

python 3.8 运行代码

pycharm 2021.2 辅助敲代码

requests


如果安装python第三方模块:

  1. win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车
  2. 在pycharm中点击Terminal(终端) 输入安装命令

代码实现:

  1. 发送请求
  2. 获取数据
  3. 解析数据
  4. 保存数据

python采集天气数据 并做数据可视化 (含完整源代码)

采集天气数据代码

导入模块

import requests     # 第三方模块 提前安装  发送请求 (Python里面浏览器)  爆红是因为你没有安装模块
# 如果安装了 但还是爆红是因为什么呢? 解释器在pycharm里面配置的不对
import parsel
import csv
# 翻译插件
with open(\'天气.csv\', mode=\'a\', encoding=\'utf-8\', newline=\'\') as f:
    csv_writer = csv.writer(f)
    csv_writer.writerow([\"日期\", \"最高温度\", \"最低温度\", \"天气\", \"风向\", \"城市\"])
city_list = [54511, 58362, 59287, 59493]
for city in city_list:
    for year in range(2011, 2022):
        for month in range(1, 13):
            url = f\'https://tianqi.2345.com/Pc/GetHistory?areaInfo%5BareaId%5D={city}&areaInfo%5BareaType%5D=2&date%5Byear%5D={year}&date%5Bmonth%5D={month}\'

 

1. 发送请求

            response = requests.get(url=url)
            # <Response [200]>: 请求成功

 

2. 获取数据

            # json数据传输格式
            json_data = response.json()
            # 字典类型数据

 

3. 解析数据

            # 结构化数据解析
            html_data = json_data[\'data\']
            selector = parsel.Selector(html_data)
            # 正则 css xpath json字典数据解析
            tr_list = selector.css(\'.history-table tr\')
            # tr_list[1:] 从列表的第二个元素开始取
            for tr in tr_list[1:]:
                # <X>fhwaeuifhwiuf</X>
                td = tr.css(\'td::text\').getall()
                if td[2] == \'°\':
                    td[2] = td[1]
                if city == 54511:
                    td.append(\"北京\")
                elif city == 58362:
                    td.append(\"上海\")
                elif city == 59287:
                    td.append(\"广州\")
                elif city == 59493:
                    td.append(\"深圳\")
                print(td)
                # 文件名 写入方式 追加写入  编码方式 utf-8  数据空行
                with open(\'天气.csv\', mode=\'a\', encoding=\'utf-8\', newline=\'\') as f:
                    csv_writer = csv.writer(f)
                    csv_writer.writerow(td)

 

数据分析代码

python采集天气数据 并做数据可视化 (含完整源代码)

导入包

import pandas as pd
import datetime
from pyecharts import options as opts
from pyecharts.charts import *
from pyecharts.commons.utils import JsCode

 

读入数据

data = pd.read_csv(\'天气.csv\')
data

 

数据预览

data.sample(5)

data.info()

 

分割日期/星期

data[[\'日期\',\'星期\']] = data[\'日期\'].str.split(\' \',expand=True,n=1)
data

 

去除多余字符

data[[\'最高温度\',\'最低温度\']] = data[[\'最高温度\',\'最低温度\']].apply(lambda x: x.str.replace(\'°\',\'\'))
data.head()

 

计算下雪天气

data.loc[data[\'天气\'].str.contains(\'\'),\'下雪吗\']=\'\'
data.fillna(\'\',inplace=True)

 

分割日期时间

data[\'日期\'] = pd.to_datetime(data[\'日期\'])
data[[\'最高温度\',\'最低温度\']] = data[[\'最高温度\',\'最低温度\']].astype(\'int\')

data[\'年份\'] = data[\'日期\'].dt.year
data[\'月份\'] = data[\'日期\'].dt.month
data[\'\'] = data[\'日期\'].dt.day
# 预览
data.sample(5)

 

各城市初雪的时间

s_data = data[data[\'下雪吗\']==\'\']
s_data[(s_data[\'月份\']>=9)].groupby(\'年份\').first().reset_index()

 

各城市下雪天气分布

s_data.groupby([\'城市\',\'年份\'])[\'日期\'].count().to_frame(\'下雪天数\').reset_index()

 

做透视表

data_bj = data[(data[\'年份\'] == 2021) & (data[\'城市\'] == \'北京\')]
data_bj = data_bj.groupby([\'月份\',\'天气\'], as_index=False)[\'日期\'].count()

data_pivot =  pd.pivot(data_bj,
                values=\'日期\',
                index=\'月份\',
                columns=\'天气\')
data_pivot = data_pivot.astype(\'float\')
# 按照 索引年月倒序排序
data_pivot.sort_index(ascending=False,inplace=True)

data_pivot

 

北上广深2021年10月份天气热力图分布

import matplotlib.pyplot as plt
import matplotlib.colors as mcolors
import seaborn as sns

#设置全局默认字体 为 雅黑
plt.rcParams[\'font.family\'] = [\'Microsoft YaHei\'] 
# 设置全局轴标签字典大小
plt.rcParams[\"axes.labelsize\"] = 14  
# 设置背景
sns.set_style(\"darkgrid\",{\"font.family\":[\'Microsoft YaHei\', \'SimHei\']})  
# 设置画布长宽 和 dpi
plt.figure(figsize=(18,8),dpi=100)
# 自定义色卡
cmap = mcolors.LinearSegmentedColormap.from_list(\"n\",[\'#95B359\',\'#D3CF63\',\'#E0991D\',\'#D96161\',\'#A257D0\',\'#7B1216\']) 
# 绘制热力图

ax = sns.heatmap(data_pivot, cmap=cmap, vmax=30, 
                 annot=True, # 热力图上显示数值
                 linewidths=0.5,
                ) 
# 将x轴刻度放在最上面
ax.xaxis.set_ticks_position(\'top\') 
plt.title(\'北京最近10个月天气分布\',fontsize=16) #图片标题文本和字体大小
plt.show()
# 资料、解答、教程可加Q :261823976免费领      
data_gz= data[(data[\'年份\'] == 2021) & (data[\'城市\'] == \'广州\')]
data_gz = data_gz.groupby([\'月份\',\'天气\'], as_index=False)[\'日期\'].count()
data_sz= data[(data[\'年份\'] == 2021) & (data[\'城市\'] == \'深圳\')]
data_sz = data_sz.groupby([\'月份\',\'天气\'], as_index=False)[\'日期\'].count()
data_sh= data[(data[\'年份\'] == 2021) & (data[\'城市\'] == \'上海\')]
data_sh = data_sh.groupby([\'月份\',\'天气\'], as_index=False)[\'日期\'].count()

data_pivot_sz =  pd.pivot(data_sz,
                values=\'日期\',
                index=\'月份\',
                columns=\'天气\')
data_pivot_sz = data_pivot_sz.astype(\'float\')
# 按照 索引年月倒序排序
data_pivot_sz.sort_index(ascending=False,inplace=True)

#设置全局默认字体 为 雅黑
plt.rcParams[\'font.family\'] = [\'Microsoft YaHei\'] 
# 设置全局轴标签字典大小
plt.rcParams[\"axes.labelsize\"] = 14  
# 设置背景
sns.set_style(\"darkgrid\",{\"font.family\":[\'Microsoft YaHei\', \'SimHei\']})  
# 设置画布长宽 和 dpi
plt.figure(figsize=(18,8),dpi=100)
# 自定义色卡
cmap = mcolors.LinearSegmentedColormap.from_list(\"n\",[\'#95B359\',\'#D3CF63\',\'#E0991D\',\'#D96161\',\'#A257D0\',\'#7B1216\']) 
# 绘制热力图

ax_sz = sns.heatmap(data_pivot_sz, cmap=cmap, vmax=31, 
                 annot=True, # 热力图上显示数值
                 linewidths=0.5,
                ) 
# 将x轴刻度放在最上面
ax_sz.xaxis.set_ticks_position(\'top\') 
plt.title(\'深圳最近10个月天气分布\',fontsize=16) #图片标题文本和字体大小
plt.show()

data_pivot_gz =  pd.pivot(data_gz,
                values=\'日期\',
                index=\'月份\',
                columns=\'天气\')
data_pivot_gz = data_pivot_gz.astype(\'float\')
# 按照 索引年月倒序排序
data_pivot_gz.sort_index(ascending=False,inplace=True)

#设置全局默认字体 为 雅黑
plt.rcParams[\'font.family\'] = [\'Microsoft YaHei\'] 
# 设置全局轴标签字典大小
plt.rcParams[\"axes.labelsize\"] = 14  
# 设置背景
sns.set_style(\"darkgrid\",{\"font.family\":[\'Microsoft YaHei\', \'SimHei\']})  
# 设置画布长宽 和 dpi
plt.figure(figsize=(18,8),dpi=100)
# 自定义色卡
cmap = mcolors.LinearSegmentedColormap.from_list(\"n\",[\'#95B359\',\'#D3CF63\',\'#E0991D\',\'#D96161\',\'#A257D0\',\'#7B1216\']) 
# 绘制热力图

ax_sz = sns.heatmap(data_pivot_gz, cmap=cmap, vmax=31, 
                 annot=True, # 热力图上显示数值
                 linewidths=0.5,
                ) 
# 将x轴刻度放在最上面
ax_sz.xaxis.set_ticks_position(\'top\') 
plt.title(\'广州最近10个月天气分布\',fontsize=16) #图片标题文本和字体大小
plt.show()

data_pivot_sh =  pd.pivot(data_sh,
                values=\'日期\',
                index=\'月份\',
                columns=\'天气\')
data_pivot_sh = data_pivot_sh.astype(\'float\')
# 按照 索引年月倒序排序
data_pivot_sh.sort_index(ascending=False,inplace=True)

#设置全局默认字体 为 雅黑
plt.rcParams[\'font.family\'] = [\'Microsoft YaHei\'] 
# 设置全局轴标签字典大小
plt.rcParams[\"axes.labelsize\"] = 14  
# 设置背景
sns.set_style(\"darkgrid\",{\"font.family\":[\'Microsoft YaHei\', \'SimHei\']})  
# 设置画布长宽 和 dpi
plt.figure(figsize=(18,8),dpi=100)
# 自定义色卡
cmap = mcolors.LinearSegmentedColormap.from_list(\"n\",[\'#95B359\',\'#D3CF63\',\'#E0991D\',\'#D96161\',\'#A257D0\',\'#7B1216\']) 
# 绘制热力图

ax_sz = sns.heatmap(data_pivot_sh, cmap=cmap, vmax=31, 
                 annot=True, # 热力图上显示数值
                 linewidths=0.5,
                ) 
# 将x轴刻度放在最上面
ax_sz.xaxis.set_ticks_position(\'top\') 
plt.title(\'上海最近10个月天气分布\',fontsize=16) #图片标题文本和字体大小
plt.show()

data_bj = data[(data[\'城市\']==\'北京\') & (data[\'年份\'] == 2021)]
data_bj[\'日期\'] = pd.to_datetime(data_bj.日期,format=\"%Y年%m月%d日\")
data_bj = data_bj.sort_values(by=\'日期\',ascending=True)

 

北京2021年每日最高最低温度变化

python采集天气数据 并做数据可视化 (含完整源代码)

color0 = [\'#FF76A2\',\'#24ACE6\']
color_js0 = \"\"\"new echarts.graphic.LinearGradient(0, 1, 0, 0,
    [{offset: 0, color: \'#FFC0CB\'}, {offset: 1, color: \'#ed1941\'}], false)\"\"\"
color_js1 = \"\"\"new echarts.graphic.LinearGradient(0, 1, 0, 0,
    [{offset: 0, color: \'#FFFFFF\'}, {offset: 1, color: \'#009ad6\'}], false)\"\"\"
# 资料、解答、教程可加Q :261823976免费领      
tl = Timeline()
for i in range(0,len(data_bj)):
    coordy_high = list(data_bj[\'最高温度\'])[i]
    coordx = list(data_bj[\'日期\'])[i]
    coordy_low = list(data_bj[\'最低温度\'])[i]
    x_max = list(data_bj[\'日期\'])[i]+datetime.timedelta(days=10)
    y_max = int(max(list(data_bj[\'最高温度\'])[0:i+1]))+3
    y_min = int(min(list(data_bj[\'最低温度\'])[0:i+1]))-3
    title_date = list(data_bj[\'日期\'])[i].strftime(\'%Y-%m-%d\')
    c = (
        Line(
            init_opts=opts.InitOpts(
            theme=\'dark\',
            #设置动画
            animation_opts=opts.AnimationOpts(animation_delay_update=800),#(animation_delay=1000, animation_easing=\"elasticOut\"),
            #设置宽度、高度
            width=\'1500px\',
            height=\'900px\', )
        )
        .add_xaxis(list(data_bj[\'日期\'])[0:i])
        .add_yaxis(
            series_name=\"\",
            y_axis=list(data_bj[\'最高温度\'])[0:i], is_smooth=True,is_symbol_show=False,
            linestyle_opts={
                   \'normal\': {
                       \'width\': 3,
                       \'shadowColor\': \'rgba(0, 0, 0, 0.5)\',
                       \'shadowBlur\': 5,
                       \'shadowOffsetY\': 10,
                       \'shadowOffsetX\': 10,
                       \'curve\': 0.5,
                       \'color\': JsCode(color_js0)
                   }
               },
            itemstyle_opts={
            \"normal\": {
                \"color\": JsCode(
                    \"\"\"new echarts.graphic.LinearGradient(0, 0, 0, 1, [{
                offset: 0,
                color: \'#ed1941\'
            }, {
                offset: 1,
                color: \'#009ad6\'
            }], false)\"\"\"
                ),
                \"barBorderRadius\": [45, 45, 45, 45],
                \"shadowColor\": \"rgb(0, 160, 221)\",
            }
        },

        )
        .add_yaxis(
            series_name=\"\",
            y_axis=list(data_bj[\'最低温度\'])[0:i], is_smooth=True,is_symbol_show=False,
#             linestyle_opts=opts.LineStyleOpts(color=color0[1],width=3),
            itemstyle_opts=opts.ItemStyleOpts(color=JsCode(color_js1)),
            linestyle_opts={
                   \'normal\': {
                       \'width\': 3,
                       \'shadowColor\': \'rgba(0, 0, 0, 0.5)\',
                       \'shadowBlur\': 5,
                       \'shadowOffsetY\': 10,
                       \'shadowOffsetX\': 10,
                       \'curve\': 0.5,
                       \'color\': JsCode(color_js1)
                   }
               },
        )
        .set_global_opts(
            title_opts=opts.TitleOpts(\"北京2021年每日最高最低温度变化\\n\\n{}\".format(title_date),pos_left=330,padding=[30,20]),
            xaxis_opts=opts.AxisOpts(type_=\"time\",max_=x_max),#, interval=10,min_=i-5,split_number=20,axistick_opts=opts.AxisTickOpts(length=2500),axisline_opts=opts.AxisLineOpts(linestyle_opts=opts.LineStyleOpts(color=\"grey\"))
            yaxis_opts=opts.AxisOpts(min_=y_min,max_=y_max),#坐标轴颜色,axisline_opts=opts.AxisLineOpts(linestyle_opts=opts.LineStyleOpts(color=\"grey\"))
        )
    )
    tl.add(c, \"{}\".format(list(data_bj[\'日期\'])[i]))
    tl.add_schema(
        axis_type=\'time\',
        play_interval=100,  # 表示播放的速度
        pos_bottom=\"-29px\",
        is_loop_play=False, # 是否循环播放
        width=\"780px\",
        pos_left=\'30px\',
        is_auto_play=True,  # 是否自动播放。
        is_timeline_show=False)
tl.render_notebook()

data_10 = data[(data[\'年份\'] == 2021) & ( data[\'月份\'] == 10)]
data_10.head()

 

北上广深10月份每日最高气温变化

# 背景色
background_color_js = (
    \"new echarts.graphic.LinearGradient(0, 0, 0, 1, \"
    \"[{offset: 0, color: \'#c86589\'}, {offset: 1, color: \'#06a7ff\'}], false)\"
)
# 资料、解答、教程可加Q :261823976免费领      
# 线条样式
linestyle_dic = { \'normal\': {
                    \'width\': 4,  
                    \'shadowColor\': \'#696969\', 
                    \'shadowBlur\': 10,  
                    \'shadowOffsetY\': 10,  
                    \'shadowOffsetX\': 10,  
                    }
                }
    
timeline = Timeline(init_opts=opts.InitOpts(bg_color=JsCode(background_color_js),
                                            width=\'980px\',height=\'600px\'))


bj, gz, sh, sz= [], [], [], []
all_max = []
x_data = data_10[data_10[\'城市\'] == \'北京\'][\'\'].tolist()
for d_time in range(len(x_data)):
    bj.append(data_10[(data_10[\'\'] == x_data[d_time]) & (data_10[\'城市\']==\'北京\')][\"最高温度\"].values.tolist()[0])
    gz.append(data_10[(data_10[\'\'] == x_data[d_time]) & (data_10[\'城市\']==\'广州\')][\"最高温度\"].values.tolist()[0])
    sh.append(data_10[(data_10[\'\'] == x_data[d_time]) & (data_10[\'城市\']==\'上海\')][\"最高温度\"].values.tolist()[0])
    sz.append(data_10[(data_10[\'\'] == x_data[d_time]) & (data_10[\'城市\']==\'深圳\')][\"最高温度\"].values.tolist()[0])
    
    line = (
        Line(init_opts=opts.InitOpts(bg_color=JsCode(background_color_js),
                                     width=\'980px\',height=\'600px\'))
        .add_xaxis(
            x_data,
                  )
        
        .add_yaxis(
            \'北京\',
            bj,
            symbol_size=5,
            is_smooth=True,
            is_hover_animation=True,
            label_opts=opts.LabelOpts(is_show=False),
        )
  
        .add_yaxis(
            \'广州\',
            gz,
            symbol_size=5,
            is_smooth=True,
            is_hover_animation=True,
            label_opts=opts.LabelOpts(is_show=False),
        )
 
        .add_yaxis(
            \'上海\',
            sh,
            symbol_size=5,
            is_smooth=True,
            is_hover_animation=True,
            label_opts=opts.LabelOpts(is_show=False),
            
        )
 
        .add_yaxis(
            \'深圳\',
            sz,
            symbol_size=5,
            is_smooth=True,
            is_hover_animation=True,
            label_opts=opts.LabelOpts(is_show=False),
            
        )
        
        .set_series_opts(linestyle_opts=linestyle_dic)
        .set_global_opts(
            title_opts=opts.TitleOpts(
                title=\'北上广深10月份最高气温变化趋势\',
                pos_left=\'center\',
                pos_top=\'2%\',
                title_textstyle_opts=opts.TextStyleOpts(color=\'#DC143C\', font_size=20)),
            
            tooltip_opts=opts.TooltipOpts(
                trigger=\"axis\",
                axis_pointer_type=\"cross\",
                background_color=\"rgba(245, 245, 245, 0.8)\",
                border_width=1,
                border_color=\"#ccc\",
                textstyle_opts=opts.TextStyleOpts(color=\"#000\"),
        ),
            xaxis_opts=opts.AxisOpts(
#                 axislabel_opts=opts.LabelOpts(font_size=14, color=\'red\'),
#                 axisline_opts=opts.AxisLineOpts(is_show=True,
#                 linestyle_opts=opts.LineStyleOpts(width=2, color=\'#DB7093\'))
                is_show = False
            ),
                
# 资料、解答、教程可加Q :261823976免费领                  
            yaxis_opts=opts.AxisOpts(
                name=\'最高气温\',            
                is_scale=True,
#                 min_= int(min([gz[d_time],sh[d_time],sz[d_time],bj[d_time]])) - 10,
                max_= int(max([gz[d_time],sh[d_time],sz[d_time],bj[d_time]])) + 10,
                name_textstyle_opts=opts.TextStyleOpts(font_size=16,font_weight=\'bold\',color=\'#5470c6\'),
                axislabel_opts=opts.LabelOpts(font_size=13,color=\'#5470c6\'),
                splitline_opts=opts.SplitLineOpts(is_show=True, 
                                                  linestyle_opts=opts.LineStyleOpts(type_=\'dashed\')),
                axisline_opts=opts.AxisLineOpts(is_show=True,
                                        linestyle_opts=opts.LineStyleOpts(width=2, color=\'#5470c6\'))
            ),
            legend_opts=opts.LegendOpts(is_show=True, pos_right=\'1%\', pos_top=\'2%\',
                                        legend_icon=\'roundRect\',orient = \'vertical\'),
        ))
    
    timeline.add(line, \'{}\'.format(x_data[d_time]))

timeline.add_schema(
    play_interval=1000,          # 轮播速度
    is_timeline_show=True,      # 是否显示 timeline 组件
    is_auto_play=True,          # 是否自动播放
    pos_left=\"0\",
    pos_right=\"0\"
)
timeline.render_notebook()

 

效果展示(部分)

python采集天气数据 并做数据可视化 (含完整源代码)

python采集天气数据 并做数据可视化 (含完整源代码)
python采集天气数据 并做数据可视化 (含完整源代码)
python采集天气数据 并做数据可视化 (含完整源代码)
python采集天气数据 并做数据可视化 (含完整源代码)
python采集天气数据 并做数据可视化 (含完整源代码)
python采集天气数据 并做数据可视化 (含完整源代码)

尾语

成功没有快车道,幸福没有高速路。

所有的成功,都来自不倦地努力和奔跑,所有的幸福都来自平凡的奋斗和坚持

——励志语录

本文章就写完啦~感兴趣的小伙伴可以复制代码去试试

你们的支持是我最大的动力!!记得三连哦~ 💕 欢迎大家阅读往期的文章呀~

 


来源:https://www.cnblogs.com/Qqun261823976/p/16443382.html
本站部分图文来源于网络,如有侵权请联系删除。

未经允许不得转载:百木园 » python采集天气数据 并做数据可视化 (含完整源代码)

相关推荐

  • 暂无文章