首页 > 技术文章 > pandas根据时间(日期)跨度处理数据

dogecheng 2020-03-14 21:30 原文

简介

  最近给同学帮忙的时候需要按一个时间(日期)范围内的数据进行一些统计和处理,而且期望这个时间范围是一个可以修改的参数,这里顺便记录和分享一下。数据不方便放上来,这里就自己随便模拟一些数据出来。

代码

  主要使用要pandas和datetime这两个库。我们先生成模拟数据

import pandas as pd
import datetime
df = pd.DataFrame(
  {
    'Symbol':['A','A','A', 'B', 'B', 'C', 'C', 'C'] ,
    'Msg':['AAA','AAA','AAC', 'BBB', 'BBC', 'CCC', 'CCC', 'CCD'] ,
    'Date':['02/20/2015','01/15/2016','02/21/2015', '02/24/2015','03/01/2015', '02/22/2015','01/17/2015','03/21/2015']
  }
)

① 先将日期转变为pandas中的日期类型,排序方式为升序。为了后面能根据时间范围筛选数据,还需要将索引设置为日期

df['Date'] =pd.to_datetime(df.Date)
df = df.sort_values(by='Date', ascending=True)
df.index = df['Date']

② 利用 datetime.timedelta 自动计算。假设我们需要以7天为单位来处理数据,我们设置好起始时间,然后利用 datetime.timedelta 帮助我们计算终止时间(7天后的日期)。然后取出这范围内的数据即可。

start = datetime.datetime.strptime(str(df['Date'][0]), '%Y-%m-%d %H:%M:%S')
end = start + datetime.timedelta(days=7)
df[start: end]

③ 基本的使用就是上面那个样子,现在我们写个函数来自动取出每个时间范围内的数据就可以了,我们还需要知道数据集的时间跨度,以设置循环次数。

import math
delta = 7                                             # 处理的时间范围
day_num = (df['Date'].max() - df['Date'].min()).days  # 数据集的时间跨度
loop_num = math.ceil(day_num / delta)                 # 计算循环次数
start = datetime.datetime.strptime(str(df['Date'][0]), '%Y-%m-%d %H:%M:%S')
end = start + datetime.timedelta(days=delta)
for _ in range(loop_num):
    df_period = df[start: end]
    print('处理%s至%s' % (start, end))
    start = end
    end += datetime.timedelta(days=delta)

timedelta 支持的时间单位如下图所示,可以根据实际情况和需要进行选择,更改单位时注意循环上限即可

推荐阅读