python - 比较不同、不平等数据集中的日期并为给定日期范围增加价值

Question

我正在尝试比较两个时间序列数据集。其中一个数据集具有一组时间范围（事件开始时间和结束时间）和一个值。第二个数据集的时间范围（频率 = 1 小时）从数据集 1 的最小开始时间到最大结束时间。我想为时间范围匹配的人添加一个值。

例子：

数据集 1，作为 pandas 数据框导入并解析日期：

data1:
Start_Time       |     End_Time        | Value

01/01/2017 13:00   01/01/2017 16:00      68
01/02/2017 00:00   01/02/2017 08:00      70
01/03/2017 10:00   01/03/2017 17:00      90

数据集 2 是使用 pandas date_range 创建的

data2['date'] = pd.date_range(start=data1['Start_Time'].min(), 
                            end = data1['End_Time'].max(), freq = '1H')

我尝试使用np.where找到满足条件的日期范围

注意：两个 DataFrame 的大小不相等

data2['Value'] = np.where((data1['Start_Time']>=data2['date'][data1.index]) 
                  & (data1['End_time']<=data2['date'][data1.index]),
                  data1['Value'], 0)

我需要的 data2 数据框是

Date             | Value
01/01/2017 13:00   68
01/01/2017 14:00   68
01/01/2017 15:00   68
01/01/2017 16:00   68
01/01/2017 17:00   0
01/01/2017 18:00   0
.
.
.
.
01/02/2017 00:00   70
01/02/2017 01:00   70
01/02/2017 02:00   70
and so on.

标签： pythonpandaspython-datetimedate-comparison

Answer 1

我正在使用numpy广播，它是 o(m*n) 方法

#data1.Start_Time=pd.to_datetime(data1.Start_Time)
#data1.End_Time=pd.to_datetime(data1.End_Time)
s1=data1.Start_Time.values
s2=data1.End_Time.values
s=data2.date.values
a=np.dot((s[:,None]>=s1)&(s[:,None]<=s2),data1.Value.values)
Out[639]: 
array([68, 68, 68, 68,  0,  0,  0,  0,  0,  0,  0, 70, 70, 70, 70, 70, 70,
       70, 70, 70,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,
        0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 90, 90, 90, 90, 90, 90,
       90, 90], dtype=int64)
data2['Value']=a