python - 熊猫在时间序列中每 30 分钟填充一次缺失的日期

Question

我的数据集中有这种情况：

timestamp                  value

2020-05-02 22:35:05        13.68

2020-05-02 22:05:05        13.86

2020-05-02 21:05:05        14.44

2020-05-02 20:35:05        14.26

2020-05-02 20:05:05        13.85

数据集来自传感器对温度的检测，时间戳应该是每 30 分钟一次，有时这不会发生。我应该通过在我的数据集中插入丢失的时间戳来解决这种情况，然后我应该将它与接近 t-1 和 t + 1 的值相关联。有人可以帮我解决这种情况吗？

谢谢！

标签： pythonpandasdata-cleaningmissing-data

Answer 1

Pandas 有一个重采样功能，您可以在其中向下/向上采样时间序列数据。从此，您还可以应用一个函数来说明您希望如何“填充”缺失值（如果有）。

有关您的数据，请参见下面的示例。首先，我们确保该timestamp列是日期时间类型，并且该value列是数字的（首先删除逗号）。然后我们将数据框的索引设置为时间戳列。现在我们以 30 分钟间隔 ('30T') 重新采样数据。然后我们可以对结果进行插值以填补空白。有很多方法可以做到这一点，有关更多信息，请参阅文档。

import pandas as pd

df['timestamp'] = pd.to_datetime(df['timestamp'])
df['value'] = pd.to_numeric(df['value'].str.replace(',',''))

result = df.set_index('timestamp') \
  .resample(rule='30T', offset=pd.Timedelta(minutes=5, seconds=5)) \
  .interpolate(method='time')

结果是：

                      value
timestamp                  
2020-05-02 20:05:05  1385.0
2020-05-02 20:35:05  1426.0
2020-05-02 21:05:05  1444.0
2020-05-02 21:35:05  1415.0
2020-05-02 22:05:05  1386.0
2020-05-02 22:35:05  1368.0