本文将演示 3 个处理时间序列数据最常用的 pandas 操作
首先我们要导入需要的库:
本文使用的数据集非常简单。它只有 1 列,名为 VPact (mbar),表示气候中的气压。该数据集的索引是日期时间类型:
我们也可以应用 pd.to_datetime(df.index) 来制作日期时间类型的索引。
本地化时区
- 本地化是什么意思?
本地化意味着将给定的时区更改为目标或所需的时区。这样做不会改变数据集中的任何内容,只是日期和时间将显示在所选择的时区中。
- 为什么需要它?
如果你拿到的时间序列数据集是UTC格式的,而你的客户要求你根据例如美洲时区来处理气候数据。你就需要在将其提供给模型之前对其进行更改,因为如果您不这样做模型将生成的结果将全部基于UTC。
- 如何修改
只需要更改数据集的索引部分
看看下面的结果:
数据集的索引部分发生变化。日期和时间和以前一样,但现在它在最后显示+00:00。这意味着pandas现在将索引识别为UTC时区的时间实例。
现在我们可以专注于将UTC时区转换为我们想要的时区。
现在我们的时区已经改变到卡塔尔时区+03:00。
时间窗口重采样
在本节中将研究如何根据时间间隔来预测时间序列数据。
- 这是什么意思?
这意味着收集一定范围的目标值(在本例中为蒸气压读数)并以某种方式概括它们,以便我们可以大致了解数据集中的趋势。我们可以通过取平均值、最大值、最小值等来概括假设一次读数的组。这里我们将5 个读数分成一组,也就是我们所说的时间窗口
- 我们为什么需要它?
我将用一个例子来解释这一点。假设客户的问题是:
“我给你我的气候传感器读数,每 10 分钟获取一次,我希望你告诉我每天对蒸气压的预测。也就是说,我想要对未来每一天的预测。”
现在你可能会说,这有什么大不了的?我们手上有一些读数,每 10 分钟读取一次,我们只需要预测每天的气压。
在我们开始工作之前,让我们先对器进行可视化:
- 如何重采样
现在,我们重新采样数据集,并使其成为汇总数据的单行/记录。
这可能看起来很奇怪,但它返回的是一个对象而不是一个DF。如果我们试图运行resampled_df.head(),它会抛出一个错误。这是因为虽然已经将它重新采样为每行一天,但我们还没有告诉它应该如何聚合一天窗口中出现的所有读数。
聚合的操作包括:最大值、最小值、平均值、众数?本文中我们取平均值。
我们还需要将其转换为df。
时间索引从每分钟读数变为每天。我们再次可视化
时间间隔小了很多,显示的也是每天的数据
填补时间空白
本节中将介绍如何填充数据中的时间间隔。
- 这是什么意思?
时间序列数据由是一段连续的时间产生的数据组成。如果在数据集中有一些缺失的数据会就会在时间间隔上产生裂缝
- 为什么需要它?
如果给模型提供有空白的数据,模型会立即崩溃,这是我们不想看到的。
让我们假设我们的数据集有一些空值序列。数据集看起来像这样:
- 如何填充空白
我们尝试各种各样的值来填补这一空白。但是没有一个是标准,因为所有的填充值都只是对实际值的广义猜测。
在这个的例子中,我只展示其中一种填充方法,其他的方法都与其类似。这里将使用正向填充法。这个方法遍历我数据集,并获取它在遇到空白之前读取的最后一个值,并用最后一个值填充整个空白。这个方法虽然简单,但在很多情况下还是有用的。
我们还将它转换成一个DF。
现在让我们看看数据集。应该看一条完整的线,并且不包含空白的空间。
缺失的数据现在已经被补齐了。
总结
以上就是3个常用的时间数据处理的操作,希望对你有帮助。
本文源代码
https://www.kaggle.com/code/muhammadhammad02/wrangling-concepts-with-time-series-data