时间序列 - 数据处理与可视化



时间序列是在等距时间间隔内索引的一系列观察值。因此,在任何时间序列中都应保持顺序和连续性。

我们将使用的数据集是一个多变量时间序列,包含一个意大利污染严重的城市大约一年的空气质量小时数据。该数据集可以从以下链接下载:https://archive.ics.uci.edu/ml/datasets/air+quality

有必要确保:

  • 时间序列是等距的,并且

  • 其中没有冗余值或缺失值。

如果时间序列不连续,我们可以对其进行上采样或下采样。

显示 df.head()

In [122]

import pandas

In [123]

df = pandas.read_csv("AirQualityUCI.csv", sep = ";", decimal = ",")
df = df.iloc[ : , 0:14]

In [124]

len(df)

Out[124]

9471

In [125]

df.head()

Out[125]

Code Snippet

为了预处理时间序列,我们确保数据集中没有 NaN(NULL)值;如果有,我们可以用 0 或平均值或前一个或后一个值替换它们。替换是优于删除的首选方法,以便保持时间序列的连续性。但是,在我们的数据集中,最后几个值似乎为 NULL,因此删除不会影响连续性。

删除 NaN(非数字)

In [126]

df.isna().sum()
Out[126]:
Date             114
Time             114
CO(GT)           114
PT08.S1(CO)      114
NMHC(GT)         114
C6H6(GT)         114
PT08.S2(NMHC)    114
NOx(GT)          114
PT08.S3(NOx)     114
NO2(GT)          114
PT08.S4(NO2)     114
PT08.S5(O3)      114
T                114
RH               114
dtype: int64

In [127]

df = df[df['Date'].notnull()]

In [128]

df.isna().sum()

Out[128]

Date             0
Time             0
CO(GT)           0
PT08.S1(CO)      0
NMHC(GT)         0
C6H6(GT)         0
PT08.S2(NMHC)    0
NOx(GT)          0
PT08.S3(NOx)     0
NO2(GT)          0
PT08.S4(NO2)     0
PT08.S5(O3)      0
T                0
RH               0
dtype: int64

时间序列通常以折线图的形式绘制在时间轴上。为此,我们现在将合并日期和时间列,并将其从字符串转换为日期时间对象。这可以通过使用 datetime 库来实现。

转换为日期时间对象

In [129]

df['DateTime'] = (df.Date) + ' ' + (df.Time)
print (type(df.DateTime[0]))

<class 'str'>

In [130]

import datetime

df.DateTime = df.DateTime.apply(lambda x: datetime.datetime.strptime(x, '%d/%m/%Y %H.%M.%S'))
print (type(df.DateTime[0]))

<class 'pandas._libs.tslibs.timestamps.Timestamp'>

让我们看看一些变量(如温度)如何随着时间的变化而变化。

显示图表

In [131]

df.index = df.DateTime

In [132]

import matplotlib.pyplot as plt
plt.plot(df['T'])

Out[132]

[<matplotlib.lines.Line2D at 0x1eaad67f780>]
Code Snippet 4

In [208]

plt.plot(df['C6H6(GT)'])

Out[208]

[<matplotlib.lines.Line2D at 0x1eaaeedff28>]

箱线图是另一种有用的图表类型,它允许您将大量数据集信息浓缩到一个图表中。它显示了一个或多个变量的平均值、25% 和 75% 分位数以及异常值。当异常值数量少且与平均值相距甚远时,我们可以通过将其设置为平均值或 75% 分位数来消除异常值。

显示箱线图

In [134]

plt.boxplot(df[['T','C6H6(GT)']].values)

Out[134]

{'whiskers': [<matplotlib.lines.Line2D at 0x1eaac16de80>,
   <matplotlib.lines.Line2D at 0x1eaac16d908>,
   <matplotlib.lines.Line2D at 0x1eaac177a58>,
   <matplotlib.lines.Line2D at 0x1eaac177cf8>],
   'caps': [<matplotlib.lines.Line2D at 0x1eaac16d2b0>,
   <matplotlib.lines.Line2D at 0x1eaac16d588>,
   <matplotlib.lines.Line2D at 0x1eaac1a69e8>,
   <matplotlib.lines.Line2D at 0x1eaac1a64a8>],
   'boxes': [<matplotlib.lines.Line2D at 0x1eaac16dc50>,
   <matplotlib.lines.Line2D at 0x1eaac1779b0>],
   'medians': [<matplotlib.lines.Line2D at 0x1eaac16d4a8>,
   <matplotlib.lines.Line2D at 0x1eaac1a6c50>],
   'fliers': [<matplotlib.lines.Line2D at 0x1eaac177dd8>,
   <matplotlib.lines.Line2D at 0x1eaac1a6c18>],'means': []
}
Code Snippet 5
广告