(图片来自百度)

数据

分析数据第一步还是套路------画图

数据看上去比较平整,但是由于数据太对看不出具体情况,于是将只取前300个数据再此画图

这数据看上去很不错,感觉有隐藏周期的意思

代码

#coding:utf-8
import csv
import matplotlib.pyplot as plt def read_csv_data(aim_list_1, aim_list_2, file_name):
i = 0
csv_file = csv.reader(open(file_name,'r'))
for data in csv_file:
if (i == 0):
i += 1
continue
aim_list_1.append(float(data[1]))
aim_list_2.append(data[3])
return
def plot_picture(x, y):
plt.xlabel('x')
plt.ylabel('y')
plt.plot(x, y)
plt.show()
return
if __name__ == '__main__':
temp = []
tim = []
file_name = 'C:/Users/lichaoxing/Desktop/testdata.csv'
read_csv_data(temp, tim, file_name)
plot_picture(tim[:300], temp[:300])

使用ARIMA模型(ARMA)

第一步观察数据是否是平稳序列,通过上图可以看出是平稳的

如果不平稳,则需要进行预处理,方法有   对数变换    差分

对于平稳的时间序列可以直接使用ARMA(p, q)模型进行拟合

ARMA (p, q) :  AR(p) + MA(q)

此时参数p和q的确定可以通过观察ACF和PACF图来确定

通过观察PACF图可以看出,阶数为9也就是p=9,这里ACF图看出自相关呈现震荡下降收敛,但是怎么决定出q,我没太明白,这里姑且拍脑袋才一个吧就q=3

但是这里我遇到了一个问题,没有搞懂,就是平稳的序列,如果我进行一阶差分后应该仍然是平稳的序列,但是这个时候我又画了一个ACF与PACF图,竟然是下图这样,lag的范围是-0.04到0.04(不懂)


lag的范围是-0.04到0.04的问题原因(修改于再次使用此模型)

原因:

当时,我使用的是一阶差分,也就是让数据的后一个值减去前一个值得到新的值,这样就会导致第一个值变为缺失值(下面的数据是再此使用此模型时的数据,与原博客数据无关)

就是因为此处的值为缺失值,导致绘制ACF与PACF时数据有问题而无法成功显示

解决办法,在绘制上述图形前,将第一个数据去除:

dta= dta.diff(1)
dta = dta.truncate(before= ym[1])#删除第一个缺失值

其实还有就是使用ADF检验,得到的结果如图,这个p值很小===》平稳

画图代码

def acf_pacf(temp, tim):
x = tim
y = temp
dta = pd.Series(y, index = pd.to_datetime(x))
fig = plt.figure(figsize=(9,6))
ax1 = fig.add_subplot(211)
fig = sm.graphics.tsa.plot_acf(dta,lags=50,ax=ax1)
ax2 = fig.add_subplot(212)
fig = sm.graphics.tsa.plot_pacf(dta,lags=50,ax=ax2)
show()

ADF检验代码

def test_stationarity(timeseries):
dftest = adfuller(timeseries, autolag='AIC')
return dftest[1]

这里先使用ARMA(9,3)来实验测试一下效果,取前300个数据中的前250个作为train,后面的作为test

效果

可以说这个模型是真的强大,预测的还是十分准确的

代码

def test_300(temp, tim):

    x = tim[0:300]
y = temp[0:300]
dta = pd.Series(y[0:249], index = pd.to_datetime(x[0:249])) fig = plt.figure(figsize=(9,6))
ax1 = fig.add_subplot(211)
fig = sm.graphics.tsa.plot_acf(dta,lags=30,ax=ax1)
ax2 = fig.add_subplot(212)
fig = sm.graphics.tsa.plot_pacf(dta,lags=30,ax=ax2) arma_mod = sm.tsa.ARMA(dta, (9, 3)).fit(disp = 0) predict_sunspots = arma_mod.predict(x[200], x[299], dynamic=True) fig, ax = plt.subplots(figsize=(9, 6))
ax = dta.ix[x[0]:].plot(ax=ax)
predict_sunspots.plot(ax=ax) show()

其实,可以通过代码来自动的选择p和q的值,依据BIC准则,目标就是bic越小越好

代码

def proper_model(timeseries, maxLag):
init_bic = 100000000
init_properModel = None
for p in np.arange(maxLag):
for q in np.arange(maxLag):
model = ARMA(timeseries, order=(p, q))
try:
results_ARMA = model.fit(disp = 0, method='css')
except:
continue
bic = results_ARMA.bic
if bic < init_bic:
init_properModel = results_ARMA
init_bic = bic
return init_properModel

遇到的问题,预测时predict函数没怎么使用明白

当写于某些预测区间的时候,会报 “start”或“end”的相关错误,还有一个函数forcast,这个函数使用就是forcast(N):预测后面N个值

返回的是预测值(array型)标准误差(array型)置信区间(array型)

还有:

对于构造时间序列,时间可以是时间格式:如 “2018-01-01”  或者就是个时间戳,在用时间戳的时候,其实在序列里它会自动识别时间戳,并加上起始时间1970-01-01 00:00:01

形式

附录(代码)

预测一序列中某一点的值

#coding:utf-8
import csv
import time
import pandas as pd
import numpy as np
from statsmodels.tsa.arima_model import ARMA
import argparse
import warnings warnings.filterwarnings('ignore')
def timestamp_datatime(value):
value = time.localtime(value)
dt = time.strftime('%Y-%m-%d %H:%M',value)
return dt def time_timestamp(my_date):
my_date_array = time.strptime(my_date,'%Y-%m-%d %H:%M')
my_date_stamp = time.mktime(my_date_array)
return my_date_stamp def read_csv_data(aim_list_1, aim_list_2, file_name):
i = 0
csv_file = csv.reader(open(file_name,'r'))
for data in csv_file:
if (i == 0):
i += 1
continue
aim_list_1.append(float(data[1])) #1:温度 2:湿度
dt = int(data[3])
aim_list_2.append(dt)
return def proper_model(timeseries, maxLag):
init_bic = 100000000
init_properModel = None
for p in np.arange(maxLag):
for q in np.arange(maxLag):
model = ARMA(timeseries, order=(p, q)) #bug
try:
results_ARMA = model.fit(disp = 0, method='css')
except:
continue
bic = results_ARMA.bic
if bic < init_bic:
init_properModel = results_ARMA
init_bic = bic
return init_properModel def test_300(temp, tim, time_in): x = []
y = []
end_index = len(tim)
for i in range(0, len(tim)):
if (time_in - (tim[i]) < 300):
end_index = i
break
if (end_index < 100):
x = tim[0: end_index]
y = temp[0: end_index]
else:
x = tim[end_index - 100: end_index]
y = temp[end_index - 100: end_index] tidx = pd.DatetimeIndex(x, freq='infer')
dta = pd.Series(y, index = tidx)
print(dta)
arma_mod = proper_model(dta, 9) predict_sunspots = arma_mod.forecast(1)
return predict_sunspots[0]
def predict_temperature(file_name, time_in): temp = []
tim = []
read_csv_data(temp, tim, file_name) result_temp = test_300(temp, tim, time_in) return result_temp
if __name__ == '__main__': parser = argparse.ArgumentParser()
parser.add_argument('-f', action='store', dest='file_name')
parser.add_argument('-t', action='store', type = int, dest='time_') args = parser.parse_args()
file_name = args.file_name
time_in = args.time_ result_temp = predict_temperature(file_name, time_in) print ('the temperature is %f ' % result_temp)

在上面的代码中,预测某一点的值我采用序列中此点的前100个点作为训练集

如果给出待预测的多个点,由于每次都要计算模型的p和q以及拟合模型,时间会很慢,于是考虑将给定的待预测时间点序列切割成小段,使每一段中最大与最小的时间间隔在某一范围内

在使用forcast(n)函数一次预测多点,然后在预测值中找到与待预测的时间值相近的值,速度大大提升,思路如图

代码

#coding:utf-8
import csv
#import time
import pandas as pd
import numpy as np
from statsmodels.tsa.arima_model import ARMA
import warnings warnings.filterwarnings('ignore') def proper_model(timeseries, maxLag):
init_bic = 1000000000
init_p = 1
init_q = 1
for p in np.arange(maxLag):
for q in np.arange(maxLag):
model = ARMA(timeseries, order=(p, q))
try:
results_ARMA = model.fit(disp = 0, method='css')
except:
continue
bic = results_ARMA.bic
if bic < init_bic:
init_p = p
init_q = q
init_bic = bic
return init_p, init_q def read_csv_data(file_name, clss = 1):
i = 0
aim_list_1 = [] #temperature(1) or humidity(2)
aim_list_2 = [] #time
csv_file = csv.reader(open(file_name,'r'))
for data in csv_file:
if (i == 0):
i += 1
continue
aim_list_1.append(float(data[clss]))
dt = int(data[3])
aim_list_2.append(dt) tidx = pd.DatetimeIndex(aim_list_2, freq = None)
dta = pd.Series(aim_list_1, index = tidx)
init_p, init_q = proper_model(dta[:aim_list_2[100]], 9)
return init_p, init_q, aim_list_2, dta def for_kernel(p, q, tim, dta, tmp_time_list, result_dict):
interval = 20
end_index = len(tim) - 1
for i in range(0, len(tim)):
if (tmp_time_list[0]["time"] - tim[i] < tim[1] - tim[0]):
end_index = i
break if (end_index < 100):
dta = dta.truncate(after = tim[end_index])
else:
dta = dta.truncate(before= tim[end_index - 101], after = tim[end_index]) arma_mod = ARMA(dta, order=(p, q)).fit(disp = 0, method='css')
#为未来interval天进行预测, 返回预测结果, 标准误差, 和置信区间
predict_sunspots = arma_mod.forecast(interval)
####################################
for tim_i in tmp_time_list:
for tim_ in tim:
if tim_i["time"] - tim_ >= 0 and tim_i["time"] - tim_ < tim[1] - tim[0]:
result_dict[tim_i["time"]] = predict_sunspots[0][tim.index(tim_) - end_index]
return def kernel(p, q, tim, dta, time_in_list):
interval = 20
time_first = time_in_list[0]
det_time = tim[1] - tim[0]
result_dict = {}
tmp_time_list = []
for time_ in time_in_list:
if time_first["time"] + det_time * interval > time_["time"]:
tmp_time_list.append(time_)
continue time_first = time_
for_kernel(p, q, tim, dta, tmp_time_list, result_dict)
tmp_time_list = []
tmp_time_list.append(time_first) for_kernel(p, q, tim, dta, tmp_time_list, result_dict) return result_dict def predict_temperature(file_name, time_in_list, clss = 1):
p, q, tim, dta = read_csv_data(file_name, clss) result_temp_dict = kernel(p, q, tim, dta, time_in_list) return result_temp_dict def predict_humidity(file_name, time_in_list, clss = 2):
p, q, tim, dta = read_csv_data(file_name, clss)
result_humi_dict = kernel(p, q, tim, dta, time_in_list) return result_humi_dict if __name__ == '__main__': file_name = "testdata.csv"
time_in = [{"time":1530419271,"temp":"","humi":""},{"time":1530600187,"temp":"","humi":""},{"time":1530825809,"temp":"","humi":""}] #time_in = [{"time":1530600187,"temp":"","humi":""},]
result_temp = predict_temperature(file_name, time_in)
print(result_temp)

由于后续又改动了需求,需要预测温度以及湿度,完成了项目在github

https://github.com/xinglicha0/armamodel


ARIMA模型---时间序列分析---温度预测的更多相关文章

  1. 【机器学习笔记之五】用ARIMA模型做需求预测用ARIMA模型做需求预测

    本文结构: 时间序列分析? 什么是ARIMA? ARIMA数学模型? input,output 是什么? 怎么用?-代码实例 常见问题? 时间序列分析? 时间序列,就是按时间顺序排列的,随时间变化的数 ...

  2. 时间序列分析工具箱—— h2o + timetk

    目录 时间序列分析工具箱-- h2o + timetk h2o 的用途 加载包 安装 h2o 加载包 数据 教程:h2o + timetk,时间序列机器学习 时间序列机器学习 最终的胜利者是... 翻 ...

  3. ARIMA模型——本质上是error和t-?时刻数据差分的线性模型!!!如果数据序列是非平稳的,并存在一定的增长或下降趋势,则需要对数据进行差分处理!ARIMA(p,d,q)称为差分自回归移动平均模型,AR是自回归, p为自回归项; MA为移动平均,q为移动平均项数,d为时间序列成为平稳时所做的差分次数

    https://www.cnblogs.com/bradleon/p/6827109.html 文章里写得非常好,需详细看.尤其是arima的举例! 可以看到:ARIMA本质上是error和t-?时刻 ...

  4. 时间序列分析工具箱——timetk

    目录 时间序列分析工具箱--timetk timetk 的主要用途 加载包 数据 timetk 教程: PART 1:时间序列机器学习 PART 2:转换 翻译自<Demo Week: Time ...

  5. 【R实践】时间序列分析之ARIMA模型预测___R篇

    时间序列分析之ARIMA模型预测__R篇 之前一直用SAS做ARIMA模型预测,今天尝试用了一下R,发现灵活度更高,结果输出也更直观.现在记录一下如何用R分析ARIMA模型. 1. 处理数据 1.1. ...

  6. 用R做时间序列分析之ARIMA模型预测

    昨天刚刚把导入数据弄好,今天迫不及待试试怎么做预测,网上找的帖子跟着弄的. 第一步.对原始数据进行分析 一.ARIMA预测时间序列 指数平滑法对于预测来说是非常有帮助的,而且它对时间序列上面连续的值之 ...

  7. 时间序列模式——ARIMA模型

    ARIMA模型全称为自回归积分滑动平均模型(Autoregressive Integrated Moving Average Model,简记ARIMA),是由博克思(Box)和詹金斯(Jenkins ...

  8. [python] 时间序列分析之ARIMA

    1 时间序列与时间序列分析 在生产和科学研究中,对某一个或者一组变量  进行观察测量,将在一系列时刻  所得到的离散数字组成的序列集合,称之为时间序列. 时间序列分析是根据系统观察得到的时间序列数据, ...

  9. 时间序列预测之--ARIMA模型

    什么是 ARIMA模型 ARIMA模型的全称叫做自回归移动平均模型,全称是(ARIMA, Autoregressive Integrated Moving Average Model).也记作ARIM ...

随机推荐

  1. HTML5的学习(二)HTML5标签

    3.按功能排列标签 (注:红色为HTML5不支持的,蓝色为HTML5新增的标签元素.)   3.1基本 标签 描述 HTML4 HTML5 <!--...--> 定义注释. √ √ < ...

  2. python(七) Python中单下划线和双下划线

    Python中单下划线和双下划线: 一.分类 (1).以单下划线开头,表示这是一个保护成员,只有类对象和子类对象自己能访问到这些变量. 以单下划线开头的变量和函数被默认是内部函数,使用from mod ...

  3. mysql 查询优化 ~explain解读之select_type的解读

    一 简介:今天咱们来聊聊explain的select_type 二 类型 (1)SIMPLE 简单的SELECT语句(不包括UNION操作或子查询操作) (2)PRIMARY/UNION PRIMAR ...

  4. linux bash的重定向

    cnblogs原创 下面几种bash重定向各表示什么意思? find / -name passwd > /dev/null >& > /dev/null find / -na ...

  5. ubuntu 14.04 软件中心闪退解决方案

    法一: gksudo gedit /usr/share/software-center/softwarecenter/ui/gtk3/views/lobbyview.py 注释下面这句话(注释使用#号 ...

  6. 【Python】【辅助程序】练手小程序:记录外网动态IP地址

    练手小程序 程序作用:对IP实时记录: 1.定时获取外网IP,存储在本地文件中: 编写思路: 1)收集获取外网的API接口       http://bbs.125.la/thread-1383897 ...

  7. suse系统开启ssh方法

    1.防火墙放开ssh服务 打开/etc/sysconfig/SuSEfirewall2 文件,FW_SERVICES_EXT_TCP="ssh"可以定义开放ssh的服务 2.编辑s ...

  8. sqlserver 无法获得数据库独占权

    ALTER DATABASE trqxs_cs SET OFFLINE WITH ROLLBACK IMMEDIATE

  9. Window下通过charles代理抓取iphone/android手机Https请求乱码问题处理

    Window下通过charles代理抓取iphone手机Https请求乱码问题 如果保持默认设置,https的reqeust和response都是乱码,设置完之后https就可以抓包了 手机端操作: ...

  10. Android手机刘海屏(附工具类)

    工具类 根据VIVO.OPPO.华为官方文档,这里整理了一个刘海屏工具类,判断设备是否为刘海屏,其他厂商公布相关方法后也会在此更新. OPPO: /** * OPPO * * @param conte ...