SPSS19.0实战之多元线性回归
线性回归数据来自于国泰安数据服务中心的经济研究数据库。网址：http://www.gtarsc.com/p/sq/。数据名称为：全国各地区能源消耗量与产量，该数据的年度标识为2006年，地区包括我国30个省，直辖市，自治区（西藏地区无数据）。
1.1 数据预处理
数据预处理包括的内容非常广泛，包括数据清理和描述性数据汇总，数据集成和变换，数据归约，数据离散化等。本次实习主要涉及的数据预处理只包括数据清理和描述性数据汇总。一般意义的数据预处理包括缺失值填写和噪声数据的处理。于此我们只对数据做缺失值填充，但是依然将其统称数据清理。
1.1.1 数据导入与定义
单击“打开数据文档
”，将xls格式的全国各地区能源消耗量与产量的数据导入SPSS中，如图1-1所示。
图1-1 导入数据
导入过程中，各个字段的值都被转化为字符串型（String），我们需要手动将相应的字段转回数值型。单击菜单栏的“
”-->“
”将所选的变量改为数值型。如图1-2所示：
图1-2 定义变量数据类型
1.1.2 数据清理
数据清理包括缺失值的填写和还需要使用SPSS分析工具来检查各个变量的数据完整性。单击“
”-->“
”，将检查所输入的数据的缺失值个数以及百分比等。如图1-3所示：
图1-3缺失值分析
能源数据缺失值分析结果如表1-1所示：
|
单变量统计 |
|||||||
|
N |
均值 |
标准差 |
缺失 |
极值数目a |
|||
|
计数 |
百分比 |
低 |
高 |
||||
|
能源消费总量 |
30 |
9638.50 |
6175.924 |
0 |
.0 |
0 |
1 |
|
煤炭消费量 |
30 |
9728.99 |
7472.259 |
0 |
.0 |
0 |
2 |
|
焦炭消费量 |
30 |
874.61 |
1053.008 |
0 |
.0 |
0 |
2 |
|
原油消费量 |
28 |
1177.51 |
1282.744 |
2 |
6.7 |
0 |
1 |
|
汽油消费量 |
30 |
230.05 |
170.270 |
0 |
.0 |
0 |
1 |
|
煤油消费量 |
28 |
45.40 |
66.189 |
2 |
6.7 |
0 |
4 |
|
柴油消费量 |
30 |
392.34 |
300.979 |
0 |
.0 |
0 |
2 |
|
燃料油消费量 |
30 |
141.00 |
313.467 |
0 |
.0 |
0 |
3 |
|
天然气消费量 |
30 |
19.56 |
22.044 |
0 |
.0 |
0 |
2 |
|
电力消费量 |
30 |
949.64 |
711.664 |
0 |
.0 |
0 |
3 |
|
原煤产量 |
26 |
9125.97 |
12180.689 |
4 |
13.3 |
0 |
2 |
|
焦炭产量 |
29 |
1026.49 |
1727.735 |
1 |
3.3 |
0 |
2 |
|
原油产量 |
18 |
1026.48 |
1231.724 |
12 |
40.0 |
0 |
0 |
|
燃料油产量 |
25 |
90.72 |
134.150 |
5 |
16.7 |
0 |
3 |
|
汽油产量 |
26 |
215.18 |
210.090 |
4 |
13.3 |
0 |
2 |
|
煤油产量 |
20 |
48.44 |
62.130 |
10 |
33.3 |
0 |
0 |
|
柴油产量 |
26 |
448.29 |
420.675 |
4 |
13.3 |
0 |
1 |
|
天然气产量 |
20 |
29.28 |
49.391 |
10 |
33.3 |
0 |
3 |
|
电力产量 |
30 |
954.74 |
675.230 |
0 |
.0 |
0 |
0 |
|
表2-1 能源消耗量与产量数据缺失值分析 |
|||||||
表1-1 能源消耗量与产量数据缺失值分析
SPSS提供了填充缺失值的工具，点击菜单栏“
”-->“
”，即可以使用软件提供的几种填充缺失值工具，包括序列均值，临近点中值，临近点中位数等。结合本次实习数据的具体情况，我们不使用SPSS软件提供的替换缺失值工具，主要是手动将缺失值用零值来代替。
1.1.3 描述性数据汇总
描述性数据汇总技术用来获得数据的典型性质，我们关心数据的中心趋势和离中趋势，根据这些统计值，可以初步得到数据的噪声和离群点。中心趋势的量度值包括：均值（mean），中位数（median），众数（mode）等。离中趋势量度包括四分位数（quartiles），方差（variance）等。
SPSS提供了详尽的数据描述工具，单击菜单栏的“”-->“
”-->“
”，将弹出如图2-4所示的对话框，我们将所有变量都选取到，然后在选项中勾选上所希望描述的数据特征，包括均值，标准差，方差，最大最小值等。由于本次数据的单位不尽相同，我们需要将数据标准化，同时勾选上“将标准化得分另存为变量”。
图1-4 描述性数据汇总
得到如表1-2所示的描述性数据汇总。
|
N |
极小值 |
极大值 |
均值 |
标准差 |
方差 |
|
|
能源消费总量 |
30 |
911 |
26164 |
9638.50 |
6175.924 |
38142034.412 |
|
煤炭消费量 |
30 |
332 |
29001 |
9728.99 |
7472.259 |
55834651.378 |
|
焦炭消费量 |
30 |
19 |
5461 |
874.61 |
1053.008 |
1108824.853 |
|
原油消费量 |
30 |
0 |
5555 |
1099.01 |
1273.265 |
1621202.562 |
|
汽油消费量 |
30 |
18 |
771 |
230.05 |
170.270 |
28991.746 |
|
煤油消费量 |
30 |
0 |
262 |
42.37 |
64.896 |
4211.520 |
|
柴油消费量 |
30 |
27 |
1368 |
392.34 |
300.979 |
90588.441 |
|
燃料油消费量 |
30 |
0 |
1574 |
141.00 |
313.467 |
98261.261 |
|
天然气消费量 |
30 |
1 |
106 |
19.56 |
22.044 |
485.947 |
|
电力消费量 |
30 |
98 |
3004 |
949.64 |
711.664 |
506464.953 |
|
原煤产量 |
30 |
0 |
58142 |
7909.17 |
11741.388 |
1.379E8 |
|
焦炭产量 |
30 |
0 |
9202 |
992.28 |
1707.998 |
2917256.193 |
|
原油产量 |
29 |
0 |
4341 |
637.12 |
1085.379 |
1178048.432 |
|
燃料油产量 |
30 |
0 |
497 |
75.60 |
126.791 |
16075.971 |
|
汽油产量 |
30 |
0 |
1032 |
186.49 |
208.771 |
43585.122 |
|
煤油产量 |
30 |
0 |
219 |
32.30 |
55.394 |
3068.535 |
|
柴油产量 |
30 |
0 |
1911 |
388.52 |
420.216 |
176581.285 |
|
天然气产量 |
30 |
0 |
164 |
19.52 |
42.371 |
1795.341 |
|
电力产量 |
30 |
97 |
2536 |
954.74 |
675.230 |
455935.003 |
|
有效的 N （列表状态） |
29 |
表1-2 描述性数据汇总
标准化后得到的数据值，以下的回归分析将使用标准化数据。如图1-5所示：
图1-5 数据标准化
我们还可以通过描述性分析中的“
”来得到各个变量的众数，均值等，还可以根据这些量绘制直方图。我们选取个别变量（能源消费总量）的直方图，可以看到我们因变量基本符合正态分布。如图1-6所示：
图1-6能源消费总量
1.2 回归分析
我们本次实验主要考察地区能源消费总额（因变量）与煤炭消费量、焦炭消费量、原油消费量、原煤产量、焦炭产量、原油产量之间的关系。以下的回归分析所涉及只包括以上几个变量，并使用标准化之后的数据。
1.2.1 参数设置
- 单击菜单栏“”-->“
”-->“
”，将弹出如图1-7所示的对话框，将通过选择因变量和自变量来构建线性回归模型。因变量：标准化能源消费总额；自变量：标准化煤炭消费量、标准化焦炭消费量、标准化原油消费量、标准化原煤产量、标准化焦炭产量、标准化原油产量。自变量方法选择：进入，个案标签使用地名，不使用权重最小二乘法回归分析—即WLS权重为空。
图1-7选择线性回归变量还需要设置统计量的参数，我们选择回归系数中的“
”和其他项中的“
”。选中估计可输出回归系数B及其标准误，t值和p值，还有标准化的回归系数beta。选中模型拟合度复选框：模型拟合过程中进入、退出的变量的列表，以及一些有关拟合优度的检验：R，R2和调整的R2, 标准误及方差分析表。如图1-8所示：
图1-8 设置回归分析统计量
3.在设置绘制选项的时候，我们选择绘制标准化残差图，其中的正态概率图是rankit图。同时还需要画出残差图，Y轴选择：ZRESID，X轴选择: ZPRED。如图1-9所示：
图1-9 设置绘制
左上框中各项的意义分别为:
- “DEPENDNT”因变量
- “ZPRED”标准化预测值
- “ZRESID”标准化残差
- “DRESID”删除残差
- “ADJPRED”调节预测值
- “SRESID”学生化残差
- “SDRESID”学生化删除残差
4. 许多时候我们需要将回归分析的结果存储起来，然后用得到的残差、预测值等做进一步的分析，“保存”按钮就是用来存储中间结果的。可以存储的有：预测值系列、残差系列、距离（Distances）系列、预测值可信区间系列、波动统计量系列。本次实验暂时不保存任何项。
5. 设置回归分析的一些选项，有：步进方法标准单选钮组：设置纳入和排除标准，可按P值或F值来设置。在等式中包含常量复选框：用于决定是否在模型中包括常数项，默认选中。如图1-10所示：
图1-10 设置选项
1.2.2 结果输出与分析
在以上选项设置完毕之后点击确定，SPSS将输出一系列的回归分析结果。我们来逐一贴出和分析，并根据它得到最后的回归方程以及验证回归模型。
- 表1-3所示，是回归分析过程中输入、移去模型记录。具体方法为：enter（进入）
输入／移去的变量
|
输入／移去的变量 |
|||
|
模型 |
输入的变量 |
移去的变量 |
方法 |
|
1 |
Zscore(原油产量), Zscore(原煤产量), Zscore(焦炭消费量), Zscore(原油消费量), Zscore(煤炭消费量), Zscore(焦炭产量) |
. |
输入 |
表1-3 输入的变量
2. 表1-4所示是模型汇总，R称为多元相关系数，R方（R2）代表着模型的拟合优度。
我们可以看到该模型是拟合优度良好。
模型汇总
|
模型汇总 |
|
||||
|
模型 |
R |
R 方 |
调整 R 方 |
标准 估计的误差 |
Sig. |
|
1 |
.962 |
.925 |
.905 |
.30692707 |
.000 |
表1-4 模型汇总
3.表1-5所示是离散分析。
，F的值较大,代表着该回归模型是显著。也称为失拟性检验。
|
模型 |
平方和 |
df |
均方 |
F |
|
|
1 |
回归 |
25.660 |
6 |
4.277 |
45.397 |
|
残差 |
2.072 |
22 |
.094 |
||
|
总计 |
27.732 |
28 |
|||
表1-5 离散分析
4. 表1-6所示的是回归方程的系数，根据这些系数我们能够得到完整的多元回归方程。观测以下的回归值，都是具有统计学意义的。因而，得到的多元线性回归方程：Y=0.008+1.061x1+0.087 x2+0.157 x3-0.365 x4-0.105 x5-0.017x6
（x1为煤炭消费量，x2为焦炭消费量，x3为原油消费量，x4为原煤产量，x5为原炭产量，x6为原油产量，Y是能源消费总量）
结论：能量消费总量由主要与煤炭消费总量所影响，成正相关；与原煤产量成一定的反比。
系数
|
系数 |
||||||
|
模型 |
非标准化系数 |
标准系数 |
t |
Sig. |
||
|
B |
标准 误差 |
beta |
||||
|
1 |
(常量) |
.008 |
.057 |
.149 |
.883 |
|
|
Zscore(煤炭消费量) |
1.061 |
.126 |
1.071 |
8.432 |
.000 |
|
|
Zscore(焦炭消费量) |
.087 |
.101 |
.088 |
.856 |
.401 |
|
|
Zscore(原油消费量) |
.157 |
.085 |
.159 |
1.848 |
.078 |
|
|
Zscore(原煤产量) |
-.365 |
.155 |
-.372 |
-2.360 |
.028 |
|
|
Zscore(焦炭产量) |
-.105 |
.150 |
-.107 |
-.697 |
.493 |
|
|
Zscore(原油产量) |
-.017 |
.070 |
-.017 |
-.247 |
.807 |
|
表1-6回归方程系数
5. 模型的适合性检验，主要是残差分析。残差图是散点图，如图1-11所示：
图1-11残差图
可以看出各散点随机分布在e=0为中心的横带中，证明了该模型是适合的。同时我们也发现了两个异常点，就是广东省和四川省，这种离群点是值得进一步研究的。
还有一种残差正态概率图（rankit图）可以直观地判断残差是否符合正态分布。如图1-12所示：
图1-12 rankit（P-P）图
它的直方图如图1-13所示：
图1-13 rankit（直方）图
SPSS19.0实战之多元线性回归的更多相关文章
- SPSS19.0实战之聚类分析
这篇文章与上一篇的回归分析是一次实习作业整理出来的.所以参考文献一并放在该文最后.CNBlOG网页排版太困难了,又不喜欢live writer…… 聚类分析是将物理或者抽象对象的集合分成相似的对象类的 ...
- TensorFlow从0到1之TensorFlow实现多元线性回归（16）
在 TensorFlow 实现简单线性回归的基础上,可通过在权重和占位符的声明中稍作修改来对相同的数据进行多元线性回归. 在多元线性回归的情况下,由于每个特征具有不同的值范围,归一化变得至关重要.这里 ...
- 【R】多元线性回归
R中的线性回归函数比较简单,就是lm(),比较复杂的是对线性模型的诊断和调整.这里结合Statistical Learning和杜克大学的Data Analysis and Statistical I ...
- R语言解读多元线性回归模型
转载:http://blog.fens.me/r-multi-linear-regression/ 前言 本文接上一篇R语言解读一元线性回归模型.在许多生活和工作的实际问题中,影响因变量的因素可能不止 ...
- coursera机器学习笔记-多元线性回归，normal equation
#对coursera上Andrew Ng老师开的机器学习课程的笔记和心得: #注:此笔记是我自己认为本节课里比较重要.难理解或容易忘记的内容并做了些补充,并非是课堂详细笔记和要点: #标记为<补 ...
- 多元线性回归 ——模型、估计、检验与预测
一.模型假设 传统多元线性回归模型 最重要的假设的原理为: 1. 自变量和因变量之间存在多元线性关系,因变量y能够被x1,x2-.x{k}完全地线性解释:2.不能被解释的部分则为纯粹的无法观测到的误差 ...
- 多元线性回归----Java简单实现
http://www.cnblogs.com/wzm-xu/p/4062266.html 多元线性回归----Java简单实现 学习Andrew N.g的机器学习课程之后的简单实现. 课程地址:h ...
- 多元线性回归模型的特征压缩：岭回归和Lasso回归
多元线性回归模型中,如果所有特征一起上,容易造成过拟合使测试数据误差方差过大:因此减少不必要的特征,简化模型是减小方差的一个重要步骤.除了直接对特征筛选,来也可以进行特征压缩,减少某些不重要的特征系数 ...
- Andrew Ng机器学习课程笔记--week2（多元线性回归&正规公式）
1. 内容概要 Multivariate Linear Regression(多元线性回归) 多元特征 多元变量的梯度下降 特征缩放 Computing Parameters Analytically ...
随机推荐
- python 分词库jieba
算法实现: 基于Trie树结构实现高效的词图扫描,生成句子中汉字所有可能成词情况所构成的有向无环图(DAG) 采用了动态规划查找最大概率路径, 找出基于词频的最大切分组合 对于未登录词,采用了基于汉字 ...
- Intel Code Challenge Final Round (Div. 1 + Div. 2, Combined) E - Goods transportation 最大流转最小割转dp
E - Goods transportation 思路:这个最大流-> 最小割->dp好巧妙哦. #include<bits/stdc++.h> #define LL long ...
- 计算机网络应用层之cookie
一.生活中的cookie 无论你知不知道Cookie是什么,在你的生活中,肯定有使用过它.还记得你使用浏览器浏览网页时,当你要登陆时,网页上有一个记住密码或自动登陆的选项,当你选择时,你就使用了Coo ...
- CSS3之背景定位原点background-origin
背景定位原点background-origin是CSS3新添加的有关背景的属性,主要是改变背景起始的原点位置的.CSS3之背景定位原点background-origin的属性值有三个:border.p ...
- Windows下配置Apache服务器
第一步:下载最新Apache. 下载网址:http://www.apachehaus.com/cgi-bin/download.plx 第二步:把下载文件解压缩到一个工作目录.D:\Apache 第三 ...
- 【伪暴力+智商剪枝】Codeforces Round #489 (Div. 2) D
失踪人口突然回归……orz.题解还是有必要写的,虽然估计只有自己(?自己也不一定看得懂)看得懂. 题目链接:http://codeforces.com/contest/992/problem/D 题目 ...
- Divisible by Seven CodeForces - 376C （数论）
You have number a, whose decimal representation quite luckily contains digits 1, 6, 8, 9. Rearrange ...
- 【BZOJ 2595】2595: [Wc2008]游览计划 （状压DP+spfa，斯坦纳树？）
2595: [Wc2008]游览计划 Time Limit: 10 Sec Memory Limit: 256 MBSec Special JudgeSubmit: 1572 Solved: 7 ...
- POJ3071 Football 概率DP 简单
http://poj.org/problem?id=3071 题意:有2^n个队伍,给出每两个队伍之间的胜率,进行每轮淘汰数为队伍数/2的淘汰赛(每次比赛都是相邻两个队伍进行),问哪只队伍成为冠军概率 ...
- HDU 5514 Frogs（容斥原理）
[题目链接] http://acm.hdu.edu.cn/showproblem.php?pid=5514 [题目大意] m个石子围成一圈,标号为0~m-1,现在有n只青蛙,每只每次跳a[i]个石子, ...