Stata和Matlab联合处理金融数据
Stata是统计学专业软件,可以很方便的对数据处理,但几乎只能按照整行整列进行,而且每次只能加载一个矩阵(dta文件),如果要用到多个矩阵数据进行操作或进行复杂的循环控制,就力不从心了。
而Matlab工业界广泛使用的数据分析处理工具,对矩阵支持良好,除了可以像c语言一样完成底层的操作之外,还包含很多函数库,囊括工控、信号处理、金融、人工智能各个行业。虽然没有Stata内置的统计学函数全面,但在底层操作方面具有明显优势。
因此,在一次帮助别人完成金融数据分析时,尝试使用Stata对数据进行预处理,Matlab完成运算之后再由Stata完成进一步的加标签等操作。
Stata完成数据预处理
Stata参考资料不多,主要参考了《应用Stata做统计分析》前两章基本操作部分,还有搜索。
待处理的数据为大盘行情与个股行情,从数据库下载到的数据为xls格式。使用
import excel *.xls
可以加载excel文件,当然在加载之前最好改变workspace到所在目录。
数据中一列为“1991-01-01”格式的日期数据,可以使用
generate dated=date(date1,YMD)
把日期同意换算成消逝日期,即相对于1960年元旦的天数。
而date、month、year等函数可以由消逝天数计算出当天的年月日。
导入的数据均为字符串类型,要把字符串转换为数字,要使用
encode x gen(y)
为了完成把数据导入Matlab进行处理,可以新建一个xlsx(Office2007格式)文件,Stata中输入browse查看数据,将数据复制进入Excel,保存。而在Matlab中点击导入数据完成导入,导入之后别忘了重命名。可以导入多个文件。
如果多个dta文件具有相同的列结构,可以采用下列命令合并:
use data1
append use data2
save data12
drop,replace,ls,rename命令也经常用到。
Matlab完成数据处理
Matlab中m文件编程可以完成很多操作,这次新学习到一个命令
try
...
catch
...
end
这样如果对多个数据进行处理,单个数据由于不完整等原因出错时可以继续运行下去。
这次操作,用到了polyfit和polyval命令,分别是进行单变量多项式拟合和估计。
程序代码如下:
%company is sorted, need to change to no-sort
%ind=563 company=[681,17902,563] is wrong,stock price's date may out of
%range
load('jr.mat')
[m,n]=size(company);
acum_index=zeros(m,1);
errcompany=zeros(1,3);%error for which can't find stock price
errind=1;
for ind=1:m
arit=zeros(40,1);
com_id=company(ind,1);%company code
com_date=company(ind,2);%company board date
index_date_ind=find(ind399108(:,1)==com_date,1);%pointer to index
if isempty(index_date_ind)
index_date_ind=find(ind399108(:,1)==com_date+1,1);
if isempty(index_date_ind)
index_date_ind=find(ind399108(:,1)==com_date+2,1);
end
end
% index 40befor 40after
index_befor=ind399108(index_date_ind-40:index_date_ind-1,2);
index_after=ind399108(index_date_ind:index_date_ind+39,2);
%calc stock increase
stock_tmp=stock(find(stock(:,1)==com_id,1,'first'):find(stock(:,1)==com_id,1,'last'),:);
stock_tmp_ind=find(stock_tmp(:,2)==com_date,1);
if isempty(stock_tmp_ind)
stock_tmp_ind=find(stock_tmp(:,2)==com_date+1,1);
if isempty(stock_tmp_ind)
stock_tmp_ind=find(stock_tmp(:,2)==com_date+2,1);
end
end
if isempty(stock_tmp_ind)
errcompany(errind,:)=company(ind,:);
errind=errind+1;
acum_index(ind)=inf;
continue
end
try
stock_index_befor=(stock_tmp(stock_tmp_ind-40:stock_tmp_ind-1,2)-stock_tmp(stock_tmp_ind-40-1:stock_tmp_ind-1-1,2))./stock_tmp(stock_tmp_ind-40-1:stock_tmp_ind-1-1,2);
stock_index_after=(stock_tmp(stock_tmp_ind:stock_tmp_ind+39,2)-stock_tmp(stock_tmp_ind-1:stock_tmp_ind+39-1,2))./stock_tmp(stock_tmp_ind-1:stock_tmp_ind+39-1,2);
catch
display(company(ind,:));
display(ind);
acum_index(ind)=inf;
continue;
end
%use index_befor stock_index_befor index_after stock_index_after to
%calc
p=polyfit(index_befor,stock_index_befor,1);
arit=stock_index_after-polyval(p,index_after);
acum_index(ind)=sum(arit);
end
outdata=[company,acum_index];
完成处理后,使用
xlswrite('x.xls',x)
可以把数组x写入xls文件。
之后可以在Stata中把消逝天数转换为日期,给变量重命名,就完成了操作。
R语言
这次工作完成的非常吃力,主要是工具的原因,Stata无法很好的完成循环控制等底层操作,Matlab虽然可以完成所有操作但Matlab中的字符串和日期操作非我所长,R语言作为专业统计语言,完成这些数据处理和计算应该是十分方便的。很期待R的表现。
Stata和Matlab联合处理金融数据的更多相关文章
- 转 Visual C++6.0 与matlab联合编程(2)----Visual C++6.0 环境下编译和调试MEX文件
我的最初想法是利用matlab的mex命令调用C++程序生成动态链接库的,但是测试程序(文中另附)通过了,自己的实际应用程序却没有过.还是把方法贴在这儿,以便自己以后进行整理. http://shij ...
- matlab中读取txt数据文件(txt文本文档)
matlab中读取txt数据文件(txt文本文档) 根据txt文档不同种类介绍不同的读取数据方法 一.纯数据文件(没有字母和中文,纯数字) 对于这种txt文档,从matalb中读取就简单多了 例如te ...
- Mybatis oracle多表联合查询分页数据重复的问题
Mybatis oracle多表联合查询分页数据重复的问题 多表联合查询分页获取数据时出现一个诡异的现象:数据总条数正确,但有些记录多了,有些记录却又少了甚至没了.针对这个问题找了好久,最后发现是由于 ...
- python爬虫项目-爬取雪球网金融数据(关注、持续更新)
(一)python金融数据爬虫项目 爬取目标:雪球网(起始url:https://xueqiu.com/hq#exchange=CN&firstName=1&secondName=1_ ...
- 金融数据分析 - 利用 Tushare Pro 平台 获取金融数据
Tushare金融大数据开放社区 免费提供各类金融数据和区块链数据 , 助力智能投资与创新型投资. 详见 https://tushare.pro/
- [转] 利用Matlab提取图片中曲线数据
原文地址 网易博客 前一段时间看到一篇文章"利用Matlab提取图图片中的数据",觉得思路挺好,遂下载下来研究了一番,发现作者所编写的程序没有考虑原始图片非水 平放置的情况,而实际 ...
- R语言实现金融数据的时间序列分析及建模
R语言实现金融数据的时间序列分析及建模 一 移动平均 移动平均能消除数据中的季节变动和不规则变动.若序列中存在周期变动,则通常以周期为移动平均项数.移动平均法可以通过数据显示出数据长期趋势的变动 ...
- Python 数据分析中金融数据的来源库和简单操作
目录 金融数据 pandas-datareader TuShare 金融学图表 案例 金融数据 数据分析离不开数据的获取,这里介绍几种常用的获取金融方面数据的方法. pandas-datareader ...
- 释放DT时代释放金融数据价值,驱动金融商业裂变
摘要:客户微细分模型上线华为云ModelArts,看如何以AI科技挖掘金融数据价值. 当前信息化浪潮席卷全球,新一轮的科技革命和产业革命推动金融行业发展到全新阶段.人工智能2.0时代,智慧金融方兴未艾 ...
随机推荐
- nodejs个人配置
国内镜像,飞一般的感觉!编辑 ~/.npmrc 加入下面内容 registry = http://registry.cnpmjs.org npm config set registry http:/ ...
- libevent入门(1)
libevent是什么 libevent 库实际上没有更换 select().poll() 或其他机制的基础.而是使用对于每个平台最高效的高性能解决方案在实现外加上一个包 ...
- ./configure 时候报错c++ 编译器不能执行
./configure时报错:configure: error: C++ compiler cannot create executables .哎,今天重装测试服务器上的系统,设置好IP可以远程访问 ...
- Python 番外 消息队列设计精要
消息队列已经逐渐成为企业IT系统内部通信的核心手段.它具有低耦合.可靠投递.广播.流量控制.最终一致性等一系列功能,成为异步RPC的主要手段之一.当今市面上有很多主流的消息中间件,如老牌的Active ...
- Gson 禁止特殊字符转码
Map<String,String> map = new HashMap<String,String>(); map.put("url", "&a ...
- PYTHON线程知识再研习C---线程互斥锁
结合例子,就很好理解了. 就是不要让共享变量被各个线程无序执行,导致结果不可预期 threading模块中定义了Lock类,可以方便的处理锁定: #创建锁mutex = threading.Lock( ...
- 防止DC电源反接的方法——SS14的用法
出处:http://blog.ednchina.com/tengjingshu 电源是PCB板的重要部分,每个芯片都需要电源供给.芯片其实是挺脆弱的,只要正负接反得话,大多数就会挂掉,相信很多人都有惨 ...
- Raid1源代码分析--读流程(重新整理)
五.Raid1读流程分析 两个月前,刚刚接触raid1,就阅读了raid1读流程的代码,那个时候写了一篇博客.现在回过头看看,那篇的错误很多,并且很多地方没有表述清楚.所以还是决定重新写一篇以更正之前 ...
- autoitv3点击windows界面
在自动化测试过程中会遇到如下windows安全认证,需要输入账号和密码,这个认证对话框不属于element元素.无法用selenium操作,需要用autoitv3操作,输入账号密码后,再进行web元素 ...
- php之手机号码查归属地
免费手机号码归属地API查询接口 一.淘宝网API API地址: http://tcc.taobao.com/cc/json/mobile_tel_segment.htm?tel=1585078144 ...