Titanic是kaggle上一个练手的比赛,kaggle平台提供一部分人的特征,以及是否遇难,目的是预测另一部分人是否遇难.目前抽工作之余,断断续续弄了点,成绩为0.79426.在这个比赛过程中,接触并了解了一些数据挖掘比赛的基本流程,现记录一下. 1. 分析数据 因为数据量比较小,train有800多条数据,test有400多条数据,因此这里用了execl的数据透视表分析. 同时python提供pandas库,可以很好的分析数据. 2. 缺失值填充 关于Age,Fare,Embarked三个…

数据为kaggle社区发布的数据分析从业者问卷调查分析报告,其中涵盖了关于该行业不同维度的问题及调查结果.本文的目的为提取有用的数据,进行描述性展示.帮助新从业的人员更全方位地了解这个行业. 参考学习视频:http://www.tianshansoft.com/ 数据集:https://pan.baidu.com/s/1o7BFzFO 变量说明 数据中包含228个变量,提取其中的一些较有价值的变量进行描述性分析 数据处理 survey <-read.csv(stringsAsFactors =…

这两天报名参加了阿里天池的’公交线路客流预测‘赛,就顺便先把以前看的kaggle的titanic的训练赛代码在熟悉下数据的一些处理.题目根据titanic乘客的信息来预测乘客的生还情况.给了titanic_test.csv和titanic_train.csv两数据表.首先是表的一些字段说明: PassengerId -- A numerical id assigned to each passenger. Survived -- Whether the passenger survived (1…

1. 引入所有需要的包 # -*- coding:utf-8 -*- # 忽略警告 import warnings warnings.filterwarnings('ignore') # 引入数据处理包 import numpy as np import pandas as pd # 引入算法包 from sklearn.tree import DecisionTreeClassifier from sklearn.linear_model import LogisticRegression f…

一.材料准备 https://www.kaggle.com/c/titanic-gettingStarted/ 二.提出问题 生存率和哪些因素有关(性别,年龄,是否有伴侣,票价,舱位等级,包间,出发地点) 1.乘客的年龄和票价的分布 2.样本生存的几率是多少 3.乘客的性别比例 4.乘客的舱位分布 5.性别和生还有没有关系 6.舱位等级和生还有没有关系 7.年龄和生还有没有关系 8.出发地点和生存率有没有关系 9.票价和生还有没有关系 10.有陪伴的乘客的生还几率是否更高 三.编写代码和做出图形…

一直想着抓取股票的变化,偶然的机会在看股票数据抓取的博客看到了kaggle,然后看了看里面的题,感觉挺新颖的,就试了试. 题目如图:给了一个train.csv,现在预测test.csv里面的Passager是否幸存.train.csv里面包含的乘客信息有 PassagerId 乘客id Survived 乘客是否幸存 Pclass 仓位 Name 乘客姓名 Sex 乘客性别 Age 乘客年龄 SibSp 船上是否有兄弟姐妹 Parch 穿上是否有父母子女 Ticket 船票信息 Fare 票价…

最近小爬我为了提升数据分析这块儿的技能,学习了pandas库作者Wes Mckinney的数据分析经典书籍<利用Python进行数据分析>,受益良多!里面涉及到Python语言基础.还有编程利器Ipython.Jupyter notebook的使用小技巧,数组分析工具Numpy以及pandas的基础入门和深入知识,甚至还包含绘图与可视化的相关知识.在学习过程中,小爬深刻感受到:工欲善其事必先利其器.有了好的工具加持,数据分析不再是难事! 小爬先说说之前不知道但在该书中提到的Ipython的一些…

1 获得web原始数据 2 确定数据编码 例如:是不是url编码或base64编码 3 如果有必要的解码编码 4 确定原始数据和本地字符集显示字符集 5 字符集转换 6 显示 版权声明:本文博客原创文章,博客,未经同意,不得转载.…

1.关于年龄Age 除了利用平均数来填充,还可以利用正态分布得到一些随机数来填充,首先得到已知年龄的平均数mean和方差std,然后生成[ mean-std,  mean+std ]之间的随机数,然后利用这些随机值填充缺失的年龄. 2.关于票价Fare 预处理:训练集不缺,测试集缺失1个,用最高频率值填充 Fare_freq = test.Fare.dropna().mode()[0] # 找出非缺失值中的所有最高频值,取第一个 for dataset in train_test_data: d…

其实就是把train.csv拿出来看了看,找了找规律,调了调参数而已. 找到如下规律: 1.男的容易死,女的容易活 2.一等舱活,三等舱死 3.老人死,小孩活 4.兄弟姐妹多者死 5.票价高的活 6.有Cabin记录的活 然后规则跑一跑,调一调参数,就把今天的提交次数用满了,然后跑到0.77了 import pandas import numpy import csv csv_reader = csv.reader(open('test.csv',encoding='utf-8')) write…