最强数据集50个最佳机器学习公共数据,可以帮你验证idea!
1. 寻找数据集の奥义
根据CMU的说法,寻找一个好用的数据集需要注意一下几点:
数据集不混乱,否则要花费大量时间来清理数据。
数据集不应包含太多行或列,否则会难以使用。
数据越干净越好,清理大型数据集可能非常耗时。
应该预设一个有趣的问题,而这个问题又可以用数据来回答。
2. 去哪里找数据集
Kaggle:爱竞赛的盆友们应该很熟悉了,Kaggle上有各种有趣的数据集,拉面评级、篮球数据、甚至西雅图的宠物许可证。
https://www.kaggle.com/
UCI机器学习库:最古老的数据集源之一,是寻找有趣数据集的第一站。虽然数据集是用户贡献的,因此具有不同的清洁度,但绝大多数都是干净的,可以直接从UCI机器学习库下载,无需注册。
http://mlr.cs.umass.edu/ml/
VisualData:分好类的计算机视觉数据集,可以搜索~
https://www.visualdata.io/
好了,下面就是那50个数据集了,由于后期加上了一些补充,所以总数已经超过了50。
3. 机器学习数据集
图片
Labelme:带注释的大型图像数据集。
http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php
ImageNet:大家熟悉的ImageNet,女神李飞飞参与创建,同名比赛影响整个计算机视觉界。
http://image-net.org/
LSUN:场景理解与许多辅助任务(房间布局估计,显着性预测等)
http://lsun.cs.princeton.edu/2016/
MS COCO:同样也是知名计算机视觉数据集,同名比赛每年都被中国人屠榜。
http://mscoco.org/
COIL 100 :100个不同的物体在360度旋转的每个角度成像。
http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php
视觉基因组:非常详细的视觉知识库。
http://visualgenome.org/
谷歌开放图像:在知识共享下的900万个图像网址集合“已经注释了超过6000个类别的标签”。
https://research.googleblog.com/2016/09/introducing-open-images-dataset.html
野外标记面:13000张人脸标记图像,用于开发涉及面部识别的应用程序。
http://vis-www.cs.umass.edu/lfw/
斯坦福狗子数据集:20580张狗子的图片,包括120个不同品种。
http://vision.stanford.edu/aditya86/ImageNetDogs/
室内场景识别:包含67个室内类别,15620个图像。
http://web.mit.edu/torralba/www/indoor.html
情绪分析
多域情绪分析数据集:一个稍老一点的数据集,用到了来自亚马逊的产品评论。
http://www.cs.jhu.edu/~mdredze/datasets/sentiment/
IMDB评论:用于二元情绪分类的数据集,不过也有点老、有点小,有大约25000个电影评论。
http://ai.stanford.edu/~amaas/data/sentiment/
斯坦福情绪树库:带有情感注释的标准情绪数据集。
http://nlp.stanford.edu/sentiment/code.html
Sentiment140:一个流行的数据集,它使用160,000条预先删除表情符号的推文。
http://help.sentiment140.com/for-students/
Twitter美国航空公司情绪:2015年2月美国航空公司的Twitter数据,分类为正面,负面和中性推文。
https://www.kaggle.com/crowdflower/twitter-airline-sentiment
自然语言处理
HotspotQA数据集:具有自然、多跳问题的问答数据集,具有支持事实的强大监督,以实现更易于解释的问答系统。
https://hotpotqa.github.io/
安然数据集:来自安然高级管理层的电子邮件数据。
https://www.cs.cmu.edu/~./enron/
亚马逊评论:包含18年来亚马逊上的大约3500万条评论,数据包括产品和用户信息,评级和文本审核。
https://snap.stanford.edu/data/web-Amazon.html
Google Books Ngrams:Google Books中的一系列文字。
https://aws.amazon.com/datasets/google-books-ngrams/
Blogger Corpus:收集了来自blogger.com的681,288篇博文,每篇博文至少包含200个常用英语单词。
http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm
维基百科链接数据:维基百科的全文,包含来自400多万篇文章的近19亿个单词,可以按段落、短语或段落本身的一部分进行搜索。
https://code.google.com/p/wiki-links/downloads/list
Gutenberg电子书列表:Gutenberg项目中带注释的电子书书单。
http://www.gutenberg.org/wiki/Gutenberg:Offline_Catalogs
Hansards加拿大议会文本:来自第36届加拿大议会记录的130万组文本。
http://www.isi.edu/natural-language/download/hansard/
Jeopardy:来自问答节目Jeopardy的超过200,000个问题的归档。
http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/
英文垃圾短信收集:由5574条英文垃圾短信组成的数据集。
http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/
Yelp评论:Yelp,就是美国的“大众点评”,这是他们发布的一个开放数据集,包含超过500万条评论。
https://www.yelp.com/dataset
UCI的Spambase:一个大型垃圾邮件数据集,对垃圾邮件过滤非常有用。
https://archive.ics.uci.edu/ml/datasets/Spambase
自动驾驶
Berkeley DeepDrive BDD100k:目前最大的自动驾驶数据集,包含超过100,000个视频,其中包括一天中不同时段和天气条件下超过1,100小时的驾驶体验。其中带注释的图像来自纽约和旧金山地区。
http://bdd-data.berkeley.edu/
百度Apolloscapes:度娘的大型数据集,定义了26种不同物体,如汽车、自行车、行人、建筑物、路灯等。
http://apolloscape.auto/
Comma.ai:超过7小时的高速公路驾驶,细节包括汽车的速度、加速度、转向角和GPS坐标。
https://archive.org/details/comma-dataset
牛津的机器人汽车:这个数据集来自牛津的机器人汽车,它于一年时间内在英国牛津的同一条路上,反反复复跑了超过100次,捕捉了天气、交通和行人的不同组合,以及建筑和道路工程等长期变化。
http://robotcar-dataset.robots.ox.ac.uk/
城市景观数据集:一个大型数据集,记录50个不同城市的城市街景。
https://www.cityscapes-dataset.com/
CSSAD数据集:此数据集对于自动驾驶车辆的感知和导航非常有用。不过,数据集严重偏向发达国家的道路。
http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-dataset
KUL比利时交通标志数据集:来自比利时法兰德斯地区数以千计的实体交通标志的超过10000条注释。
http://www.vision.ee.ethz.ch/~timofter/traffic_signs/
MIT AGE Lab:在AgeLab收集的1,000多小时多传感器驾驶数据集的样本。
http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/
LISA:UC圣迭戈智能和安全汽车实验室的数据集,包括交通标志、车辆检测、交通信号灯和轨迹模式。
http://cvrr.ucsd.edu/LISA/datasets.html
博世小交通灯数据集:用于深度学习的小型交通灯的数据集。
https://hci.iwr.uni-heidelberg.de/node/6132
LaRa交通灯识别:巴黎的交通信号灯数据集。
http://www.lara.prd.fr/benchmarks/trafficlightsrecognition
WPI数据集:交通灯、行人和车道检测的数据集。
http://computing.wpi.edu/dataset.html
临床
MIMIC-III:MIT计算生理学实验室的公开数据集,标记了约40000名重症监护患者的健康数据,包括人口统计学、生命体征、实验室测试、药物等维度。
https://mimic.physionet.org/
4. 一般数据集
除了机器学习专用的数据集,还有一些其他的一般数据集,可能很有趣~
公共政府数据集
Data.gov:该网站可以从多个美国政府机构下载数据,包括各种奇怪的数据,从政府预算到考试分数都有。不过,其中大部分数据需要进一步研究。
https://www.data.gov/
食物环境地图集:本地食材如何影响美国饮食的数据。
https://catalog.data.gov/dataset/food-environment-atlas-f4a22
学校财务系统:美国学校财务系统的调查。
https://catalog.data.gov/dataset/annual-survey-of-school-system-finances
慢性病数据:美国各地区慢性病指标数据。
https://catalog.data.gov/dataset/u-s-chronic-disease-indicators-cdi-e50c9
美国国家教育统计中心:教育机构和教育人口统计数据,不仅有美国的数据,也有一些世界上其他地方的数据。
https://nces.ed.gov/
英国数据服务:英国最大的社会、经济和人口数据集。
https://www.ukdataservice.ac.uk/
数据美国:全面可视化的美国公共数据。
http://datausa.io/
量子位补充一句,我国国家统计局其实也不错。
http://www.stats.gov.cn/
金融与经济
Quandl:经济和金融数据的良好来源,有助于建立预测经济指标或股票价格的模型。
https://www.quandl.com/
世界银行开放数据:全球人口统计数据,还有大量经济和发展指标的数据集。
https://data.worldbank.org/
国际货币基金组织数据:国际货币基金组织公布的有关国际金融,债务利率,外汇储备,商品价格和投资的数据。
https://www.imf.org/en/Data
金融时报市场数据:来自世界各地的金融市场的最新信息,包括股票价格指数,商品和外汇。
https://markets.ft.com/data/
Google Trends:世界各地的互联网搜索行为和热门新闻报道的数据。
http://www.google.com/trends?q=google&ctab=0&geo=all&date=all&sort=0
美国经济协会:美国宏观经济数据。
https://www.aeaweb.org/resources/data/us-macro-regional
5. 传送门
mlmemoirs:50个最佳机器学习公共数据集
https://medium.com/datadriveninvestor/the-50-best-public-datasets-for-machine-learning-d80e9f030279
最强数据集50个最佳机器学习公共数据,可以帮你验证idea!的更多相关文章
- 2016 年 50 个最佳的轻量级 JavaScript 框架和库
作者:IT程序狮链接:https://zhuanlan.zhihu.com/p/24598210来源:知乎著作权归作者所有.商业转载请联系作者获得授权,非商业转载请注明出处. 回顾今年已发布的 JS ...
- 超过 150 个最佳机器学习,NLP 和 Python教程
超过 150 个最佳机器学习,NLP 和 Python教程 微信号 & QQ:862251340微信公众号:coderpai简书地址:http://www.jianshu.com/p/2be3 ...
- [机器学习] 训练集(train set) 验证集(validation set) 测试集(test set)
在有监督(supervise)的机器学习中,数据集常被分成2~3个即: 训练集(train set) 验证集(validation set) 测试集(test set) 一般需要将样本分成独立的三部分 ...
- 2008年国外50个最佳CSS设计欣赏
这50个CSS网站是由WebDesignerWall评选出来的,很具参考价值.我们在欣赏的同时,也能从中吸取很多灵感,也能从它们的源代码中学习更高级的CSS技术.今年,越来越多的设计师开始使用超大的背 ...
- 机器学习与Tensorflow(3)—— 机器学习及MNIST数据集分类优化
一.二次代价函数 1. 形式: 其中,C为代价函数,X表示样本,Y表示实际值,a表示输出值,n为样本总数 2. 利用梯度下降法调整权值参数大小,推导过程如下图所示: 根据结果可得,权重w和偏置b的梯度 ...
- 机器学习笔记(四)--sklearn数据集
sklearn数据集 (一)机器学习的一般数据集会划分为两个部分 训练数据:用于训练,构建模型. 测试数据:在模型检验时使用,用于评估模型是否有效. 划分数据的API:sklearn.model_se ...
- Python机器学习笔记:不得不了解的机器学习面试知识点(1)
机器学习岗位的面试中通常会对一些常见的机器学习算法和思想进行提问,在平时的学习过程中可能对算法的理论,注意点,区别会有一定的认识,但是这些知识可能不系统,在回答的时候未必能在短时间内答出自己的认识,因 ...
- 机器学习中的 7 大损失函数实战总结(附Python演练)
介绍 想象一下-你已经在给定的数据集上训练了机器学习模型,并准备好将它交付给客户.但是,你如何确定该模型能够提供最佳结果?是否有指标或技术可以帮助你快速评估数据集上的模型? 当然是有的,简而言之,机器 ...
- TensorFlow系列专题(二):机器学习基础
欢迎大家关注我们的网站和系列教程:http://www.tensorflownews.com/ ,学习更多的机器学习.深度学习的知识! 目录: 数据预处理 归一化 标准化 离散化 二值化 哑编码 特征 ...
随机推荐
- 第33课 C++中的字符串类
在C语言中学习字符串时,我们使用的是字符数组的概念. C语言中没有真正意义的字符串.为了表达字符串的概念,我们使用了字符数组来模拟字符串. 在应用程序开发中,我们需要大量的处理字符串,如果还用C语言中 ...
- php变量什么情况下加大括号{}
下面几个比较能说明原因的解释是: 表示{}里面的是一个变量 ,执行时按照变量来处理 在字符串中引用变量使用的特殊包括方式,这样就可以不使用.运算符,从而减少代码的输入量了. 其实输出那块是等同于pr ...
- CodeForces - 1087F:Rock-Paper-Scissors Champion(set&数状数组)
n players are going to play a rock-paper-scissors tournament. As you probably know, in a one-on-one ...
- hdu1227 dp
题意:在一条路上有 n 个站点,并给定了每个站点的坐标,然后想要在 k 个站点旁边分别各建一个补给站,求所有站点到最近的补给站的距离和的最小值. 是的,毫无疑问,显然是 DP 问题,但是这题怎么递推还 ...
- JAVA中神奇的双刃剑--Unsafe
前提 参考资料: Java魔法类:sun.misc.Unsafe 在openjdk8下看Unsafe源码 Unsafe介绍 在Oracle的Jdk8无法获取到sun.misc包的源码,想看此包的源码可 ...
- mave安装配置
首先从官网上 http://maven.apache.org/ 下载最新版Maven.我用的是apache-maven-3.0.4-bin.tar.gz.将下载后的文件拷贝到 /usr/local/目 ...
- oracle之 redo过高诊断
一.诊断过度redo 要找到生成大量重做的会话,您可以使用以下任何一种方法.这两种方法都检查生成的撤销量.当一个事务生成撤销,它将自动生成重做. 当需要检查生成大量的程序时,使用第一个查询.当这些程序 ...
- Map 的营救;使对象属性有顺序
使用ES6的新特性Map.Map 对象以插入的顺序遍历元素.for...of循环为每一次循环返回一个[key, value]数组. 如果想在跨浏览器环境中模拟一个有序的关联数组,你要么使用两个分开的数 ...
- Linux如何用yum安装软件或服务
百度百科: Yum(全称为 Yellow dog Updater, Modified)是一个在Fedora和RedHat以及CentOS中的Shell前端软件包管理器.基于RPM包管理,能够从指定的服 ...
- 洛谷4059找爸爸(Code+第一次月赛)
题目:https://www.luogu.org/problemnew/show/P4059 dp. 1.看出-A-B(k-1)可以理解成连续空格的第一个 -A,其余 -B: 2.把会干扰的“上一步右 ...