课程回顾-Structuring Machine Learning Projects
单一评价指标
保证训练、验证、测试的数据分布一致
不同的错误
错误分析
数据分布不一致
迁移学习 transfer learning
多任务学习 Multi-task learning
端到端的深度学习系统
好处
坏处
Reference
这门课不是具体的技术,而是帮助你决定现在最有价值做的应该是什么
正交化 Orthogonalization
简单的说就是有些调整是不相互影响的,所以可以分开做
单一评价指标
一般来说有一个单一数值作为评价指标会更好
如果存在多个指标,一般可以优化一个,其他几个满足一定条件就好
除了通用的一些指标,我们可以通过给样本加权的方式,使得获得更加适合我们应用的评价指标
保证训练、验证、测试的数据分布一致
不同的错误
- 任务的理论上限: bayes optimal error
- 人类的水平: human error
- 任务的理论上限: bayes optimal error
- 人类的水平: human error
假设一个图像识别的任务
Humans | 1% | 7.5% |
---|---|---|
Training error | 8% | 8% |
Dev Error | 10% | 10% |
- 左边的例子,如果人类的错误率是1%,那么我们应该关注的是bias
- 右边的例子,如果说人类错误率是7.5%,那么我们应该关注的是variance
- 在这个例子中我们能够用人类错误率来代替理论上限是因为人类在图像识别的任务上做的非常好
错误分析
可以通过手动随机抽样分析一些数据,看哪类的数据它出错最多,从而做针对性改进。
也可以分析一些他分对的业务和没对的业务,从而得到他的不足
数据分布不一致
数据分布不一致会导致上面的分析存在问题,所以这时候需要引入类似train-dev机制来实现
迁移学习 transfer learning
典型的就是fine-tunning
多任务学习 Multi-task learning
同时做多个任务,并且这多个任务可以互相帮助
端到端的深度学习系统
好处
- 充分利用数据
- 设计简单
坏处
- 需要更多数据
- 无法利用手工设计的有效特征(在小数据的情况下他们可能是很有效的)
Reference
https://github.com/mbadry1/DeepLearning.ai-Summary
课程回顾-Structuring Machine Learning Projects的更多相关文章
- 课程三(Structuring Machine Learning Projects),第一周(ML strategy(1)) —— 0.Learning Goals
Learning Goals Understand why Machine Learning strategy is important Apply satisficing and optimizin ...
- 课程三(Structuring Machine Learning Projects),第一周(ML strategy(1)) —— 1.Machine learning Flight simulator:Bird recognition in the city of Peacetopia (case study)
[]To help you practice strategies for machine learning, the following exercise will present an in-de ...
- 课程三(Structuring Machine Learning Projects),第二周(ML strategy(2)) —— 1.Machine learning Flight simulator:Autonomous driving (case study)
[中文翻译] 为了帮助您练习机器学习的策略, 在本周我们将介绍另一个场景, 并询问您将如何行动.我们认为, 这个工作在一个机器学习项目的 "模拟器" 将给一个任务, 告诉你一个机器 ...
- 课程三(Structuring Machine Learning Projects),第二周(ML strategy(2)) —— 0.Learning Goals
Learning Goals Understand what multi-task learning and transfer learning are Recognize bias, varianc ...
- 《Structuring Machine Learning Projects》课堂笔记
Lesson 3 Structuring Machine Learning Projects 这篇文章其实是 Coursera 上吴恩达老师的深度学习专业课程的第三门课程的课程笔记. 参考了其他人的笔 ...
- [C5] Andrew Ng - Structuring Machine Learning Projects
About this Course You will learn how to build a successful machine learning project. If you aspire t ...
- 吴恩达《深度学习》-课后测验-第三门课 结构化机器学习项目(Structuring Machine Learning Projects)-Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究))
Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究)) 1.Problem Statement ...
- Structuring Machine Learning Projects 笔记
1 Machine Learning strategy 1.1 为什么有机器学习调节策略 当你的机器学习系统的性能不佳时,你会想到许多改进的方法.但是选择错误的方向进行改进,会使你花费大量的时间,但是 ...
- 吴恩达《深度学习》-第三门课 结构化机器学习项目(Structuring Machine Learning Projects)-第一周 机器学习(ML)策略(1)(ML strategy(1))-课程笔记
第一周 机器学习(ML)策略(1)(ML strategy(1)) 1.1 为什么是 ML 策略?(Why ML Strategy?) 希望在这门课程中,可以教给一些策略,一些分析机器学习问题的方法, ...
随机推荐
- git学习笔记:常用命令总结
本文根据廖雪峰的博客,记录下自己的学习笔记.主要记录常用的命令,包括仓库初始化.添加文件.提交修改.新建分支.内容暂存.分支管理.标签管理等内容. git是分布式版本控制系统. 首先是安装,从官网下载 ...
- dubbo入门学习 六 admin管理界面
1. 本质就是一个web项目 2. 获取注册中心内Provider注册的信息.用页面呈现出来. 3. 实现步骤 3.1 把dubbo-admin-2.5.3.war上传到服务器tomcat中. 3.2 ...
- UWP作业(二)A Mobile App
看到给出的十个技术主题,我第一反应就是,对于大部分社交软件来讲,运用到全部这些都并不是什么难题,倒不如谈谈我手机里现有的社交软件中,使用时间最短但(you)是(dian)最(bu)好(hao)奇(yo ...
- Acoustic modelling from the signal domain using CNNs
3. Neural network architecture 此处描述了在本文当中所使用的网络结构,和所提取的关键特征(key features).首先,描述了两个新型的网络结构:the networ ...
- Win7 VS2017编译Blender2.79
去年在VS2013环境编译过一次,重装系统后换了VS2017,正好刚编译完Godot3.0.2,顺手把Blender也编译了吧. 官方Windows下编译指南 https://wiki.blender ...
- java模板设计模式
1.概述 模板设计模式定义:定义一个操作中的算法骨架,将步骤延迟到子类中. 模板设计模式是一种行为设计模式,一般是准备一个抽象类,将部分逻辑以具体方法或者具体的构造函数实现,然后声明一些抽象方法,这样 ...
- 【慕课网实战】四、以慕课网日志分析为例 进入大数据 Spark SQL 的世界
文本文件进行统计分析:id, name, age, city1001,zhangsan,45,beijing1002,lisi,35,shanghai1003,wangwu,29,tianjin... ...
- 8-unittest中case管理
1.关联 在接口测试中难免碰到接口B的参数值来源于接口A的返回结果,此现象即为关联.在unittest中怎么处理这种情况呢?此问题通过全局变量来解决,将变量定义为全局变量:globals()[‘var ...
- MySQL下创建数据库以及授权用户
一.新建数据库 1.首先登录MySQL:(输入 mysql -u root -p 命令,然后输入密码按回车即可) 2.在mysql> 下输入如下命令,回车,即可创建数据库 (test为数据库名) ...
- CCNA学前基础一
网络设备: 集线器:集线器就是一种采用共享式工作状态的设备.Hub将信号放大后传输给其他端口,即传输线路是共享的. 交换机:用于连接终端设备,和基本的安全功能还有广播域的隔离.优点实现多用户同时访问, ...