1.mini-batch size 表示每次都只筛选一部分作为训练的样本,进行训练,遍历一次样本的次数为(样本数/单次样本数目) 当mini-batch size 的数量通常介于1,m 之间    当为1时,称为随机梯度下降 一般我们选择64,128, 256等样本数目 import numpy as np import math def random_mini_batch(X, Y, mini_batch = 64, seed=0): np.random.seed(seed) m = X.sh…
1. 在我们学习中,调试超参数是非常重要的. 超参数的调试可以是a学习率,(β1和β2,ε)在Adam梯度下降中使用, layers层数, hidden units 隐藏层的数目, learning_rate_dacay 学习率衰减, mini-batch size 每次迭代的样本数目 当需要调节的参数的数目较多时,我们通常使用随机参数选择进行参数调节. 比如学习率的范围为0.0001 - 1 , 在0.0001-0.001之间,样本随学习率的变化较大,因此有必要增加这部分的权重,我们使用log…
logistics回归是一种二分类问题,采用的激活函数是sigmoid函数,使得输出值转换为(0,1)之间的概率 A = sigmoid(np.dot(w.T, X) + b ) 表示预测函数 dz = A - Y , A 表示的是预测结果, y 表示的是实际结果 cost = -y*logA - (1-y)*log(1-A)  #表示损失函数 dw = np.dot(X, dz.T)/m db = np.sum(dz)/m w := w - a*dw   # 更新w,a 表示学习率 b : =…
机器学习爱好者 -- 翻译吴恩达老师的机器学习课程字幕 GNU Octave    开源  MatLab http://www.ai-start.com/ https://zhuanlan.zhihu.com/fengdu78 https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes 文档PDF   https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes/blob/master/%E6%9C…
Week 3 Quiz - Shallow Neural Networks(第三周测验 - 浅层神经网络) \1. Which of the following are true? (Check all that apply.) Notice that I only list correct options(以下哪一项是正确的?只列出了正确的答案) [ ]…
Week 2 Quiz - Neural Network Basics(第二周测验 - 神经网络基础) 1. What does a neuron compute?(神经元节点计算什么?) [ ] A neuron computes an activation function followed by a linear function (z = Wx + b)(神经 元节点先计算激活函数,再计算线性函数(z = Wx + b)) [ ] A neuron computes a linear f…
Week 4 Quiz - Key concepts on Deep Neural Networks(第四周 测验 – 深层神经网络) \1. What is the "cache" used for in our implementation of forward propagation and backward propagation?(在实现前向传播和反向传播中使用的"cache"是什么?) [ ]It is used to cache the interme…
1. 训练误差和泛化误差 机器学习模型在训练数据集和测试数据集上的表现.如果你改变过实验中的模型结构或者超参数,你也许发现了:当模型在训练数据集上更准确时,它在测试数据集上却不⼀定更准确.这是为什么呢? 因为存在着训练误差和泛化误差: 训练误差:模型在训练数据集上表现出的误差. 泛化误差:模型在任意⼀个测试数据样本上表现出的误差的期望,并常常通过测试数据集上的误差来近似. 训练误差的期望小于或等于泛化误差.也就是说,⼀般情况下,由训练数据集学到的模型参数会使模型在训练数据集上的表现优于或等于在测…
吴恩达讲了干货满满的一节全新AI课,全程手写板书充满诚意非常干货 摘要: 目前,AI技术做出的经济贡献几乎都来自监督学习,也就是学习从A到B,从输入到输出的映射.现在,监督学习.迁移学习.非监督学习.强化学习这四类算法所创造的经济效益是递减的.机器学习依靠结构化数据,比非结构化数据创造了更多的经济效益.AI的范围,比监督学习广泛得多.我认为人们平时所说的AI,其实包含了好几类工具:比如机器学习.图模型.规划算法.知识表示(知识图谱). 人们的关注点集中在机器学习和深度学习,很大程度上是因为其他工…
不需要 ML/DL 基础,不需要深奥数学背景,初学者和软件开发者也能快速掌握 TensorFlow.掌握人工智能应用的开发秘诀. 以前,吴恩达的机器学习课程和深度学习课程会介绍很多概念与知识,虽然也会有动手实验,但它们主要是为了帮助理解.在这一份 Coursera 新课中,吴恩达与谷歌大脑的 Laurence Moroney 从实践出发介绍了使用 TensorFlow 的正确姿态. 这一个专项课程目前主要包含两门课,即 TensorFlow 简介与 TensorFlow 中的卷积神经网络.第一课…