参考:https://blog.csdn.net/u013733326/article/details/79767169 希望大家直接到上面的网址去查看代码,下面是本人的笔记 两层神经网络,和吴恩达课后作业学习1-week3-homework-one-hidden-layer——不发布不同之处在于使用的函数不同线性->ReLU->线性->sigmod函数,训练的数据也不同,这里训练的是之前吴恩达课后作业学习1-week2-homework-logistic中的数据,判断是否为猫,查看使用…
参考:https://blog.csdn.net/u013733326/article/details/79767169 希望大家直接到上面的网址去查看代码,下面是本人的笔记 实现多层神经网络 1.准备软件包 import numpy as np import h5py import matplotlib.pyplot as plt import testCases #参见资料包,或者在文章底部copy from dnn_utils import sigmoid, sigmoid_backwar…
参考:https://blog.csdn.net/u013733326/article/details/79847918 希望大家直接到上面的网址去查看代码,下面是本人的笔记 初始化.正则化.梯度校验 1. 初始化参数:    1.1:使用0来初始化参数.    1.2:使用随机数来初始化参数.    1.3:使用抑梯度异常初始化参数(参见视频中的梯度消失和梯度爆炸).2. 正则化模型:    2.1:使用二范数对二分类模型正则化——L2正则化方法,尝试避免过拟合.    2.2:使用随机删除节…
参考:https://blog.csdn.net/u013733326/article/details/79847918 希望大家直接到上面的网址去查看代码,下面是本人的笔记 4.正则化 1)加载数据 仍是问题: 'c' argument has 1 elements, which is not acceptable for use with 'x' with s 解决——直接导入函数: import scipy.io as sio def load_2D_dataset(is_plot=Tru…
参考:https://blog.csdn.net/u013733326/article/details/79907419 希望大家直接到上面的网址去查看代码,下面是本人的笔记 我们需要做以下几件事:   1. 分割数据集   2. 优化梯度下降算法:      2.1 不使用任何优化算法      2.2 mini-batch梯度下降法      2.3 使用具有动量的梯度下降算法      2.4 使用Adam算法 到目前为止,我们始终都是在使用梯度下降法学习,本文中,我们将使用一些更加高级的…
参考:https://blog.csdn.net/u013733326/article/details/79971488 使用TensorFlow构建你的第一个神经网络 我们将会使用TensorFlow构建一个神经网络,需要记住的是实现模型需要做以下两个步骤: 1. 创建计算图 2. 运行计算图 该神经网络的目标是:判断图片表示的是什么数字(0-5) 训练集:有从0到5的数字的1080张图片(64x64像素),每个数字拥有180张图片. 测试集:有从0到5的数字的120张图片(64x64像素),…
参考:https://blog.csdn.net/u013733326/article/details/79639509 希望大家直接到上面的网址去查看代码,下面是本人的笔记 搭建一个能够 “识别猫”的简单神经网络——实现logistic回归,即单层神经网络 1.首先下载数据 总代码lr_utils.py为: import numpy as np import h5py def load_dataset(): train_dataset = h5py.File('datasets/train_c…
参考:https://blog.csdn.net/u013733326/article/details/79702148 希望大家直接到上面的网址去查看代码,下面是本人的笔记 建立一个带有隐藏层的神经网络 导入一些软件包 numpy:是用Python进行科学计算的基本软件包.sklearn:为数据挖掘和数据分析提供的简单高效的工具.matplotlib :是一个用于在Python中绘制图表的库.testCases:提供了一些测试示例来评估函数的正确性,参见下载的资料或者在底部查看它的代码.pla…
参考:https://blog.csdn.net/u013733326/article/details/79971488 希望大家直接到上面的网址去查看代码,下面是本人的笔记  到目前为止,我们一直在使用numpy来自己编写神经网络.现在我们将一步步的使用深度学习的框架来很容易的构建属于自己的神经网络.我们将学习TensorFlow这个框架: 初始化变量 建立一个会话 训练的算法 实现一个神经网络 使用框架编程不仅可以节省你的写代码时间,还可以让你的优化速度更快. 1.导入TensorFlow库…
参考:https://blog.csdn.net/u013733326/article/details/79847918 希望大家直接到上面的网址去查看代码,下面是本人的笔记 5.梯度校验 在我们执行反向传播的计算过程中,反向传播函数的计算过程是比较复杂的.为了验证我们得到的反向传播函数是否正确,现在你需要编写一些代码来验证反向传播函数的正确性 1)一维线性(从简单的情况开始) 1>前向传播 def forward_propagation(x,theta): """ 实…