讲授玻尔兹曼分布.玻尔兹曼机的网络结构.实际应用.训练算法.深度玻尔兹曼机等.受限玻尔兹曼机(RBM)是一种概率型的神经网络.和其他神经网络的区别:神经网络的输出是确定的,而RBM的神经元的输出值是不确定的,以某种概率取到某一个值.以另一种概率取到另一个值,神经元的输出值.各个神经元的输入值服从某种概率分布,所有神经元的输出值服从玻尔兹曼分布. 大纲: 玻尔兹曼分布 网络结构 计算隐藏单元的值 用于特征提取 训练算法 深度玻尔兹曼机 本集总结 玻尔兹曼分布: 玻尔兹曼分布是统计物理中的一种概率分…
讲授机器学习面临的挑战.人工特征的局限性.为什么选择神经网络.深度学习的诞生和发展.典型的网络结构.深度学习在机器视觉.语音识别.自然语言处理.推荐系统中的应用 大纲: 机器学习面临的挑战 特征工程的局限性 机器学习算法的瓶颈 为什么选择了神经网络 深度学习的基本思路 深度学习的诞生历程 深度学习得以发展的因素 典型的网络结构 深度学习的发展现状 在机器视觉中的应用 在语音识别中的应用 在自然语言处理中的应用 在推荐系统中的应用 深度强化学习简介 本集总结 机器学习面临的挑战: 经典的机器学习算…
讲授Lenet.Alexnet.VGGNet.GoogLeNet等经典的卷积神经网络.Inception模块.小尺度卷积核.1x1卷积核.使用反卷积实现卷积层可视化等. 大纲: LeNet网络 AlexNet网络 VGG网络 GoogLeNnet网络 反卷积可视化 数学特性 根据卷积结果重构图像 本集总结 LeNet网络: 卷积神经网络是1989年Y.LeCun提出的,真正有意义的卷积神经网络是LeNet-5网络,它是Y.LeCun1998年提出来的,现在尊称Y.LeCun为卷积神经网络之父,后…
深度学习模型-自动编码器(AE),就是一个神经网络的映射函数,f(x)——>y,把输入的一个原始信号,如图像.声音转换为特征. 大纲: 自动编码器的基本思想 网络结构 损失函数与训练算法 实际使用 去燥自动编码器 稀疏编码 收缩自动编码器 多层编码器 本集总结 自动编码器的基本思想: 人工神经网络实现的是一个向量X映射为另一个向量Y(Rn——>Rm,m<<n),通过多层复合函数来实现,Y一般设置为样本标签向量label.AE把Y设置为从原始数据X提取出的特征向量,如X是一个高维的图…
讲授卷积神经网络核心思想.卷积层.池化层.全连接层.网络的训练.反向传播算法.随机梯度下降法.AdaGrad算法.RMSProp算法.AdaDelta算法.Adam算法.迁移学习和fine tune等. 大纲: 卷积神经网络简介 视觉神经网络的核心思想 卷积神经网络的核心思想 卷积运算 卷积层的原理 多通道卷积 池化层的原理 全连接层 卷积网络结构 训练算法简介 卷积层的反向传播 池化层的反向传播 全连接层的反向传播 完整的反向传播算法 随机梯度下降法 参数值初始化 学习率的设定 梯度下降法的改…
讲授神经网络的理论解释.实现细节包括输入与输出值的设定.网络规模.激活函数.损失函数.初始化.正则化.学习率的设定.实际应用等 大纲: 实验环节: 理论层面的解释:两个方面,1.数学角度,映射函数h(x)理论分析:2.和动物神经网络的区别. 实现细节问题:输入输出值该怎么设置,神经网络该建多少层,每层多少个神经元,选择什么样的激活函数和损失函数. 面临的挑战与改进措施:梯度消失,局部最小值,鞍点等. 实际应用情况: 实验环节:(通过代码实现) 设置网络的层数和各层神经元数量.设置激活函数和参数.…
SIGAI深度学习课程: 本课程全面.系统.深入的讲解深度学习技术.包括深度学习算法的起源与发展历史,自动编码器,受限玻尔兹曼机,卷积神经网络,循环神经网络,生成对抗网络,深度强化学习,以及各种算法的应用.通过精心设计的实践项目,让你深刻理解算法的原理,真实学会算法的使用. 本讲: 讲授机器学习中的基本概念和算法.分类,以及微积分.线性代数.概率论.最优化方法等数学基础知识 机器学习简介: 特征向量 目标函数 机器学习分类: 有监督学习:分类问题(如人脸识别.字符识别.语音识别).回归问题 无监…
讲授神经网络的思想起源.神经元原理.神经网络的结构和本质.正向传播算法.链式求导及反向传播算法.神经网络怎么用于实际问题等 课程大纲: 神经网络的思想起源 神经元的原理 神经网络结构 正向传播算法 怎么用于实际问题 反向传播算法概述 算法的历史 神经网络训练时的优化目标函数 几个重要的复合函数求导公式 算法的推导 算法的总结 工程实现问题 全连接神经网络:也叫多层感知器模型(HLP) BP不是神经网络,是训练神经网络的一种方法.像CNN.RNN是一种神经网络结构,而BP是一种训练神经网络的其中一…
原文作者:aircraft 原文链接:https://www.cnblogs.com/DOMLX/p/9769301.html Keras是什么? Keras:基于Theano和TensorFlow的深度学习库 Keras是一个高层神经网络API,Keras由纯Python编写而成并基Tensorflow.Theano以及CNTK后端.Keras 为支持快速实验而生,能够把你的idea迅速转换为结果,如果你有如下需求,请选择Keras: 简易和快速的原型设计(keras具有高度模块化,极简,和可…
讲授线性分类器,分类间隔,线性可分的支持向量机原问题与对偶问题,线性不可分的支持向量机原问题与对偶问题,核映射与核函数,多分类问题,libsvm的使用,实际应用 大纲: 多分类问题libsvm简介实验环节实际应用SVM整体思路总结 多分类问题: SVM怎么解决多分类问题,整体上有两种思路,第一种思路是多个二分类器的组合来解决多分类问题,第二种思路是直接优化一个多类的损失函数,就是训练出的就只是一个模型可以解决多分类问题. 第一种思路有两种实现: ①1对剩余方案 假如有N个类,就训练n个分类器,每…