This is a series of Machine Learning summary note. I will combine the deep learning book with the deeplearning open course . Any feedback is welcomed! First let's go through some basic NN concept using Bernoulli classification problem as an example.…

X = [ones(m, ) X]; temp = X * Theta1'; t = size(temp, ); temp = [ones(t, ) temp]; h = temp * Theta2'; [max_num, p] = max(h, [], ); Without Sigmoid function, Training Set Accuracy: 69.620000 X = [ones(m, ) X]; temp = X * Theta1'; temp = sigmoid(temp);…

Finally pass all the Deeplearning.ai courses in March! I highly recommend it! If you already know the basic then you may be interested in course 4 & 5, which shows many interesting cases in CNN and RNN. Although I do think that 1 & 2 is better str…

I have finished the first course in the DeepLearnin.ai series. The assignment is relatively easy, but it indeed provides many interesting insight. You can find some summary notes of the first course in my previous 2 posts. sigmoid and shallow NN Forw…

In the previous post I go through basic 1-layer Neural Network with sigmoid activation function, including How to get sigmoid function from a binary classification problem? NN is still an optimization problem, so what's the target to optimize? - cost…

深度学习 (DeepLearning) 基础 [2]---神经网络常用的损失函数 Introduce 在上一篇"深度学习 (DeepLearning) 基础 [1]---监督学习和无监督学习"中我们介绍了监督学习和无监督学习相关概念.本文主要介绍神经网络常用的损失函数. 以下均为个人学习笔记,若有错误望指出. 神经网络常用的损失函数 pytorch损失函数封装在torch.nn中. 损失函数反映了模型预测输出与真实值的区别,模型训练的过程即让损失函数不断减小,最终得到可以拟合预测训练样…

0802_转载-nn 模块中的网络层介绍 目录 一.写在前面 二.卷积运算与卷积层 2.1 1d 2d 3d 卷积示意 2.2 nn.Conv2d 2.3 转置卷积 三.池化层 四.线性层 五.激活函数层 六.总结 pytorch完整教程目录:https://www.cnblogs.com/nickchen121/p/14662511.html 一.写在前面 疫情在家的这段时间,想系统的学习一遍 Pytorch 基础知识,因为我发现虽然直接 Pytorch 实战上手比较快,但是关于一些内部的原理…

Neural Networks and Deep Learning This is the first course of the deep learning specialization at Coursera which is moderated by moderated by DeepLearning.ai. The course is taught by Andrew Ng. Introduction to deep learning Be able to explain the maj…

   随着deep learning的火爆,神经网络(NN)被大家广泛研究使用.但是大部分RD对BP在NN中本质不甚清楚,对于为什这么使用以及国外大牛们是什么原因会想到用dropout/sigmoid/ReLU/change learnRate/momentum/ASGD/vanishment等问题等呢.要想了解国外大牛的思考过程,需要学习到BP在NN中的本质问题,其中涉及到NN训练对于判决边界如何形成?ASGD为什么尤其在NN中效果比二阶信息效果好?如何选择激活函数合适?为何语音识别中误差函数…

参考:https://github.com/milesial/Pytorch-UNet 实现的是二值汽车图像语义分割,包括 dense CRF 后处理. 使用python3,我的环境是python3.6 1.使用 1> 预测 1)查看所有的可用选项: python predict.py -h 返回: (deeplearning) userdeMBP:Pytorch-UNet-master user$ python predict.py -h usage: predict.py [-h] [--m…

Practical Advice Using Open-Source Implementation We have learned a lot of NNs and ConvNets architectures It turns out that a lot of these NN are difficult to replicated. because there are some detail that may not presented on its paper. There are so…

系统架构.自底向上,设备层.网络层.数据操作层.图计算层.API层.应用层.核心层,设备层.网络层.数据操作层.图计算层.最下层是网络通信层和设备管理层.网络通信层包括gRPC(google Remote Procedure Call Protocol)和远程直接数据存取(Remote Direct Memory Access,RDMA),分布式计算需要.设备管理层包手包括TensorFlow分别在CPU.GPU.FPGA等设备上的实现.对上层提供统一接口,上层只需处理卷积等逻辑,不需要关心硬件…

参考博客:https://zhuanlan.zhihu.com/p/27853521 该代码默认是梯度下降法,可自行从注释中选择其他训练方法 在异或问题上,由于训练的样本数较少,神经网络简单,训练结果最好的是GD梯度下降法. # -*- coding:utf-8 -*- # 将tensorflow 引入并命名tf import tensorflow as tf # 矩阵操作库numpy,命名为np import numpy as np ''' 生成数据 用python使用tensorflow时,…

1. 概述 原文地址: TensorFlow and deep learning,without a PhD Learn TensorFlow and deep learning, without a Ph.D. B站视频地址: https://www.bilibili.com/video/av8284296 https://www.bilibili.com/video/av16339227 在这个codelab中,您将学习如何创建和训练识别手写数字的神经网络.一路上,随着你增强神经网络的准确率…

pytorch搭建一个简单神经网络 import torch import torch.nn as nn # 定义数据 # x:输入数据 # y:标签 x = torch.Tensor([[0.2, 0.4], [0.2, 0.3], [0.3, 0.4]]) y = torch.Tensor([[0.6], [0.5], [0.7]]) class MyNet(nn.Module): def __init__(self): # 调用基类构造函数 super(MyNet, self).__ini…

一 初始化RNN 上一节中介绍了 通过cell类构建RNN的函数,其中有一个参数initial_state,即cell初始状态参数,TensorFlow中封装了对其初始化的方法. 1.初始化为0 对于正向或反向,第一个cell传入时没有之前的序列输出值,所以需要对其进行初始化.一般来讲,不用刻意取指定,系统会默认初始化为0,当然也可以手动指定其初始化为0. initial_state = lstm_cell.zero_state(batch_size, dtype=tf.float32) 2.初…

摘自: https://www.kaggle.com/zoupet/neural-network-model-for-house-prices-tensorflow 一.实现功能简介: 本文摘自Kaggle的一篇房价预测题目,找了一篇比较全的,当作自己的Tensorflow入门. 数据和题目可以在文章开头的地址找的. 主要是给定了一个区域的房子价格以及房子特征,要预测一下房价. 二.挑选数据 # 为了使得代码在 python2 或者3下都运行,加的 __future__包.如果是python3,…

GAN这一概念是由Ian Goodfellow于2014年提出,并迅速成为了非常火热的研究话题,GAN的变种更是有上千种,深度学习先驱之一的Yann LeCun就曾说,"GAN及其变种是数十年来机器学习领域最有趣的idea".那么什么是GAN呢?GAN的应用有哪些呢?GAN的原理是什么呢?怎样去实现一个GAN呢?本文将一一阐述.具体大纲如下: 1.什么是GAN? 1.1 对抗思想--啵啵鸟与枯叶蝶 1.2 GAN思想--画画的演变 1.3 零和博弈(zero-sum game) 1.4…

CBAM: Convolutional Block Attention Module 论文地址:https://arxiv.org/abs/1807.06521   简介:我们提出了卷积块注意模块 (CBAM), 一个简单而有效的注意模块的前馈卷积神经网络.给出了一个中间特征映射, 我们的模块按照两个独立的维度.通道和空间顺序推断出注意力映射, 然后将注意力映射相乘为自适应特征细化的输入特征映射.因为 CBAM 是一个轻量级和通用的模块, 它可以无缝地集成到任何 CNN 架构只增加微不足道的间接…

Iris Classification on PyTorch code # -*- coding:utf8 -*- from sklearn.datasets import load_iris from sklearn.utils import shuffle from sklearn.model_selection import train_test_split import torch import torch.optim as optim import torch.nn as nn imp…

本节来自<pattern recognition and machine learning>第5章. 五.神经网络 在本书的第3.4章分别是基于回归和分类的线性模型,都是通过将固定的基函数进行线性组合来处理.这些函数虽然分析和计算清晰,可是却受到维数灾难的困扰,当需要将模型用在大规模问题上时,有必要让基函数去适应数据.在后面的第7章介绍的SVM是首先在这些训练数据点中心部分定义基函数,然后在训练的时候选择这些基函数的一个子集来处理.SVM的一个优点就是虽然涉及到的是非线性优化问题,可是目标函数…

引言 在上一篇博客中,介绍了各种Python的第三方库的安装,本周将要使用Tensorflow完成第一个神经网络,BP神经网络的编写.由于之前已经介绍过了BP神经网络的内部结构,本文将直接介绍Tensorflow编程常用的一些方法. 正文 神经网络的内容 一般,一个神经网络程序包含以下几部分内容. 1.数据表达和特征提取.对于一个非深度学习神经网络,主要影响其模型准确度的因素就是数据表达和特征提取.同样的一组数据,在欧式空间和非欧空间,就会有着不同的分布.有时候换一种思考问题的思路就会使得问题变…

本文转载自:https://blog.csdn.net/xummgg/article/details/69214366 前言 上月导师在组会上交我们用tensorflow写深度学习和卷积神经网络,并把其PPT的参考学习资料给了我们, 这是codelabs上的教程:<TensorFlow and deep learning,without a PhD> 当然登入需要FQ,我也顺带巩固下,做个翻译,不好之处请包含指正. 当然需要安装python,教程推荐使用python3.如果是Mac,可以参考博…

前言 上月导师在组会上交我们用tensorflow写深度学习和卷积神经网络.并把其PPT的參考学习资料给了我们, 这是codelabs上的教程:<TensorFlow and deep learning,without a PhD> 当然登入须要FQ,我也顺带巩固下,做个翻译.不好之处请包括指正. 当然须要安装python,教程推荐使用python3.假设是Mac,能够參考博主的另外两片博文,Mac下升级python2.7到python3.6, Mac安装tensorflow1.0 好多专业词…

我只讲讲检测部分的模型,后面两样性分类的试验我没有做,这篇论文采用了很多肺结节检测论文都采用的u-net结构,准确地说是具有DPN结构的3D版本的u-net,直接上图. DPN是颜水成老师团队的成果,简单讲就是dense 与 residual的结合,如上图,输入特征图一部分通过residual与输出相加,另一部分与residual的结果再串联,个人觉得这个网络好乱,不简洁的网络都不是好网络,恰好文章中还给出了只采用residual的版本,所以我其实要讲的是这个只有residual的u-net,上…

前言 深度卷积网络极大地推进深度学习各领域的发展,ILSVRC作为最具影响力的竞赛功不可没,促使了许多经典工作.我梳理了ILSVRC分类任务的各届冠军和亚军网络,简单介绍了它们的核心思想.网络架构及其实现. 代码主要来自:https://github.com/weiaicunzai/pytorch-cifar100 ImageNet和ILSVRC ImageNet是一个超过15 million的图像数据集,大约有22,000类. ILSVRC全称ImageNet Large-Scale Visu…

A: A:## tf.argmax(A, axis).eval() 输出axis维度上最大的数的索引 axis=0:列,axis=1:行 A:## tf.add(a,b)  创建a+b的计算图 A:## tf.assign(a, b) 创建a=b的计算图 state = tf.Variable(0) new_value = tf.add(state, tf.constant(1)) update = tf.assign(state, new_value) with tf.Session() as…

为了参加今年的软件杯设计大赛,这几个月学习了很多新知识.现在大赛的第二轮作品优化已经提交,开始对这四个月所学知识做一些总结与记录. 用TensorFlow搭建神经网络.TensorFlow将神经网络的进行封装,使得深度学习变得简单已用,即使是不懂的深度学习算法原理的人都可以很容易的搭建各种神经网络的模型.我为了搭建神经网络更加方便,对TensorFlow做了自己的封装. 神经网络的封装代码: class NN: ''' shape:训练集数据的维度,shape[0]表示输入数据维度,shape[…

包含三部分:1.WGAN改进点  2.代码修改  3.训练心得 一.WGAN的改进部分: 判别器最后一层去掉sigmoid    (相当于最后一层做了一个y = x的激活) 生成器和判别器的loss不取log 每次更新判别器的参数之后把它们的绝对值截断到不超过一个固定常数c 不要用基于动量的优化算法(包括momentum和Adam),推荐RMSProp,SGD也行        (这部分很玄学) 去掉sigmoid会出现什么问题? 优点: 去掉sigmoid 只要二者存在差值就会学习让他们尽量小…

在炼丹师的路上越走越远,开始入手pytorch框架的学习,越炼越熟吧... 1. 张量的创建和操作 创建为初始化矩阵,并初始化 a = torch.empty(, ) #创建一个5*3的未初始化矩阵 nn.init.zeros_(a) #初始化a为0 nn.init.constant_(a, ) # 初始化a为3 nn.init.uniform_(a) #初始化为uniform分布 随机数矩阵 torch.rand(, ) # * , [, )的随机数torch.rand_like(m) #创建…