1-1/1.2,基本上都是一些基础知识,机器学习的背景,发展,概念,用途

1-3,监督学习:

  • 数据集类型已知,数据信息为已知正解--由已知正解推测趋势(拟合分布函数)--
  • 给出的模型例子--基本类似于计量经济学/统计推断的思路:
  1. 房价VS房子高度(一维拟合,回归问题)
  2. 乳腺癌—良性/恶性VS尺寸(一维0/1)
  3. 年龄+尺寸VS良性/恶性(二维拟合)
  4. 垃圾信息筛除

1-4,无监督学习:

  • 数据集类型未知,数据信息正解未知,按照规定的某些特征自动遍历分类型
  • 聚类算法例子
  1. 关键字链接分类新闻
  2. 基因表达分类
  3. 市场分割分类,社交网络分析等
  • (分类分割)
  1. 鸡尾酒派对问题--鸡尾酒会算法--声源源分离
  2. 认识使用(svd)奇异值分解补充知识
  3. 市场顾客分类

课程补充:

因为这个课程是较早的视频,当时老吴推荐的是matlab和Octave,现在主要使用python语法系掉其他库,但是发现课程概念比后来新课的更加全,所以用来学习概念,很适合,

在鸡尾酒派对分类分割声音的案例里,介绍了svd函数,有点迷惑,查了一些资料填坑(凡是高亮非红色字体都带链接,不懂就click)

  • svd是什么?
  • svd(x)——Singular value decomposition,是一个用来奇异值分解的函数,可在matlab/py-mat调用,x作为实参是某一矩阵,返回的是x的奇异值等信息
  • 样例:

s = svd(X),返回矩阵的某一奇异向量

[U,S,V] = svd(X),其中U和V代表二个相互正交矩阵(当为实数矩阵的时候),而S代表一对角矩阵(奇异值)。 原矩阵A不必为正方矩阵。

[U,S,V] = svd(X,0),则它等价于SvD(X,0).对于m<n,只计算V的前m列,S为m*m

[U,S,V] = svd(X,'econ'),‘econ’economic size,相当于把多余的部分去除掉了。如果X是m>=n的(m行n列),则它等价于SvD(X,0).对于m<n,只计算V的前m列,S为m乘m.

预备知识:

各种矩阵认识复习:链接

正交矩阵:除基本定义外,与降维有关,可用于压缩,变换

酉矩阵:共轭转置(解)== 逆 (求解),https://blog.csdn.net/zhaoyue007101/article/details/7949733

svd—详解:

https://wenku.baidu.com/view/e600ac060740be1e650e9a03?showCashierFromZhidao=1&qid=104418447&fr=step_zhidao(奇异值操作)

https://wenku.baidu.com/view/3ec0a4ddaeaad1f346933f42.html(除svd,含evd的复习内容)

(含几何意义详解,加深)

https://blog.csdn.net/zhongkejingwang/article/details/43053513 

https://blog.csdn.net/jinshengtao/article/details/18448355

svd是一类矩阵分解!!!矩阵分解是指根据一定的原理用某种算法将一个矩阵分解成若干个矩阵的乘积。常见的矩阵分解有可逆方阵的三角(LU)分解、

任意满秩矩阵的正交三角(QR)分解、对称正定矩阵的Cholesky分解,以及任意方阵的Schur分解、Hessenberg分解、EVD分解(特征值)、SVD分解(奇异值)、GMD分解等。

http://blog.sina.cn/dpool/blog/s/blog_12f4079380102xk6j.html?vt=4 (链接为各种矩阵分解汇总) 

  • svd用途?

最小二乘法,最小平方误差,用来求线性回归解

数据压缩,用来降维,压缩数据

  • svd和机器学习的关系?
  • svd和鸡尾酒算法的关系?(待续)
  •  

用时约5h,80%花在后面学习svd以及svd与鸡尾酒算法/机器学习上面,顺便复习了已经学过的evd和一些矩阵知识,

初步了解了其他一些可能用到的分解,初步认识到”分解“在机器学习中的一些用途,

找到了一些可靠的资源和宝藏博主

(Andyjee) 一些重要的数学基础知识(来源)   陈靖_   特征值分解、奇异值分解、PCA概念整理_网络_Where there is life, there is hope-CSDN

https://wenku.baidu.com/view/e600ac060740be1e650e9a03?showCashierFromZhidao=1&qid=104418447&fr=step_zhidao

背景知识+监督和无监督学习辨析+预备知识(1-1—1-4/用时4h)的更多相关文章

  1. Spring的配置相关知识(学习spring boot的预备知识)

    我们经常说的控制反转(Inversion of Control-IOC)和依赖注入(dependency injection-DI)在Spring环境下是等同的概念,控制反转是通过依赖注入实现的.所谓 ...

  2. Machine Learning分类:监督/无监督学习

    从宏观方面,机器学习可以从不同角度来分类 是否在人类的干预/监督下训练.(supervised,unsupervised,semisupervised 以及 Reinforcement Learnin ...

  3. 深度|OpenAI 首批研究成果聚焦无监督学习,生成模型如何高效的理解世界(附论文)

    本文经机器之心(微信公众号:almosthuman2014)授权转载,禁止二次转载,原文. 选自 Open AI 作者:ANDREJ KARPATHY, PIETER ABBEEL, GREG BRO ...

  4. AI之强化学习、无监督学习、半监督学习和对抗学习

    1.强化学习 @ 目录 1.强化学习 1.1 强化学习原理 1.2 强化学习与监督学习 2.无监督学习 3.半监督学习 4.对抗学习 强化学习(英语:Reinforcement Learning,简称 ...

  5. 监督学习 VS 无监督学习

    监督学习 就是人们常说的分类,通过已有的训练样本(即已知数据以及其对应的输出)去训练得到一个最优模型(这个模型属于某个函数的集合,最优则表示在某个评价准则下是最佳的),再利用这个模型将所有的输入映射为 ...

  6. 【转】有监督训练 & 无监督训练

    原文链接:http://m.blog.csdn.net/article/details?id=49591213 1. 前言 在学习深度学习的过程中,主要参考了四份资料: 台湾大学的机器学习技法公开课: ...

  7. (转)【重磅】无监督学习生成式对抗网络突破,OpenAI 5大项目落地

    [重磅]无监督学习生成式对抗网络突破,OpenAI 5大项目落地 [新智元导读]"生成对抗网络是切片面包发明以来最令人激动的事情!"LeCun前不久在Quroa答问时毫不加掩饰对生 ...

  8. machine learning----->有监督学习和无监督学习的区别

    1.有监督学习和无监督学习的区别: 1.1概述: 有监督学习是知道变量值(数据集)和结果(已知结果/函数值),但是不知道函数样式(函数表达式)的情况下通过machine learning(ML)获得正 ...

  9. 【ML入门系列】(三)监督学习和无监督学习

    概述 在机器学习领域,主要有三类不同的学习方法: 监督学习(Supervised learning) 非监督学习(Unsupervised learning) 半监督学习(Semi-supervise ...

随机推荐

  1. Swift 4.0 数组(Array)学习

    定义数组常量(常量只有读操作) let array1: [Int] = [11, 55, 5] let array2 = [11, 55, 5] 定义数组变量 var array: [Int] = [ ...

  2. Systematic comparison of strategies for the enrichment of lysosomes by data independent acquisition 通过DIA技术系统比较各溶酶体富集策略 (解读人:王欣然)

    文献名:Systematic comparison of strategies for the enrichment of lysosomes by data independent acquisit ...

  3. Java并发编程之CAS二源码追根溯源

    Java并发编程之CAS二源码追根溯源 在上一篇文章中,我们知道了什么是CAS以及CAS的执行流程,在本篇文章中,我们将跟着源码一步一步的查看CAS最底层实现原理. 本篇是<凯哥(凯哥Java: ...

  4. GitLab → 搭建私有的版本控制的托管服务平台

    开心一刻 睡着正香,媳妇用力把我晃醒说:“快起来,我爸来了.” 我一下醒了,手脚熟练的把衣服一抱,滚到床底,顺便把鞋也收了进去 媳妇蹲下无奈的说:“快出来!咱俩都结婚半年了.” 我:“对哦,搞习惯了” ...

  5. [Docker6] Docker compose多容器运行与管理

    六.Docker compose docker compose就是通过yml文件来定义和运行多个容器docker应用程序的工具,三步过程就能跑起一个compose: 定义应用程序的环境(yml中) 定 ...

  6. Mysql性能优化:为什么要用覆盖索引?

    导读 相信读者看过很多MYSQL索引优化的文章,其中有很多优化的方法,比如最佳左前缀,覆盖索引等方法,但是你真正理解为什么要使用最佳左前缀,为什么使用覆盖索引会提升查询的效率吗? 本篇文章将从MYSQ ...

  7. 接口自动化框架pyface详细介绍

    版权说明 本框架系本人结合一些实践经验和开源框架设计思想,在家基于兴趣爱好独立完成的代码开发. 源码只保存在私人电脑,办公电脑上无.github开源与公司无关,先把关系撇清,不涉及侵权. 嘘. 框架定 ...

  8. Nginx.pid打开失败以及失效的解决方案

    在启动nginx的时候报了如下的错误: 其意思是没有该文件或者是目录,通过查看之后发现确实没有该目录   cd /var/run/nginx 于是重新创建了这个文件,使用如下命令:   mkdir / ...

  9. 你需要了解的 HTTP Status Code

    你需要了解的 HTTP Status Code Intro 现在前后端分离的开发模式越来越流行,后端负责开发对应的 API,前端只需要 关注前端页面的数据展示和前端逻辑即可. 对于前后端分离这种开发模 ...

  10. spring-boot-plus-v2.0发布了-让天下没有难写的代码

    spring-boot-plus是易于使用,快速,高效,功能丰富,开源的spring boot脚手架 前后端分离,专注于后端服务 目标 每个人都可以独立.快速.高效地开发项目! GITHUB | GI ...