目录 概 主要内容 Evidence minus posterior KL Average negative energy plus entropy Average term-by-term reconstruction minus KL to prior 本文的思路 Hoffman M. & Johnson M. ELBO surgery: yet another way to carve up the variational evidence lower bound. NIPS, 2016.…

浅谈KL散度 一.第一种理解 相对熵(relative entropy)又称为KL散度(Kullback–Leibler divergence,简称KLD),信息散度(information divergence),信息增益(information gain). KL散度是两个概率分布P和Q差别的非对称性的度量. KL散度是用来度量使用基于Q的编码来编码来自P的样本平均所需的额外的比特个数. 典型情况下,P表示数据的真实分布,Q表示数据的理论分布,模型分布,或P的近似分布. 根据shannon的…

文本主题模型之LDA(一) LDA基础 文本主题模型之LDA(二) LDA求解之Gibbs采样算法 文本主题模型之LDA(三) LDA求解之变分推断EM算法 本文是LDA主题模型的第三篇,读这一篇之前建议先读文本主题模型之LDA(一) LDA基础,同时由于使用了EM算法,如果你对EM算法不熟悉,建议先熟悉EM算法的主要思想.LDA的变分推断EM算法求解,应用于Spark MLlib和Scikit-learn的LDA算法实现,因此值得好好理解. 1. 变分推断EM算法求解LDA的思路 首先,回顾L…

涉及的领域可能有些生僻,骗不了大家点赞.但毕竟是人工智能的主流技术,在园子却成了非主流. 不可否认的是:乃值钱的技术,提高身价的技术,改变世界观的技术. 关于变分,通常的课本思路是: GMM --> EM --> VI --> Variational Bayesian Gaussian Mixture GMM是个好东西,实用的模型,也是讲解收敛算法的一个好载体. 关于这部分内容,如果你懂中文,推荐一个人,徐亦达老师.中文教学,亲手推算公式给读者的视频,是需要珍惜和珍藏的. 因为提供了pp…

生成器对应于认知器的逆过程. 这一切的起源都是当初一个极具启发性的思想:Sleep-wake algorithm——人睡眠时整理记忆做梦,是一个生成的过程,即通过最终的识别结果企图恢复接收到的刺激,当然,恢复得到的是梦境而已,那个梦中的视觉.听觉.触觉以及嗅觉等等全和现实有关却也无关.有关是认知层次的有关,无关是表现出的内容的无关.sleep时进行生成,wake时进行认知.这个过程交替进行就构成了sleep-wake算法.它是一个宽松模型,或者说是一个Monte Carlo采样的EM逼近训练过程…

AIOps探索:基于VAE模型的周期性KPI异常检测方法 from:jinjinlin.com   作者:林锦进 前言 在智能运维领域中,由于缺少异常样本,有监督方法的使用场景受限.因此,如何利用无监督方法对海量KPI进行异常检测是我们在智能运维领域探索的方向之一.最近学习了清华裴丹团队发表在WWW 2018会议上提出利用VAE模型进行周期性KPI无监督异常检测的论文:<Unsupervised Anomaly Detection via Variational Auto-Encoder for…

论文信息 论文标题:Local Augmentation for Graph Neural Networks论文作者:Songtao Liu, Hanze Dong, Lanqing Li, Tingyang Xu, Yu Rong, Peilin Zhao, Junzhou Huang, Dinghao Wu论文来源:2021, arXiv论文地址:download 论文代码:download 1 Introduction 现有的方法侧重于从全局的角度来增强图形数据,主要分为两种类型: str…

转自:http://blog.evjang.com/2017/01/nips2016.html           Eric Jang Technology, A.I., Careers               Monday, January 2, 2017 Summary of NIPS 2016   The 30th annual Neural Information Processing Systems (NIPS) conference took place in Barcelona…

摘要:常规的神经网络权重是一个确定的值,贝叶斯神经网络(BNN)中,将权重视为一个概率分布.BNN的优化常常依赖于重参数技巧(reparameterization trick),本文对该优化方法进行概要介绍. 论文地址:http://proceedings.mlr.press/v37/blundell15.pdf 网络权重的点估计 常规神经网络可以基于MLE或MAP对权重作点估计. 基于MLE(maximum likelihood estimation): 基于MAP(maximum a pos…

坏味道--霰弹式修改(Shotgun Surgery) 霰弹式修改(Shotgun Surgery) 类似于 发散式变化(Divergent Change) ,但实际上完全不同.发散式变化(Divergent Change) 是指一个类受多种变化的影响.霰弹式修改(Shotgun Surgery) 是指多种变化引发多个类相应的修改. 特征 任何修改都需要在许多不同类上做小幅度修改. 问题原因 一个单一的职责被拆分成大量的类. 解决方法 运用搬移函数(Move Method) 和 搬移字段(Mov…

Computer assisted surgery (CAS) represents a surgical concept and set of methods, that use computer technology for presurgical planning, and for guiding or performing surgical interventions. CAS is also known as computer aided surgery, computer assis…

5.Divergent Change发散式变化 描述:一个类被锚定了多个变化,当这些变化中的任意一个发生时,就必须对类进行修改. 解释:一个类最好只因一种变化而被修改 操作:你应该找出某特定原因而造成的所有变化,然后运用Extract Class将它们提炼到另一个类中. 6.Shotgun Surgery散弹式修改 描述:一种变化引发程序多处的修改. 解释:一种变化在程序中有多个锚点,并且分散在程序各处.(就像散弹一样) 需要修改的代码散布四处,你不但很难找到它们,也很容易忘记某个重要的修改.…

Detected IFC version: IFC2X3 Warning: Sweeper::createTriangulated3DFace, carve::triangulate::incorporateHolesIntoPolygon failed , IFC entity: #41824=IfcFace Warning: Sweeper::createTriangulated3DFace, carve::triangulate::incorporateHolesIntoPolygon f…

下载Carve库  https://github.com/folded/carve 目录结构如下: 用Visual Studio2015打开,点击右键,生成即可 在bin目录下生成了   .lib文件 之前用Visual Studio2017编译过,但在Visual Studio2015和2013中都不能使用,所以,需要用对应的平台编译,否则,会报错…

abandon vt.丢弃:放弃,抛弃 ability n.能力:能耐,本领 abnormal a.不正常的:变态的 aboard ad.在船(车)上:上船 abroad ad.(在)国外:到处 absence n.缺席,不在场:缺乏 absent a.不在场的:缺乏的 absolute a.绝对的:纯粹的 absolutely ad.完全地:绝对地 absorb vt.吸收:使专心 abstract a.抽象的 n.摘要 abundant a.丰富的:大量的 abuse vt.滥用:虐待 n.…

坏味道--平行继承体系(Parallel Inheritance Hierarchies) 平行继承体系(Parallel Inheritance Hierarchies) 其实是 霰弹式修改(Shotgun Surgery) 的特殊情况. 特征 每当你为某个类添加一个子类,必须同时为另一个类相应添加一个子类.这种情况的典型特征是:某个继承体系的类名前缀或类名后缀完全相同. 问题原因 起初的继承体系很小,随着不断添加新类,继承体系越来越大,也越来越难修改. 解决方法 一般策略是:让一个继承体系的…

坏味道--发散式变化(Divergent Change) 发散式变化(Divergent Change) 类似于 霰弹式修改(Shotgun Surgery) ,但实际上完全不同.发散式变化(Divergent Change) 是指一个类受多种变化的影响.霰弹式修改(Shotgun Surgery) 是指多种变化引发多个类相应的修改. 特征 你发现你想要修改一个函数,却必须要同时修改许多不相关的函数.例如,当你想要添加一个新的产品类型时,你需要同步修改对产品进行查找.显示.排序的函数. 问题原因…

前言 接上文:(阅读本文前,建议阅读前两篇文章先) 浅谈Hybrid技术的设计与实现 浅谈Hybrid技术的设计与实现第二弹 根据之前的介绍,大家对前端与Native的交互应该有一些简单的认识了,很多朋友就会觉得这个交互很简单嘛,其实并不难嘛,事实上单从Native与前端的交互来说就那点东西,真心没有太多可说的,但要真正做一个完整的Hybrid项目却不容易,要考虑的东西就比较多了,单从这个交互协议就有: ① URL Schema ② JavaScriptCore 两种,到底选择哪种方式,每种方式…

原文作者:kkun 原文地址:http://www.cnblogs.com/kkun/archive/2011/07/06/agile_software_development.html 敏捷是什么 敏捷开发是一种软件开发方法,基于迭代和增量开发,通过自组织,跨团队,沟通协作完成开发工作. 敏捷宣言的诞生 2001年2月11日到13日,17位软件开发领域的领军人物聚集在美国犹他州的滑雪胜地雪鸟(SnowBird)雪场.经过两天的讨论,“敏捷”(Agile)这个词为全体聚会者所接受,用以概括一套全…

原文链接:http://www.huffingtonpost.com/syed-balkhi/10-biggest-business-mista_b_7626978.html When I started my first business, I made a lot of mistakes (everyone does). While mistakes are unavoidable, you can use the lessons learned by others to prevent t…

D. Kostya the Sculptor time limit per test 3 seconds memory limit per test 256 megabytes input standard input output standard output Kostya is a genial sculptor, he has an idea: to carve a marble sculpture in the shape of a sphere. Kostya has a frien…

Slam即时定位与地图构建 技术解释 同步定位与地图构建(SLAM或Simultaneous localization and mapping)是一种概念:希望机器人从未知环境的未知地点出发,在运动过程中通过重复观测到的地图特征(比如,墙角,柱子等)定位自身位置和姿态,再根据自身位置增量式的构建地图,从而达到同时定位和地图构建的目的. 使用情景 一个由德国达姆施塔特理工大学研发的机器人正使用激光成像探测与测距技术来给迷宫绘图. 上图的机器人描绘出的地图. 操作性定义 这里说的地图,是用来在环境中…

定义 重构的定义:在不改变软件可观察行为的前提下,改善其内部结构. 其中,不改变软件行为,是重构最基本的要求.要想真正发挥威力,就必须做到“不需了解软件行为”. 如果一段代码能让你容易了解其行为,说明它还不是那么迫切需要被重构. 需要重构的代码,你只能看到其中的“坏味道”,接着选择手段消除这些“坏味道”,然后才有可能理解他的行为. 构建测试体系 确保每个类每个方法都有对应的测试代码.一套测试就是一套BUG检测器,能够大大缩减查找BUG所需时间. 编写测试代码最有效的时机,实在开始编程以前.能使你…

D. Kostya the Sculptor time limit per test 3 seconds memory limit per test 256 megabytes input standard input output standard output Kostya is a genial sculptor, he has an idea: to carve a marble sculpture in the shape of a sphere. Kostya has a frien…

conscious[英][ˈkɒnʃəs][美][ˈkɑnʃəs]consensus[英][kənˈsensəs][美][kənˈsɛnsəs] scious sensuswaterflood; deluge; flood; flowage; Niagara; spill[英][spɪl][美][spɪl]spell[英][spel][美][spɛl] city urban emperemperortemper irritant Some had begun to build adjacent…

Xiang Bai--[arXiv2016]Scene Text Detection via Holistic, Multi-Channel Prediction 目录 作者和相关链接 方法概括 创新点和贡献 方法细节 实验结果 问题讨论 总结与收获点 参考文献 作者和相关链接 作者 白翔个人主页 论文下载 方法概括  Step 1: 用修改版的hed(参考文献1)得到text region map(binary), character map(binary), linking orientat…

Faction You will be asked to join one of the elite Factions as a rising Martial Artist no matter what your race is. They differ in their views on how the realm shall operate but share the same goal of eliminating evil. The Clans you can join will be…

A. Glass Carving time limit per test 2 seconds memory limit per test 256 megabytes input standard input output standard output Leonid wants to become a glass carver (the person who creates beautiful artworks by cutting the glass). He already has a re…

参考文章: http://blog.csdn.net/u013059662/article/details/52770198 caffe的安装配置,以及fcn的使用在我前边的文章当中都已经提及到了,这边不会再细讲.在下边的内容当中,我们来看看如何使用别人提供的数据集来训练自己的模型!在这篇文章之后,我计划还要再写如何fine-tune和制作自己的数据集,以及用自己的数据集fine-tune. (一)数据准备(以SIFT-Flow 数据集为例) 下载数据集:  http://pan.baidu.c…

EnCase v7.08 近日正式发布,7.08增加了Evidence Processor Manager以及Evidence Processor,不仅可以在本地实现证据处理队列,也支持了通过网络进行分布式证据处理的方式. 以下是Release Note,更新软件下载地址集中于置顶帖中. What’s New in Version 7.08 Evidence Processor Manager Evidence Processor Enhancements Augmented File Carv…