从Hadoop1到Hadoop2很大程度上解放了Jobtracker资源调度的问题,这就得多亏了yarn平台了.我知道的,除了我们的大豆瓣用的是Mesos,咱们国家可以说应该是99.99%都使用的是yarn,当然了,国外使用的大多是Mesos.(然而我对Mesos并不理解啥,只知道他和yarn一样的作用吧) Hadoop1当中,MapReduce(一下就简称mr,原谅我不想多打字的烦恼,kkk~)的主从结构,让jobtracker的重任很大,要接收客户端的请求,要分配任务给tasktracker…
我们经常在电影中看到机器和人对答如流,随着越来越多自然语言开放平台的出现,IT爱好者制作一个自己的APP或者小玩具等逐渐可以变为现实. 自然语言对话即你的APP或者你制作的工具.机器人等能够对用户输入的语音或者文字做出准确的回应. 比如,在微信公众号中,经常要求用户通过输入1.2或者其他关键字来获取相应的服务,而对于句子却无法正确理解.比如,你输入"中秋活动",这个几个字如果符合关键字的要求,那就会弹出相应的服务.但如果你输入的是"我想参加今年的中秋活动",&quo…
虚拟化平台至今已经发展了十多年的时间.其中 Hyper-V 技术现在也已经是第三代版本.用户对于虚拟化计算也越来越接受,这也有了公有云发展的基础.然而在很多时候,用户在使用基于 Hyper-V 的 Azure 平台时,仍然有关于虚拟机计算能力的疑问,例如 : 虚拟化的功能的确很强大,但是会不会有性能问题,运行在 Hyper-V 平台的虚拟机是不是比 Hyper-V 服务器的性能要差? 在 Azure 平台上,由于 Azure 是多租户的系统,为了公平起见,是不是所有同一个大小,或是同一系列的虚拟…
雪山上的蒲公英 https://www.cnblogs.com/zjfjava/p/10674577.html 关于4A(统一安全管理平台)系统的理解   1. 4A系统的需求分析 近年来企业用户的业务系统发展十分迅速,内部的系统数和用户数不断增加,网络规模迅速扩大,在应用扩展的同时,各业务系统的安全管理工作相对滞后,无法满足企业发展的长期要求. 各系统中有大量的网络设备.主机和应用系统,分别归属于不同的部门进行维护管理.各系统都有一套独立的认证.授权和审计机制,分别由相应的系统管理员负责维护和…
源: 线性代数的本质 内容来自字幕. Let me quote without further comment from Dieudonné's "Foundations of Modern Analysis, Vol. 1" There is hardly any theory which is more elementary than linear algebra, in spite of the fact that generations of professors and te…
java String长度与varchar长度匹配理解(字符和字节长度理解) string中的length()长度,返回的是char的数量,每个char可以存储世界上任何类型的文字和字符,一个char 而Oracle库中的指定varchar,指的是字节长度.不是字符.字符和字节之间还有编码格式的转换嘞,对应具体一个字符用多少字节编码问题. 而Oracle库中的指定varchar,指的是字节长度.不是字符.字符和字节之间还有编码格式的转换嘞,对应具体一个字符用多少字节编码问题. 而Oracle库中…
对S7通信的连接的理解以及对比CAN通信协议来理解PLC通讯. 对功能块 SFB12 和 SFB13 的R_ID参数的理解 ? 对于同一个数据包.发送方与接收方的R_ID应该相同. 用下图解释 双向连接中 DP400可以充当主机 主动往DP300内写数据 或者主动将DP300中的数据读取出来. DP300可以充当主机 主动往DP400 内写数据 或者主动将DP400中的数据读取出来. 双向连接中的两个机器中 均有通讯程序. 假设DP400调用SFB12 "Bsend"功能块 发送的是设…
yarn是一个分布式的资源管理系统. 它诞生的原因是原来的MapReduce框架的一些不足: 1.JobTracker单点故障隐患 2.JobTracker承担的任务太多,维护Job状态,Job的task的状态等 3.在taskTracker端,使用map/reduce task表示资源过于简单,没有考虑cpu.内存等使用情况.当把多个需要消耗大量内存的task调度到一起时,很容易出现问题 演化后的基本组件 下面具体解释: yarn是一个资源管理的框架,而非计算的框架,理解这点很重要. 图中的A…
我们经常会看到SaaS.PaaS.IaaS,但总是会摸不着头脑,有的人甚至会以为是恐怖组织的代号.其实,无论是SaaS.PaaS还是IaaS,都代表的是某一种服务,比如SaaS的含义为"软件即服务",IssS的含义为"基础设施即服务".今天小Z带大家去了解什么是PaaS,以及如何理解PaaS. PaaS是Platform as a Service的缩写,为"平台即服务"的意思.把服务器平台作为一种服务提供的商业模式,通过网络进行程序提供的服务称之…
多线程的些许理解 一.体系架构 1.原子操作 1) 定义 不可中断的一个或者一系列操作,也就是不会被线程调度机制打断的操作,在运行期间不会有任何的上下文切换(context switch). 2) 我们为什么关注原子操作(what) 在多线程操作的时候,确定某个操作非原子操作,要用消耗性能的昂贵的锁去保护. 3)单核CPU.多核CPU 在单核CPU中,能够在一个指令中完成的操作都可以看作为原子操作,因为中断只发生在指令间. 在多核CPU中,软件级别的原子操作依赖于硬件支持的,在X86体系中,CP…
1. 4A系统的需求分析 近年来企业用户的业务系统发展十分迅速,内部的系统数和用户数不断增加,网络规模迅速扩大,在应用扩展的同时,各业务系统的安全管理工作相对滞后,无法满足企业发展的长期要求. 各系统中有大量的网络设备.主机和应用系统,分别归属于不同的部门进行维护管理.各系统都有一套独立的认证.授权和审计机制,分别由相应的系统管理员负责维护和管理.帐号繁多,管理困难,管理成本较高:对于离职或者工作岗位变更的用户,很难干净彻底的删除或者禁止相应帐号:有些帐号多人共用,不仅易于发生安全事故,难以定位…
最近在做实验,实验需要进行分区域计算,网上查了资料后发现Yarn Node Labels + Capacity-Scheduler可以实现我的需求 但是当任务提交到capacity-scheduler调度器的default队列时,任务卡在ACCEPTED阶段. 网上看了很多发现没有这方面的信息,最后在Apache hadoop官网的官方手册上查到有以下信息 property Value yarn.scheduler.capacity.<queue-path>.default-node-labe…
Yarn引入案例 1.学生找院长报到,院长给学生一个学号 2.院长比较忙,继续找主任处理学生事务 3.系主任找院办给学生分配资源(书本) 4.主任找张老师教授java 5.张老师给学生安排座位 6.学生向主任反馈学习情况 7.主任向院长反馈学生信息 8.家长找院长询问孩子学习情况,院长找主任向家长解释 Yarn的执行流程 <1>client找ResourceManager提交作业,ResourceManager向client分配一个Jobid(注:ApplicationsManager和Res…
Kotlin是由JetBrains创建的基于JVM的编程语言,IntelliJ正是JetBrains的杰作,而android Studio是 基于IntelliJ修改而来的.Kotlin是一门包含很多函数式编程思想的面向对象编程语言... http://blog.csdn.net/ls0609/article/details/75084994  …
当我们需要和后台分离部署的时候,必须配置config/index.js: 用vue-cli 自动构建的目录里面  (环境变量及其基本变量的配置) var path = require('path') module.exports = { build: { index: path.resolve(__dirname, 'dist/index.html'), assetsRoot: path.resolve(__dirname, 'dist'), assetsSubDirectory: 'stati…
如果for里面换成了函数结果会是怎么样呢?下面就来介绍一下 package praDemo; public class Test { public static boolean foo(char c) { System.out.println(c); return true; } public static void main(String[] args) { int i = 0; for (foo('A');foo('B') && (i < 2);foo('C')) { i++;…
本文转载自;https://blog.csdn.net/u010164190/article/details/53015194 Android的binder机制提供一种进程间通信的方法,使一个进程可以以类似远程过程调用的形式调用另一个进程所提供的功能.binder机制在Java环境和C/C++环境都有提供. android的代码中,与C/C++的binder包括一些类型和接口的定义和实现,相关的代码在下面这几个文件中: frameworks\base\include\utils\IInterfa…
1.通俗的理解java对象的这一辈子 我是一个普通的java对象,我出生在Eden区,在Eden区我还看到和我长的很像的小兄弟,我们在Eden区中玩了挺长时间.有一天Eden区中的人实在是太多了,我就被迫去了Survivor区的“From”区,自从去了Survivor区,我就开始漂了,有时候在Survivor的“From”区,有时候在Survivor的“To”区,居无定所.直到我18岁的时候,爸爸说我成人了,该去社会上闯闯了.于是我就去了年老代那边,年老代里,人很多,并且年龄都挺大的,我在这里也…
①深入浅出的了解枚举类型 先看一段代码: enum Size{SMALL,MEDIUM,LARGE}; public class EnumTest { public static void main(String[] args) { Size s=Size.SMALL; Size t=Size.LARGE; //s和t引用同一个对象? System.out.println(s==t); //false //是原始数据类型吗? System.out.println(s.getClass().isP…
深入理解JVM类加载机制 简述:虚拟机把描述类的数据从class文件加载到内存,并对数据进行校验.转换解析和初始化,最终形成可以被虚拟机直接使用的Java类型,这就是虚拟机的类加载机制. 下面我们具体来看类加载的过程: 类的生命周期 类从被加载到内存中开始,到卸载出内存,经历了加载.连接.初始化.使用四个阶段,其中连接又包含了验证.准备.解析三个步骤.这些步骤总体上是按照图中顺序进行的,但是Java语言本身支持运行时绑定,所以解析阶段也可以是在初始化之后进行的.以上顺序都只是说开始的顺序,实际过…
条款2.理解auto型别推导 对于auto的型别推导而言,其中大部分情况和模板型别推导是一模一样的.只有一种特例情况. 我们先针对auto和模板型别推导一致的情况进行讨论: //某变量采用auto来声明的时候,其中auto就扮演了模板中的T这个角色,而变量的型别修饰词则对应函数形参paramauto x = 27;//其中T对应auto.param也对应autoconst auto cx = x;//T对应auto,param对应const autoconst auto& rx = x; //p…
本文主要记录了对git日常使用的一些理解,主要是对git分支的一些感悟. git强大的版本控制系统,之前也使用过SVN,感觉上git对于多人开发的版本控制更加强大,特别是最近对git分支的使用,更是深有体会. git的分支使用,假设场景,多人开发的时候,对于一个页面,前端写好后给后端,而后端放到服务器上后,前端要做出修改,后端也要做修改,这时候,就两个人就可以从主分支上切出不同的分支,分别单独开发. 1,从主分支上切出新分支,假设主分支是dev: 命令:git checkout -b new_c…
原文地址:http://angular-tips.com/blog/2013/08/watch-how-the-apply-runs-a-digest/ 注 这篇博文主要是写给新手的,是给那些刚刚开始接触Angular,并且想了解数据帮定是如何工作的人.如果你已经对Angular比较了解了,那强烈建议你直接去阅读源代码. Angular用户都想知道数据绑定是怎么实现的.你可能会看到各种各样的词汇:$watch,$apply,$digest,dirty-checking... 它们是什么?它们是如…
Angular什么时候不会自动为我们$apply呢? 这是Angular新手共同的痛处.为什么我的jQuery不会更新我绑定的东西呢?因为jQuery没有调用$apply,事件没有进入angular context,$digest循环永远没有执行. 我们来看一个有趣的例子: 假设我们有下面这个directive和controller app.js app.directive('clickable', function() { return { restrict: "E", scope:…
原文地址:http://angular-tips.com/blog/2013/08/watch-how-the-apply-runs-a-digest/ 注 这篇博文主要是写给新手的,是给那些刚刚开始接触Angular,并且想了解数据帮定是如何工作的人.如果你已经对Angular比较了解了,那强烈建议你直接去阅读源代码. Angular用户都想知道数据绑定是怎么实现的.你可能会看到各种各样的词汇:$watch,$apply,$digest,dirty-checking... 它们是什么?它们是如…
指针指向的是内存地址编号,内存地址编号指向的是对应的内容. 我们需要一个变量,来储存内存地址编号,这个变量的值是一个内存地址编号,但是我们可以通过修改变量的值,来不断的改变内存地址编号. 但是,我们如果需要改变该内存地址编号的值时,就需要对该内存地址编号的值进行修改,而不改变内存地址编号. 这里我们看到,p是一个变量,我们使用p来储存变量a的内存地址编号,这是,我们使用*p对于这个变量进行赋值,那么a的值是多少呢? 结果是11,因为我们使用*p赋值,就相当于a=11,赋值效果一样的. 指针的指针…
转载http://www.cnblogs.com/xdp-gacl/p/4249939.html 很不错的文章,虽说是java的,但是.net也通用,所以复制一分,拿来看看挺不错的. 1.1.IoC是什么 Ioc-Inversion of Control,即"控制反转",不是什么技术,而是一种设计思想.在Java开发中,Ioc意味着将你设计好的对象交给容器控制,而不是传统的在你的对象内部直接控制.如何理解好Ioc呢?理解好Ioc的关键是要明确"谁控制谁,控制什么,为何是反转(…
学习过Spring框架的人一定都会听过Spring的IoC(控制反转) .DI(依赖注入)这两个概念,对于初学Spring的人来说,总觉得IoC .DI这两个概念是模糊不清的,是很难理解的,今天和大家分享网上的一些技术大牛们对Spring框架的IOC的理解以及谈谈我对Spring Ioc的理解. 一.分享Iteye的开涛对Ioc的精彩讲解 首先要分享的是Iteye的开涛这位技术牛人对Spring框架的IOC的理解,写得非常通俗易懂,以下内容全部来自原文,原文地址:http://jinniansh…
  原文链接:http://blog.csdn.net/liushuijinger/article/details/7586656 进程通常分为就绪.运行和阻塞三个工作状态.三种状态在某些条件下可以转换,三者之间的转换关系如下: 进程三个状态之间的转换就是靠PV操作来控制的.PV操作主要就是P操作.V操作和信号量.其中信号量起到了至关重要的作用. 信号量 信号量是最早出现的用来解决进程同步与互斥问题的机制. 信号量(Saphore)由一个值和一个指针组成,指针指向等待该信号量的进程.信号量的值表…