一开始... 一开始知道大数据这个概念的时候,只是感觉很高大上,引起了我的兴趣.当时也不知道,这个东西是做什么的,有什么用,当然现在看来也是很模糊的样子,但是的确比一开始强了不少. 所以学习的过程可能会很艰辛甚至有时候会很缓慢,但是感觉这东西未来会很有用途,最初了解大数据是从<大数据时代>这本书开始的,里面的很多概念和预测让我觉得很神奇. 但是渐渐生活中的一些事物被印证,我渐渐接受了这本书的内容,我觉得这本书还是值得一看的. 在国内这个技术似乎是比较新颖的,做的人似乎不是很多,正因为如此,资料…

一.大数据分析的五个基本方面 可视化分析 大数据分析的使用者有大数据分析专家,同时还有普通用户,但是他们二者对于大数据分析最基本的要求就是可视化分析,因为可视化分析能够直观的呈现大数据特点,同时能够非常容易被读者所接受,就如同看图说话一样简单明了. 数据挖掘算法 大数据分析的理论核心就是数据挖掘算法,各种数据挖掘的算法基于不同的数据类型和格式才能更加科学的呈现出数据本身具备的特点,也正是因为这些被全世界统计学家所公认的各种统计方法(可以称之为真理)才能深入数据内部,挖掘出公认的价值. 另外一个方…

​ 这两天小编去了解了下大数据开发相关职位的薪资,主要有hadoop工程师,数据挖掘工程师.大数据算法工程师等,从平均薪资来看,目前大数据相关岗位的月薪均在2万以上,随着项目经验的增长工资会越来越高. 那么对于新手来说,应该如何开始学习,才能够早日的实现月薪2万多的目标.就小编了解的来说,新手一般需要一年以上的时间才能够达到2万以上的薪资,目前很多人选择参加培训然后快速进入工作岗位,积累经验,客观的讲在目前的情况下,不失为一种方法.另外一种就是自学,优点是如果能够坚持下来,所积累的东西更多,后期…

架构师小组交流会是由国内知名公司技术专家参与的技术交流会,每期选择一个时下最热门的技术话题进行实践经验分享.第一期:来自沪江.滴滴.蘑菇街.扇贝架构师的 Docker 实践分享 第二期:来自滴滴.微博.唯品会.魅族.点评关于高可用架构的实践分享 第三期:京东.宅急送的微服务实践分享(上)(下) 第四期小组交流会邀请到了 Polarr 联合创始人宫恩浩.搜狗大数据总监高君.七牛云 AI 实验室负责人彭垚,对深度学习框架选型.未来趋势展开了交流. 自由交流 Polarr 宫恩浩 我是宫恩浩,现在在斯…

<深度学习与计算机视觉 算法原理.框架应用>全书共13章,分为2篇,第1篇基础知识,第2篇实例精讲.用通俗易懂的文字表达公式背后的原理,实例部分提供了一些工具,很实用. <大数据架构详解:从数据获取到深度学习>从架构.业务.技术三个维度深入浅出地介绍了大数据处理领域端到端的知识. <深度学习与计算机视觉 算法原理.框架应用>PDF,带书签,347页. <大数据架构详解:从数据获取到深度学习>PDF,带书签,373页. 配套源代码. 网盘下载:http://1…

学习记录day03   字符串可以直接切片,But字符串不可修改 字符串修改:生成了一个新的字符串 LIst修改,在原基础上修改(原内存上)     集合是一个无序的,不重复的数据组合,它的主要作用如下:   去重,把一个列表变成集合,就自动去重了 关系测试,测试两组数据之前的交集.差集.并集等关系 dict\list\set.. 全用 x in ..计算,,dict.has_key等已废   文件: fp = open() #文件句柄,文件句柄里存的内容: 文件信息.在磁盘上的开始位置.内存等…

主要的不同点 apache Ambari ClouderaManager Express(免费版) 配置版本控制和历史记录 支持 不支持 二次开发 支持 不支持 集成 支持 no (不支持redis.kylin.es) 维护 依靠社区力量 cloudera做了一些定制开发,自行维护或打patch会离社区越来越远 权限控制 ranger(相对简单) sentry(复杂) 视图定制 支持创建自己的视图,添加自定义服务 不支持 出版商: hortonworks研发了Ambari和hdp的大数据分析集成…

Ubuntu16.04+Kafka1.0.0+Flume1.8.0 1.目标 ①使用Flume作为Kafka的Producer: ②使用Kafka作为Flume的Sink: 其实以上两点是同一个事情在Flume和Kafka两个立场上的不同描述而已,其实就是同一个事情. 2.启动zookeeper(这里使用kafka自带的zookeeper,也可以独立部署zookeeper使用) 使用默认的zookeeper.properties配置文件 zookeeper-server-start.sh /us…

Ubuntu16.04+Flume1.8.0 1.下载apache-flume-1.8.0-bin.tar.gz http://flume.apache.org/download.html 2.解压到/usr/local/flume中 3.设置配置文件/etc/profile文件,增加flume的路径 ①vi /etc/profile export FLUME_HOME=/usr/local/flume export PATH=$PATH:$FLUME_HOME/bin ②让配置文件立即生效 s…

Ubuntu16.04 1.下载jdk-8u192-linux-x64.tar.gz https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 2.解压到/usr/local/java文件夹中 3.设置配置文件/etc/profile文件,增加java的路径 ①vi /etc/profile export JAVA_HOME=/usr/local/java export PATH=$P…