之前听朋友吐槽过,他们是上千人的企业,但做数据分析居然还是靠手动上传数据,而且还是用的excel做的.但其实excel并不是企业做数据分析的好工具. 数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,提取有用信息和形成结论而对数据加以详细研究和概括总结的过程.这一过程也是质量管理体系的支持过程. 在实际工作中,数据分析可帮助企业作出判断,以便采取适当行动.我们先来看看企业数据分析的过程:       既然说到Excel做数据分析,那就先看看excel是如何分析数据的 一般接触信息化和数…
"Excel在过去.现在和未来都是一个无比优秀和天才的工具,无数虔诚的信徒将其奉为唯一的法门,而我却并不在其中了." 作为一个数据分析师,Excel是我入门必备的数据分析工具,虽然上手快,但也给我带了诸多不便,各种复杂问题. 一旦超过10万的数据量.或者函数.逻辑复杂一些,Excel绝对能卡到怀疑人生:想要实现数据的分析和清洗,不得不依靠各种函数和VBA,繁琐程度不亚于任何一门编程语言:业务流转过程中根本没办法保证数据的原貌,拿到手的Excel表不知道修改了多少次....... 相信我…
随着企业的迅速发展,企业对数据分析的需求也在不断地凸显,但我们在实际的工作中经常会遇到这样尴尬的情形:擅长数据分析的人不懂业务,擅长业务的人又不了解数据分析.那么怎么让更懂业务逻辑.业务分析需求和痛点的业务人员也能独立完成数据分析工作呢? 目前业务人员难以完成数据分析工作的最大原因是很多业务人员不懂技术.不懂编程.这就可能有人会问了,Excel不是也能做数据分析吗?现实是用Excel来进行数据分析只是简单的分析,看不到整体的问题和矛盾点,数据分析的效果并不好.因此,运用简单易上手的BI工具来进行…
引言 这篇是<研发应该懂的binlog知识(上)>的下半部分.在本文,我会阐述一下binlog的结构,以及如何使用java来解析binlog. 不过,话说回来,其实严格意义上来说,研发应该还需要懂如何监听binlog的变化.我本来也想写这块的知识,但是后来发现,这块讲起来篇幅过长,需要从mysql的通讯协议开始讲起,实在是不适合放在这篇文章讲,所以改天抽时间再写一篇监听binlog变化的文章. 说到这里,大家可能有一个疑问: 研发为什么要懂得如何解析binlog? 说句实在话,如果在实际项目中…
引言 这篇是<研发应该懂的binlog知识(上)>的下半部分.在本文,我会阐述一下binlog的结构,以及如何使用java来解析binlog.不过,话说回来,其实严格意义上来说,研发应该还需要懂如何监听binlog的变化.我本来也想写这块的知识,但是后来发现,这块讲起来篇幅过长,需要从mysql的通讯协议开始讲起,实在是不适合放在这篇文章讲,所以改天抽时间再写一篇监听binlog变化的文章. 说到这里,大家可能有一个疑问: 研发为什么要懂得如何解析binlog? 说句实在话,如果在实际项目中遇…
数据分析系列篇:玩转excel 不知道现在怎么也变得这么鸡婆,连excel都要准备写一篇.没办法,还有很多不是做数据的小伙伴们不会excel啊,抱着不抛弃.不放弃的态度,就讲下excel如何玩转.其实excel不难,掌握几块就能轻松驾驭:1)函数 2)图表 3)数据处理 写excel相关的书也不少,讲excel的讲解也很多,所以今天要写的不是也来个洋洋洒洒大而全的东西,尽量精简点,反正我是没怎么花时间在看书上.建议把我下面的这些函数和图表都动手操作一遍,花不了你多少时间. 一.excel模块 e…
你是否还在被以下问题所困扰? 辛苦辛苦地拿到了一堆数据,却不知道从何下手分析? 因为不会统计数据分析伤透脑筋,而打消考博的梦想? 数据分析求助无门,涌现出想要放弃学位的念头? 突然开天眼般的想到了一个好idea,却因为涉及统计数据分析望而却步? 如果你还在经历以上的痛苦,那么,你或许可以花时间了解一下Smartbi这个软件.不管你是营销人员做市场调查,还是数据人员做数据分析,又或者是学术党做论文研究,都离不开这个强大的数据处理分析软件! 一.面向Excel用户的自助分析 Smartbi Exce…
http://blog.csdn.net/zwgdft/article/details/53842574 作为系列文章的第四篇,本文将重点探讨数据采集层中的ELK日志系统.日志,指的是后台服务中产生的log信息,通常会输入到不同的文件中,比如Django服务下,一般会有nginx日志和uWSGI日志.这些日志分散地存储在不同的机器上,取决于服务的部署情况了.如果我们依次登录每台机器去查阅日志,显然非常繁琐,效率也很低,而且也没法进行统计和检索.因此,我们需要对日志进行集中化管理,将所有机器上的日…
1.2 Why Python for Data Analysis?(为什么使用Python做数据分析) 这节我就不进行过多介绍了,Python近几年的发展势头是有目共睹的,尤其是在科学计算,数据处理,AI方面,否则大家也不会来看这本书了. 使用Python的一些优点 Python是一门胶水语言,可以把不同语言整合起来,比如上层代码使用Python编写,底层代码用C,C++等语言实现. 解决了两种语言的问题.以前做研究用一门语言写原型(比如R,SAS),效果好了才会用其他语言去重新实现一遍(比如J…
Python 数据分析:让你像写 Sql 语句一样,使用 Pandas 做数据分析 一.加载数据 import pandas as pd import numpy as np url = ('https://raw.github.com/pandas-dev/pandas/master/pandas/tests/data/tips.csv') tips = pd.read_csv(url) output = tips.head() Output: total_bill tip sex smoke…