如题所述
大家觉得大资料分析人员需要掌握哪些核心技能和演算法
1、大资料生命周期
2、大资料技术生态
3、大资料采集与预处理
4、大资料储存与管理
5、大资料计算模式与系统
6、大资料分析与视觉化
大资料分析主要有哪些核心技术
- 统计/分析
统计与分析主要利用分散式资料库,或者分散式计算丛集来对储存于其内的海量资料进行普通的分析和分类汇总等,以满足大多数常见的分析需求,在这方面,一些实时性需求会用到EMC的GreenPlum、Oracle的Exadata,以及基MySQL的列式储存Infobright等,而一些批处理,或者基于半结构化资料的需求可以使用Hadoop。统计与分析这部分的主要特点和挑战是分析涉及的资料量大,其对系统资源,特别是I/O会有极大的占用。
汇入/预处理
将这些来自前端的资料汇入到一个集中的大型分散式资料库,或者分散式储存丛集,并且可以在汇入基础上做一些简单的清洗和预处理工作。也有一些使用者会在汇入时使用来自Twitter的Storm来对资料进行流式计算,来满足部分业务的实时计算需求。汇入与预处理过程的特点和挑战主要是汇入的资料量大,每秒钟的汇入量经常会达到百兆,甚至千兆级别。
挖掘
比较典型演算法有用于聚类的K-Means、用于统计学习的SVM和用于分类的Naive Bayes,主要使用的工具有HadoopMahout。
商品资料分析员需要掌握哪些技能?, 资料分析专员需要掌握什么技能?
1 资料分析,一定要有精强的EXCEL表格资料处理能力.
2 要有政策敏感性,分析资料,关键点在分析上,要对行业及企业的资料对政策等都有较强的理解能力,资讯收集能力.
3 要有对企业行业的本质管理有明确的思维,要擅于挖掘资料之间的关系及反应出来的问题,与经营管理有连带关系.
4 需要为上级领导制定可以影响商业绩效的策略和行动计划,因此要有横向纵向分析的能力.
5 要熟悉PPT SPSS等资料汇总的方法.
6 要针对财务资料分盈余利润等,因此也要有财务管理及成本核算的基础知识.
7 不同行业还有不同要求,比如说工民建的知识,工程造价的知识,销售管理知识等等.这一行需要沉淀,不过从事得当并有突破后,极易成为成功人士,为未来奠定极好的基础.
加油吧,一定会成功的,书就不必多买了,网路是个大染缸,你看确定行业,或者喜爱的行业方向后,有不同的选择.
做好资料分析的需要掌握哪些技能
一、 懂业务
从事资料分析工作的前提就会需要懂业务,即熟悉行业知识、公司业务及流程,最好有自己独到的见解,若脱离行业认知和公司业务背景,分析的结果只会是脱了线的风筝,没有太大的使用价值。
二、 懂管理
一方面是搭建资料分析框架的要求,比如确定分析思路就需要用到营销、管理等理论知识来指导,如果不熟悉管理理论,就很难搭建资料分析的框架,后续的资料分析也很难进行。另一方面的作用是针对资料分析结论提出有指导意义的分析建议。
三、 懂分析
指掌握资料分析基本原理与一些有效的资料分析方法,并能灵活运用到实践工作中,以便有效的开展资料分析。基本的分析方法有:对比分析法、分组分析法、交叉分析法、结构分析法、漏斗图分析法、综合评价分析法、因素分析法、矩阵关联分析法等。高阶的分析方法有:相关分析法、回归分析法、聚类分析法、判别分析法、主成分分析法、因子分析法、对应分析法、时间序列等。
四、 懂工具
指掌握资料分析相关的常用工具。资料分析方法是理论,而资料分析工具就是实现资料分析方法理论的工具,面对越来越庞大的资料,我们不能依靠计算器进行分析,必须依靠强大的资料分析工具帮我们完成资料分析工作。
五、懂设计
懂设计是指运用图表有效表达资料分析师的分析观点,使分析结果一目了然。图表的设计是门大学问,如图形的选择、版式的设计、颜色的搭配等等,都需要掌握一定的设计原则。