数据分析(Data Analysis)

数据分析(Data Analysis)


数据分析是指用适当的统计分析方法对 收集来的大量数据进行分析,将它们加以汇总和理解并消化,以求最大化地开发数据的功能,发挥数据的作用。数据分析是为了提取有用信息和形成结论而对数据加 以详细研究和概括总结的过程。数据也称观测值,是实验、测量、观察、调查等的结果,常以数量的形式给出。通过不断的摸索与发展,现形成了一门独立的学科 ——数据挖掘与客户关系管理硕士。

GG 12

1简介

概念

Data Analysis
数据是事实,也称观测值,是实验测量、观察、调查等的结果,常以数量的形式给出。数据分析的目的是把隐没在一大批看来杂乱无章的数据中的信息集中、萃取和提炼出来,以找出所研究对象的内在规律。在实用中,数据分析可帮助人们作出判断,以便采取适当行动。数据分析是组织有目的地收集数据、分析数据,使之成为信息的过程。这一过程是质量管理体系的支持过程。在产品的整个生命周期。(项目数据分析师上海管理中心)
怎么判断一个人是否适合做数据分析?
1、问问他喜欢什么,平时对什么事情有兴趣,然后挖掘这些事情中他关注什么数据,比如买彩票、炒股?、看nba。其实里面都有很多数据,他在他喜欢的领域,如果能对数据如数家珍,对数据的解读能力到位,(比如对某个nba 球星的数据和所对应的表现状态做评论)至少说明他有很强的数据感。数据感是做数据分析的第一要务。
2、问问他对数据分析的理解和目标,看看他是怎么认识这份工作的。
类型
统计学领域,有些人将数据分析划分为描述性统计分析、探索性数据分析以及验证性数据分析;其中,探索性数据分析侧重于在数据之中发现新的特征,而验证性数据分析则侧重于已有假设的证实或证伪。
探索性数据分析是指为了形成值得假设的检验而对数据进行分析的一种方法,是对传统统计学假设检验手段的补充。该方法由美国著名统计学家约翰·图基(John Tukey)命名。
定性数据分析又称为“定性资料分析”、“定性研究”或者“质性研究资料分析”,是指对诸如词语、照片、观察结果之类的非数值型数据(或者说资料)的分析。
分析工具
excel作为常用的分析工具,可以实现基本的分析工作,在商业智能领域Cognos、Microstrategy、Brio、BO和Oracle以及国内产品如北京永洪科技的Yonghong Z-Suite BI套件等。
案例
Suncorp-Metway使用数据分析实现智慧营销
Suncorp-Metway是澳大利亚一家提供普通保险、银行业、寿险和理财服务的多元化金融服务集团, 旗下拥有5个业务部门,管理着14类商品,由公司及共享服务部门提供支持,其在澳大利亚和新西兰的运营业务与900多万名客户有合作关系。
该公司过去十年间的合并与收购,使客户群增长了200%,这极大增加了客户群数据管理的复杂性,如果解决不好,必将 对公司利润产生负面影响.为此,IBM公司为其提供了一套解决方案,组件包括:IBM Cognos 8 BI、IBMInitiate Master Data Service谀IBM Unica。
采用该方案后,Suncorp-Metway公司至少在以下三项业务方面取得显著成效:
1、显著增加了市场份额,但没有增加营销开支;
2、每年大约能够节省1000万美元的集成与相关成本;
3、避免向同一户家庭重复邮寄相同信函并且消除冗余系统,从而同时降低直接邮寄与运营成本。
由此可见,Suncorp-Metway公司通过该方案将此前多个孤立来源的数据集成起来,实现智慧营销,对控制成本,增加利润起到非常积极的作用。
数据分析帮助辛辛那提动物园提高客户满意度
辛辛那提动植物园成立于1873年,是世界上著名的动植物园之一,以其物种保护和保存以及高成活率繁殖饲养计划享有 极高声誉。它占地面积71英亩,园内有500种动物和3000多种植物,是国内游客人数最多的动植物园之一,曾荣获Zagat十佳动物园,并被《父母》 (Parent)杂志评为最受儿童喜欢的动物园,每年接待游客130多万人。
辛辛那提动植物园是一个非营利性组织,是俄亥州同时也是美国国内享受公共补贴最低的动植物园,除去政府补 贴,2600万美元年度预算中,自筹资金部分达到三分之二以上。为此,需要不断地寻求增加收入。而要做到这一点,最好办法是为工作人员和游客提供更好的服 务,提高游览率。从而实现动植物园与客户和纳税人的双赢。
借助于该方案强大的收集和处理能力、互联能力、分析能力以及随之带来的洞察力,在部署后,企业实现了以下各方面的受益:
·帮助动植物园了解每个客户浏览、使用和消费模式,根据时间和地理分布情况采取相应的措施改善游客体验,同时实现营业收入最大化。
·根据消费和游览行为对动植物园游客进行细分,针对每一类细分游客开展营销和促销活动,显著提高忠诚度和客户保有量。.
·识别消费支出低的游客,针对他们发送具有战略性的直寄广告,同时通过具有创意性的营销和激励计划奖励忠诚客户。
· 360度全方位了解客户行为,优化营销决策,实施解决方案后头一年节省40,000多美元营销成本,同时强化了可测量的结果。
·采用地理分析显示大量未实现预期结果的促销和折扣计划,重新部署资源支持产出率更高的业务活动,动植物园每年节省100,000多美元。
·通过强化营销提高整体游览率,2011年至少新增50,000人次“游览”。
·提供洞察结果强化运营管理。例如,即将关门前冰激淋销售出现高潮,动植物园决定延长冰激淋摊位营业时间,直到关门为止。这一措施夏季每天可增加2,000美元收入。
·与上年相比,餐饮销售增加30.7%,零售销售增加5.9%。
·动植物园高层管理团队可以制定更好的决策,不需要 IT 介入或提供支持。
·将分析引入会议室,利用直观工具帮助业务人员掌握数据。
GG 11

2步骤

具体方法

数据分析有极广泛的应用范围。典型的数据分析可能包含以下三个步:
1、探索性数据分析:当数据刚取得时,可能杂乱无章,看不出规律,通过作图、造表、用各种形式的方程拟合,计算某些特征量等手段探索规律性的可能形式,即往什么方向和用何种方式去寻找和揭示隐含在数据中的规律性。

2、模型选定分析,在探索性分析的基础上提出一类或几类可能的模型,然后通过进一步的分析从中挑选一定的模型。

3、推断分析:通常使用数理统计方法对所定模型或估计的可靠程度和精确程度作出推断。
分析方法
1、列表法
将实验数据按一定规律用列表方式表达出来是记录和处理实验数据最常用的方法。表格的设计要求对应关系清楚、简单明 了、有利于发现相关量之间的物理关系;此外还要求在标题栏中注明物理量名称、符号、数量级和单位等;根据需要还可以列出除原始数据以外的计算栏目和统计栏 目等。最后还要求写明表格名称、主要测量仪器的型号、量程和准确度等级、有关环境条件参数如温度、湿度等。
2、作图法
作图法可以最醒目地表达物理量间的变化关系。从图线上还可以简便求出实验需要的某些结果(如直线的斜率和截距值 等),读出没有进行观测的对应点(内插法)或在一定条件下从图线的延伸部分读到测量范围以外的对应点(外推法)。此外,还可以把某些复杂的函数关系,通过 一定的变换用直线图表示出来。例如半导体热敏电阻的电阻与温度关系为,取对数后得到,若用半对数坐标纸,以lgR为纵轴,以1/T为横轴画图,则为一条直 线。
3、数据分析主要包含:
1. 简单数学运算(Simple Math)
2. 统计(Statistics)
3. 快速傅里叶变换(FFT)
4. 平滑和滤波(Smoothing and Filtering)
5.基线和峰值分析(Baseline and Peak Analysis)
数据来源
1、搜索引擎蜘蛛抓取数据;
2、网站IP、PV等基本数据;
3、网站的HTTP响应时间数据;
4、网站流量来源数据。

3步骤

数据分析过程的主要活动由识别信息需求、收集数据、分析数据、评价并改进数据分析的有效性组成。
识别需求
识 别信息需求是确保数据分析过程有效性的首要条件,可以为收集数据、分析数据提供清晰的目标。识别信息需求是管理者的职责管理者应根据决策和过程控制的需 求,提出对信息的需求。就过程控制而言,管理者应识别需求要利用那些信息支持评审过程输入、过程输出、资源配置的合理性、过程活动的优化方案和过程异常变 异的发现。
收集数据
有目的的收集数据,是确保数据分析过程有效的基础。组织需要对收集数据的内容、渠道、方法进行策划。策划时应考虑:
①将识别的需求转化为具体的要求,如评价供方时,需要收集的数据可能包括其过程能力、测量系统不确定度等相关数据;
②明确由谁在何时何处,通过何种渠道和方法收集数据;
③记录表应便于使用; ④采取有效措施,防止数据丢失和虚假数据对系统的干扰。
分析数据
分析数据是将收集的数据通过加工、整理和分析、使其转化为信息,通常用方法有:
老七种工具,即排列图、因果图、分层法、调查表、散步图、直方图、控制图;
新七种工具,即关联图、系统图、矩阵图、KJ法、计划评审技术、PDPC法、矩阵数据图;
过程改进
数据分析是质量管理体系的基础。组织的管理者应在适当时,通过对以下问题的分析,评估其有效性:
①提供决策的信息是否充分、可信,是否存在因信息不足、失准、滞后而导致决策失误的问题;
②信息对持续改进质量管理体系、过程、产品所发挥的作用是否与期望值一致,是否在产品实现过程中有效运用数据分析;
③收集数据的目的是否明确,收集的数据是否真实和充分,信息渠道是否畅通;
④数据分析方法是否合理,是否将风险控制在可接受的范围;
⑤数据分析所需资源是否得到保障。
GG 10

4意义

在产品的整个寿命周期,包括从市场调研到售后服务和最终处置的各个过程都需要适当运用数据分析过程,以提升有效性。例如J.开普勒通过分析行星角位置的观测数据,找出了行星运动规律。又如,一个企业的领导人要通过市场调查,分析所得数据以判定市场动向,从而制定合适的生产及销售计划。因此数据分析有极广泛的应用范围。
网络营销
对网络营销的意义
在中国,尽管网络营销的概念很火,但网络营销的效率低于一些发达国家也是事实。无论是门户广告、搜索引擎广告,还是广告联盟,从行业平均转化率上看,都要低于国外较为成熟国家的水平。据估计,国内的Bounce rate(蹦失率,即用户只浏览第一页即离开的比例)介于90%~99%之间,而欧美的Bounce rate则是70%左右。
诚然,国内的网络营销环境处于发展之中,环境不那么尽如人意,但中国互联网络信息中心分析师孙秀秀认为,出现这种情况的很多责任在投放广告的企业方,在于对营销背后的数据分析工作的不重视,没有精确定位有效的客户群,导致大量的展示给了不相关的网民。
通常,广告投放前的数据分析可以分为两步走。第一步:描述目标群体。比如,目标群体是18~25岁,上网购物的年轻女性。第二步:描述此群体的网络活动轨迹。
也就是说,知道目标客户群上什么网站、做什么事、在什么时间地点能够找到他非常重要。实际上,论覆盖面,网络营销还远远赶不上传统媒体。2009年底中国的互联网普及率为28.9%,而同期中国电视的普及率却已经超过80%。但是,仍旧有很多有远见的企业选择网络营销。其中的一个重要原因是,网络营销的全过程都可以被追踪到,通过数据分析可以随时调整投放方式。
项目数据分析
项目数据分析的重要意义
数据分析不仅可以在网络广告前期发挥巨大作用,在投放后期同样是调整广告方向的重要工具。比如,通过数据可以看到用 户从哪里来、如何组织产品页面可以实现很好的转化率、投放广告的效率如何等等问题。基于数据分析的每一点点改变,都可以使赚钱的能力提高一点点。所以,只 有称数据分析为网络营销的灵魂才能凸显数据分析的重要性。
行业发展状况
数据分析行业,在国外的发展已经非常成熟,每年有上千亿美元的市场份额。在国外,数据分析非常重要,在美国有专门的数据中心,为全国甚至全球的数据分析行业提供数据平台,还有一些图书馆,专门设有数据分析,数据统计图书收藏,为数据分析行业的从业人员提供查询搜索平台。
分析方法
在市场调查数据分析中,我们常用的分析方法有:描述性统计(包括集中趋势分析、频数分析、数据的分布、数据离散程度 分析等)、回归分析、主成分分析与因子分析、判别分析、聚类分析、时间序列分析以及常用数据分析方法。数据分析是指用适当的统计方法对收集来的大量一手和 二手资料进行分析,以求最大化地开发数据资料的功能,发挥数据的作用。是为了提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。
综上数据分析对于项目的实施具有重要的意义。

5数据

采用的分析方法如下:
1、描述性统计分析
包括样本基本资料的描述,作各变量的次数分配及百分比分析,以了解样本的分布情况。此外,以平均数和标准差来描述市场导向、竞争优势、组织绩效等各个构面,以了解样本企业的管理人员对这些相关变量的感知,并利用t检验及相关分析对背景变量所造成的影响做检验。
2、Cronbach’a信度系数分析
信度是 指测验结果的一致性、稳定性及可靠性,一般多以内部一致性(consistency)来加以表示该测验信度的高低。信度系数愈高即表示该测验的结果愈一 致、稳定与可靠。针对各研究变量的衡量题项进行Cronbach’a信度分析,以了解衡量构面的内部一致性。一般来说,Cronbach’a仅大于0.7 为高信度,低于0.35为低信度(Cuieford,1965),0.5为最低可以接受的信度水准(Nunnally,1978)。
3、探索性因素分析(exploratory factor analysis)和验证性因素分析(confirmatory factor analysis)
用以测试各构面衡量题项的聚合效度(convergent validity)与区别效度(discriminant validity)。因为仅有信度是不够的,可信度高的测量,可能是完全无效或是某些程度上无效。所以我们必须对效度进行检验。效度是指工具是否能测出在 设计时想测出的结果。收敛效度的检验根据各个项目和所衡量的概念的因素的负荷量来决定;而区别效度的检验是根据检验性因素分析计算理论上相关概念的相关系 数,检定相关系数的95%信赖区间是否包含1.0,若不包含1.0,则可确认为具有区别效度(Anderson,1987)。
4、结构方程模型分析(structural equations modeling)
由于结构方程模型结合了因素分析(factor analysis)和路径分析(path analysis),并纳入计量经济学的联立方程式,可同时处理多个因变量,容许自变量和因变量含测量误差,可同时估计因子结构和因子关系。容许更大弹性 的测量模型,可估计整个模型的拟合程度(Bollen和Long,1993),因而适用于整体模型的因果关系。在模型参数的估计上,采用最大似然估计法 (Maximum Likelihood,ML);在模型的适合度检验上,以基本的拟合标准(preliminary fit criteria)、整体模型拟合优度(overall model fit)以及模型内在结构拟合优度(fit of internal structure of model)(Bagozzi和Yi,1988)三个方面的各项指标作为判定的标准。在评价整体模式适配标准方面,本研究采用x2(卡方)/df(自由度) 值、拟合优度指数(goodness.of.f:iJt.in.dex,GFI)、平均残差平方根(root— mean.square:residual,RMSR)、近似误差均方根(root-mean—square-error-of- approximation,RMSEA)等指标;模型内在结构拟合优度则参考Bagozzi和Yi(1988)的标准,考察所估计的参数是否都到达显著 水平。

6行业协会

中国商业联合会数据分析专业委员会,是于2008年4月经国务院国有资产监督管理委员会审核同意、中华人民共和国民政部正式批准和登记的中国数据分析行业唯一(截止2014年8月)的行业协会。