企业没有大数据,只有坏数据
编者按:本文作者 Jeremy Levy 是在线分析平台 Indicative 的首席执行官.
PayPal 联合创始人兼风险投资人彼得·蒂尔(Peter Thiel)经常抱怨科技圈一直在过度使用像“云端”和“大数据”这样的流行词。虽然他 不是唯一一个长期表达这种观点的人 ,但是大部分企业似乎仍然没有充分理解这条信息。
很多企业经常会吹嘘自己拥有多少 TB,甚至是 PB 的数据量,还有它们的大型数据科学家团队正在使用 Apache Kafka 流运行海量的 Hadoop 集群,这些企业认为这些都是它们的竞争优势所在。
然而,事实上它们当中的大多数都遇到了计算机领域的一个老生常谈的问题:无用输入,无用输出(garbage in, garbage out)。它们不仅没有符合大数据定义的数据复杂度或数据量,而且它们拥有的实际上是劣质数据,它们的业务甚至有可能会因此蒙受损失。根据 Experian Data Quality 的数据,88%的企业的收支情况都会受到不准确数据的影响,而且受影响的营收比例高达 12%。
优质的大数据
部分企业确实拥有优质的数据,而且知道如何运用它。从像谷歌这样的成熟网络公司,到像波音这样的工程背景企业,下文列出的企业都能够成功地管理海量的数据,并将其用于实现真正数据驱动的决策。
Netflix:为用户提供他们想要的东西。 占据美国三分之一互联网高峰流量的 Netflix 会收集大量关于用户观影习惯的数据,而且它还可以将这些数据按照地区、观看时段、观看时长等各种项目进行细分。这种方式使得他们能够准确地预测观众喜欢的内容。
能够很好的证明这点的例子是,Netflix 现在已经从一个 DVD 点播和流媒体服务发展成为一家独立的影视制作公司,诸如《纸牌屋》和《女子监狱》这样的热门剧集都是他们的作品。他们的原创剧集甚至摒弃了传统的单集试播模式,而是而是选择一次性地制作整季的剧集。
IBM和 The Weather Company:理解天气对业务的影响。IBM 已经和 The Weather Company 建立了合作关系,它们将各自的海量数据组结合起来,并从中分析出天气对公司业务的影响。这项分析涵盖了从零售业到保险业等各个领域,它们能够准确的提供实时的分析结果,例如温度变化对销量的影响,或者保险公司如何通过建议客户驾车出行的方法来节省成本。
西奈山伊坎医学院:预测病人的健康。 这所位于纽约市的医学院已经任命了杰夫·哈默巴赫(Jeff Hammerbacher)——Facebook 的首位数据科学家担任一个计算机开发项目的主管,这个项目的目标是分析他们每年收治的 50 万位病人的医疗信息。
在西奈山基因组学与多尺度生物学研究院院长的协助之下,他们正在研究如何做出能够降低医疗成本的预测——例如通过分析病人的既往病史和风险因素来确定他们所需的治疗频率,或者为医生提供来自基因组学和实验数据收集得出的风险模型,帮助他们为病人制定治疗方案。
亚马逊:设立客户服务的新标准。 亚马逊拥有前所未有的用户数据——从他们正在阅读的书籍到他们补充化妆棉的频率。正当其他公司都将客户支持放在次要地位的时候,亚马逊已经将其变成了自身业务的一个重点,它非常强调与消费者进行直接沟通的重要性。凭借自身丰富的用户数据,亚马逊能够在用户有需要的时候立刻提供相关的信息,在简化客户服务流程的同时还能巩固他们的忠诚度。
施乐:减少员工流失。 工作经历一向都是新员工招聘当中的一个重要参考因素,但是在为自己的电话服务中心招聘的时候,施乐发现了一个完全不同的参考标准,这点使得它更容易找到合适的人才。施乐利用大数据分析发现员工的个性才是决定他们留任与否的真正因素——富有创意的人会更倾向于坚持下来,爱管闲事的人则不然。在掌握了这些信息之后,施乐开始通过应聘者调查(而不是招聘主管的决定)为自己的电话服务中心进行招聘,最终使得它所有电话服务中心的半年员工流失率下降了 20%。
然而,大部分企业都不能很好地利用数据。
劣质的大数据
一直以来,企业都没有花时间去思考它们应该收集什么数据,还有采用怎样的方式来收集数据。在数据的海洋中,他们不是使用长矛精准地捕捉渔获,而是习惯于一网打尽,结果它们收集到的是一堆没有任何预先计划和结构条理的垃圾。这种对困难决策的拖延态度导致大型企业的数据科学团队只能将大部分的时间花在清理、分类和组织数据之上,而且这些工作只能使用手动或者半自动的方式来完成。
“利用智能、实用的数据进行发展是每家企业都应该追求的目标。”
美国政府最近任命的首席数据科学家 DJ·帕蒂尔(DJ Patil)很好地总结了数据的问题 ,他表示,“你在开始之前必须懂得一个非常基础的概念:数据是混乱不堪的,而且数据清理工作总会占据 80%的时间。换句话说,数据本身就是问题的所在。”
然而我们看到的也并非只有坏消息。根据产业研究公司 Wikibon 的数据,在企业对数据工具投资当中,有 52%的资金流向了用于采集和组织数据的技术之上,让数据的获取和分析变得更容易。但是处理这个难题的关键也许不只是在更多或更好的工具上投资。
为你的企业应用大数据
如果要将企业真正转变为一家以数据为导向的公司,以下是一些值得关注的指引和方法,它们经过了世界一流的数据公司的实践检验。
了解你自己。 从了解你需要分析的数据类型开始——你要的是事件数据、财务数据、图表数据还是其他东西?在确定你需要以怎样的程度来收集数据的时候, 这是最重要的考虑因素。
不要过度授权。 许多企业都会将建立分析的工作交给外包开发者或者 IT 部门负责,没有让真正的商业用户参与其中——那些准备使用这些数据的人应该准确了解数据的收集和汇总方式,这是至关重要的一点,因为这样可以避免他们在使用的过程当中出现重大的问题。
确定使用实例。 作为“不要过度授权”的推论,企业也不应该让商业用户给出过于宽泛(例如,“我们想要追踪销售的来源”)或者无关紧要的使用实例。每一份数据都应该符合某一个分析架构,而且可以用于解决某一个问题。这里就需要指派一位技术性很强的商业用户或者具有商业头脑的技术领导负责最终的决定。
从源头抓起。 无用输入,无用输出。请确保你对数据的来源和类型了如指掌。你的数据从何而来?它足够准确吗?如果你不知道这些问题的答案,那么你应该开始认真思考了。
使用合适的工具来完成工作。 现在已经有很多非常优秀的分析工具。在确定了你的商业用户和终端用户的重点使用实例之后,你应该进行一个正式的比较流程,根据你自己的需求剔除一些你永远都用不上的高级功能。
大数据本身是愚蠢的。利用智能、实用的数据进行发展是每家企业都应该追求的目标。