大数据时代小数据分析
大数据挖掘需要精通数据库、计算机编程和深厚的统计学基础,有的甚至要涉及运筹学范畴,是一门复合型的应用科学。大数据的案例现在着实是一抓一大把,比如国外典型的”啤酒与尿布”的案例,在了解数据分析之前,不妨来看看几个有趣的应用案例。
Case1 数据新闻让英国撤军
2010年10月23日《卫报》利用维基解密的数据做了一篇“数据新闻”。将伊拉克战争中所有的人员伤亡情况均标注于地图之上。地图上一个红点便代表一次死伤事件,鼠标点击红点后弹出的窗口则有详细的说明:伤亡人数、时间,造成伤亡的具体原因。密布的红点多达39万,显得格外触目惊心。一经刊出立即引起朝野震动,推动英国最终做出撤出驻伊拉克军队的决定。
Case2 大数据与乔布斯癌症治疗
乔布斯是世界上第一个对自身所有DNA和肿瘤DNA进行排序的人。为此,他支付了高达几十万美元的费用。他得到的不是样本,而是包括整个基因的数据文档。医生按照所有基因按需下药,最终这种方式帮助乔布斯延长了好几年的生命。
Case3 Google成功预测冬季流感
2009年,Google通过分析5000万条美国人最频繁检索的词汇,将之和美国疾病中心在2003年到2008年间季节性流感传播时期的数据进行比较,并建立一个特定的数学模型。最终google成功预测了2009冬季流感的传播甚至可以具体到特定的地区和州。
Case4 奢侈品销售
PRADA 在纽约的旗舰店中每件衣服上都有RFID码。每当一个顾客拿起一件PRADA进试衣间,RFID会被自动识别。同时,数据会传至PRADA总部。每一件衣服在哪个城市哪个旗舰店什么时间被拿进试衣间停留多长时间,数据都被存储起来加以分析。如果有一件衣服销量很低,以往的作法是直接干掉。但如果RFID传回的数据显示这件衣服虽然销量低,但进试衣间的次数多。那就能另外说明一些问题。也许这件衣服的下场就会截然不同,也许在某个细节的微小改变就会重新创造出一件非常流行的产品。
除了国外这些经常用于商业培训课程的案例外,数据分析其实并不遥远,在国内也不乏应用,比如共和国的开国元帅林彪就曾经依靠敏锐的数据嗅觉和军事天赋,成功捣毁敌营总部。
从 2008年的一个偶然机会第一次接触“数据挖掘”(DataMining)这个新名词以来,掐指一算在数据挖掘应用相关领域度过了6年。我的本专业是化工,整天应该与塔、釜、换热器、化学反应、物料守恒等打交道。开始接触这个专业的目的是为了利用数据分析的一些功能来优化生产运营,让企业以更高的效率、更低的成本和更好的质量去运营。那如何可以做到效率更高、成本最低和质量更好,它们的关键改善点和控制点在哪里呢?这需要数据积累,需要数据分析,需要数据模型,它们在哪里呢?
2008年时国内企业在数据挖掘应用中摸索起步,远不如现在大数据火热。如今大数据最火的商业应用主要集中在互联网、银行、电信等领域。基于行业应用限制,我无法接触到真正的大数据挖掘,但是幸运的是我还是碰到了职业和兴趣的重合点。
这几年的摸索是我职业生涯很重要的一段时光,可能在以后的职业生涯中我触碰到数据挖掘的机会不会太多,但我觉得有必要将自己一路走来的心得与体会、感悟和挫折整理出来,一则是对自己的这段职业生涯做一个交代,特别是对一路引导、鼓励和支持我的师友和家人;二则是合理地引导类似我半道出家的学习者,对数据分析有兴趣却没有深厚的统计学知识和IT功底人士。我相信本书整理出来的内容对于广大对数据分析应用感兴趣的初学者来说都是一种宝贵经验。在学习数据分析的道路上我深刻认识到一个道理:一个成功的数据分析实践,核心的因素不是数据分析技术,而是对业务理解和分析思路,这也是当初学习数据分析的初衷,初学者切不可为数据分析而去分析数据。
目前国内的大部分高校还没有开通数据挖掘这门专业课程。大数据分析需要依靠庞大的数据库,需要各专业的人士通力合作,是一个团队作业。类似我们这种半道出家的个人学习者,在不具备团队协作的条件下,可以在样本数据的分析下点功夫。样本数据我们也可以称之为小数据。因此,书的名称就定为《大数据时代小数据分析》。