9个关键字 写写大数据行业2015年年终总结

2015年,大数据市场的发展迅猛,放眼国际,总体市场规模持续增加,随着人工智能、物联网的发展,几乎所有人将目光瞄准了“数据”产生的价值。行业厂商 Cloudera、DataStax 以及 DataGravity 等大数据公司已经投入大量资金研发相关技术,Hadoop 供应商 Hortonworks 与数据分析公司 New Relic 甚至已经上市。而国内,国家也将大数据纳入国策。

我们邀请数梦工场的专家妹子和你来聊聊 2015 年大数据行业九大关键词,管窥这一年行业内的发展。

战略:国家政策

今年中国政府对于大数据发展不断发文并推进,这标志着大数据已被国家政府纳入创新战略层面,成为国家战略计划的核心任务之一:

2015年9月,国务院发布《促进大数据发展行动纲要》,大力促进中国数据技术的发展,数据将被作为战略性资源加以重视;

2015年10月26日,在国家“十三五”规划中具体提到实施国家大数据战略。

挑战:BI(商业智能)

2015年对于商业智能(BI)分析市场来说,正由传统的商业智能分析快速进入到敏捷型商业智能时代。以 QlikView、Tableau和 SpotView 为代表的敏捷商业智能产品正在挑战传统的 IBM Cognos、SAP Business Objects 等以 IT 为中心的 BI 分析平台。敏捷商业智能产品也正在进一步细化功能以达到更敏捷、更方便、适用范围更广的目的。

崛起:深度学习/机器学习

人工智能如今已变得异常火热,作为机器学习中最接近 AI(人工智能)的一个领域,深度学习在2015年不再高高在上,很多创新企业已经将其实用化:Facebook 开源深度学习工具“Torch”、PayPal 使用深度学习监测并对抗诈骗、亚马逊启动机器学习平台、苹果收购机器学习公司 Perceptio ……同时在国内,百度、阿里,科大讯飞也在迅速布局和发展深度学习领域的技术。

共存:Spark/Hadoop

Spark 近几年来越来越受人关注,2015年6月15日,IBM 宣布投入超过3500名研究和开发人员在全球十余个实验室开展与 Spark 相关的项目。

与 Hadoop 相比,Spark 具有速度方面的优势,但是它本身没有一个分布式存储系统,因此越来越多的企业选择 Hadoop 做大数据平台,而 Spark 是运行于 Hadoop 顶层的内存处理方案。Hadoop 最大的用户(包括 eBay 和雅虎)都在 Hadoop 集群中运行着 Spark。Cloudera 和 Hortonworks 将 Spark 列为他们 Hadoop 发行的一部分。Spark 对于 Hadoop 来说不是挑战和取代相反,Hadoop 是 Spark 成长发展的基础。

火爆:DBaaS

随着 Oracle 12c R2 的推出,甲骨文以全新的多租户架构开启了 DBaaS (数据库即服务Database-as-a-Service)新时代,新的数据库让企业可以在单一实体机器中部署多个数据库。在2015年,除了趋势火爆,12c 多租户也在运营商、电信等行业投入生产应用。

据分析机构 Gartner 预测,2012年至2016年公有数据库云的年复合增长率将高达86%,而到2019年数据库云市场规模将达到140亿美元。与传统数据库相比,DBaaS 能提供低成本、高敏捷性和高可扩展性等云计算特有的优点。

诱人:数据科学家

随着行业的发展,人才显得尤为重要,各公司都期待数据科学专业人才能够挖掘数据信息,来帮助公司开源节流。美国招聘网站 Glassdoor 的报告称,数据科学家的平均年薪为118709美元(约合人民币737550元),而程序员的平均年薪为64537美元(约合人民币400974元)。

数据科学家能够通过统计变成涉及、开发和调用算法而支持业务决策;管理海量数据;可视化数据以辅助理解。其需要具备三项基本技能:数学/统计、计算机能力、在特定业务领域的知识,被《哈佛商业评论》评委二十一世纪最吸引人的职业。

最快:Sort benchmark/阿里云

阿里云在 Sort Benchmark(全球科技公司“计算奥运会”之称)的2015年排序竞赛中用不到7分钟(377秒)就完成了100TB的数据排序,打破了 Apache Spark 的纪录23.4分钟。

开源:Pivotal

2015年2月,由 EMC 和 VMWare 成立的 Pivotal 宣布其大数据套件的三个核心组件开源:基于内存的分布式 NoSQL 数据库GemFire、基于 Hadoop 架构的大规模并行 SQL 分析处理引擎 HAWQ、大规模并行处理分析数据库 Greenplum。更多内容请看 Pivotal中国专区>>>

Pivotal 开放其大数据套件核心组件的源代码,最主要原因是 Cloud Foundry 开源战略成功驱动,部署大数据战场。

多金:“数字锦衣卫” Palantir

2015年7月起 Palantir 开始发起新一轮融资,达到8.8亿美元,截止目前已经共计融资23.2亿美元,公司估值200亿美元,排名世界第四,仅次于 Uber。

Palantir 是一家位于加州的大数据情报分析科技公司。该公司的技术是在海量信息之间建立联系、寻求有价值的线索,为情报机构提供结论:在摩根大通内部用于定位网络欺诈,在桥水联合基金,Palantir 被用来管理 1570亿美元的投资基金。该公司曾经帮助美国政府追踪基地组织头目奥萨马·本·拉登。由于其主要客户是政府机构,外界对它的内部状况了解不多。

End.

;