艾瑞郝欣诚:用小算法进行大数据分析
2014年4月10-12日，第五届中国数据库技术大会在北京五洲皇冠国际酒店隆重举行。本届大会的主题为“大数据技术探索与价值发现”，参会规模 达到1,800人。大会邀请近百位顶级技术专家和行业领袖分享数据库与大数据技术的最新动态，及其在行业领域里的应用部署和管理经验。
自2010年以来，国内领先的IT专业网站IT168联合旗下ITPUB、ChinaUnix两大技术社区，已经成功举办了四届中国数据库技术大会，每届 大会与会规模超过千人，是目前国内最受欢迎、人气最高的的数据库技术交流盛会。今年是中国数据库技术大会五周年，大会将继续秉承分享IT最佳应用实践的宗 旨，结合传统与创新，为与会者传递数据库、大数据相关的技术和实践。
▲郝欣诚：艾瑞咨询集团技术副总裁
在大会第三天上午的“大数据价值发现”主场上，来自艾瑞咨询集团技术副总裁郝欣诚先生为我们分享实用的用户行为研究方法--小算法进行大数据分析。
艾瑞咨询是中国第一家网络经济领域研究咨询网站开通，网站中大量自有的免费报告、数据以及行业观点更加有效的帮助行业人士准确了解中国互联网以及无线相 关领域的发展全貌，发展至今已经成为中国最为权威的行业数据和研究资讯来源。作为新经济领域的第三方研究机构，郝欣诚表示，“艾瑞咨询集团 (iResearch)也为行业内搭建各种交流和讨论的平台，为用户提供数据分析报告，企业进行数据分析的原因省钱进行创新研究、品牌推广进行数据分析、 盈利后的绩效考核。”那么艾瑞是如何做的呢?郝欣诚进行了详细剖析。
数据分析基础知识普及
NO.1：数据分析项目的成本收益
要进行数据分析，就是为了追求分析之后的价值，因此数据本身没有固定价值，处理数据的过程存在成本，应用数据的收益决定价值。数据核算包括三个步骤，第 一步数据成本核算(TCO / MB)，包括建设成本，软硬IT系统投入及年度维持、升级成本;运营成本，数据源成本及协调、分析、管理人员成本。第二步数据质量核算(TNR / MB)，包括净结果集含量，最低维度结果集行数和列数;净结果准确率，准确率2.5倍率衰减。第三步数据回报率核算(ROI / RMB)，包括基准收益率 vs 优化收益率;基准收益规模 vs 优化收益规模。
郝欣诚表示，我们做一个项目的时候，数据源收集占据了整个项目的30%的时间，随后是数据预处理的三个阶段，最后才能进行数据解读，因此我们整个项目中90%的时间用来数据处理。
NO.2：数据挖掘的9大定律
NO.3:统计方法四大维度
商业解决思路 大数据与小算法
艾瑞咨询对于一个项目的执行过程是怎样的呢?又是如何将小算法进行到大数据分析过程中呢?郝欣诚表示，在大数据行业是没有“黑天鹅”的，而且项目执行中“黑洞”还很多。随后郝欣诚分享了艾瑞咨询项目执行过程，内容分享很精彩，现场效果更精彩，且学且记录。
郝欣诚最后表示，“通过这一项的项目执行过程，最终通过数据分析的方法，帮助用户解决用户需要解决的问题，在这些过程中黑洞很多，只有丰富的经验才能更好的避免绕入其中，当然还有一些好的技术做支撑。”
大数据分析的十大技术
NO.1：TMS系统，行为分析项目利器
NO.2：移动端HTML5及SDK数据支持
NO.3：服务器日志最简单也最难受
NO.4：数据扩维提升数据性价比
NO.5：扩展Reduce脚本简单实用
NO.6：扩展Reduce脚本简单实用
NO.7：易学难精的文本挖掘
NO.8：定制化分析项目如何验证数据
NO.9：数据模型对解读数据的价值
NO.10：可视化工具对数据解读的重要性
在最后郝欣诚表示,“在大数据时代，数据分析的结果只在一个有规则的市场才有用，绝不能用在一个领域的结论轻易用在其他领域，大数据时代，数据分析的价值会越来越重要。”
