大数据技术平台的分类与选择指南_光环大数据培训
光环大数据光环大数据-大数据培训知名品牌大数据培训知名品牌http:/hadoop.aura.cn 光环大数据光环大数据 http:/hadoop.aura.cn大数据技术平台的分类与选择指南大数据技术平台的分类与选择指南_ _光环大数据培训光环大数据培训光环大数据培训机构,大数据的处理过程可以分为大数据采集、存储、结构化 处理、隐私保护、挖掘、结果展示(发布)等,各种领域的大数据应用一般都会 涉及到这些基本过程,但不同应用可能会有所侧重。对于互联网大数据而言, 由于其具有独特完整的大数据特点,除了共性技术外,采集技术、结构化处理 技术、隐私保护也非常突出。有很多算法和模型可以解决这些处理过程中的技术问题,并且为了最终用户的 使用方便,它们大都被进一步的封装,形成了比较简单易用的操作平台。目前 大数据技术平台有很多,归纳起来可以按照以下方式进行分类:(1)(1)从大数据处理的过程来分:从大数据处理的过程来分:包括数据存储、数据挖掘分析、以及为完成高效 分析挖掘而设计的计算平台,它们完成数据采集、ETL、存储、结构化处理、挖 掘、 分析、预测、应用等功能。光环大数据光环大数据-大数据培训知名品牌大数据培训知名品牌http:/hadoop.aura.cn 光环大数据光环大数据 http:/hadoop.aura.cn(2)(2)从大数据处理的数据类型来划分:从大数据处理的数据类型来划分:可以分为针对关系型数据、非关系型数据(图数据、文本数据、网络型数据等)、半结构化数据、混合类型数据处理的技 术平台。(3)(3)从大数据处理的方式来划分:从大数据处理的方式来划分:可以分为批量处理、实时处理、综合处理。其中批量数据是对成批数据进行一次性处理,而实时处理(流处理)对处理的延时 有严格的要求,综合处理是指同时具备批量处理和实时处理两种方式。(4)(4)从平台对数据的部署方式看:从平台对数据的部署方式看:可以分为基于内存的、基于磁盘的。前者在分 布式系统内部的数据交换是在内存中进行,后者则是通过磁盘文件的方式。此外,技术平台还有分布式、集中式之分,云环境和非云环境之分等。阿里云 大数据平台构建在阿里云云计算基础设施之上,为用户提供了大数据存储、计 算能力、大数据分析挖掘、以及输出展示等服务,用户可以容易地实现 BI 商业 智能、人工智能服务,具备一站式数据应用能力。在以前的一篇推送(“基于阿 里云大数据技术的个性化新闻推荐”)中,描述了基于阿里云大数据技术的个性化新闻推荐系统分析设计与部署方法。不同的大数据技术平台提供了对这些处理过程的支持,有的平台可能会支持多 个过程,但是侧重点也不同,支持的深度也有所不同,因此有必要熟悉各种平 台的功能,并做出比较分析,以便在实际应用中选择适合于自己需求的技术平 台。选择一个合适的大数据技术平台是非常重要的,它能够使得大数据应用开发更 加容易、让开发人员更集中精力在业务层面的数据分析与处理上。一些共性的 基础问题,例如数据如何存储、如何检索、数据统计等,就可以由平台来完成。 选择合适的大数据技术平台应当考虑以下因素:光环大数据光环大数据-大数据培训知名品牌大数据培训知名品牌http:/hadoop.aura.cn 光环大数据光环大数据 http:/hadoop.aura.cn(1)(1)平台的功能与性能:平台的功能与性能:由于不同平台侧重的功能不同,平台的性能也就有很多需要考察的方面。比如对于存储平台来说,数据的存储效率、读写效率、并发 访问能力、对结构化与非结构化数据存储的支持,所提供的数据访问接口等方 面就是比较重要的。对于大数据挖掘平台来说,所支持的挖掘算法、算法的封 装程度、数据挖掘结果的展示能力、挖掘算法的时间和空间复杂度等,是比较 重要的指标。(2)(2)平台的集成度:平台的集成度:好的平台应该具有较高的集成度,为用户提供良好的操作界 面,具有完善的帮助和使用手册、系统易于配置、移植性好。同时随着目前软 件开源的趋势,开源平台有助于其版本的快速升级,尽快发现其中的 bug,此 外,开源的架构也比较容易进行扩展,植入更多的新算法,这对于最终用户而 言也是比较重要的。(3)(3)是否符合技术发展趋势:是否符合技术发展趋势:大数据技术是当前发展和研究的热点,其最终将走 向逐步成熟,可以预见在这个过程中,并非所有的技术平台都能生存下来。只 有符合技术发展趋势的技术平台才会被用户、被技术开发人员所接受。因此, 一些不支持分布式、集群计算的平台大概只能针对较小的数据量,侧重于对挖掘算法的验证。而与云计算、物联网、人工智能联系密切的技术平台将成为主 流,是技术发展趋势。同时应当充分意识到,技术迭代更新速度加快,当我们花很多时间去掌握熟悉 某种技术平台后,可能新的更好的技术平台出现了,导致我们受累奔波于各种 技术平台,因此,最好的策略就是全面系统地掌握大数据技术的原理和实现方 案,这样学习新的技术平台就很容易上手。大数据时代大数据时代,大数据培训大数据培训,就选光环大数据、数据分析师培训数据分析师培训机构!光环大数据光环大数据-大数据培训知名品牌大数据培训知名品牌http:/hadoop.aura.cn 光环大数据光环大数据 http:/hadoop.aura.cn为什么大家选择为什么大家选择光环大数据光环大数据!大数据培训、人工智能培训、Python 培训、大数据培训机构、大数据培训班、数据分析培训、大数据可视化培训,就选光环大数据!光环大数据,聘请专业的大数据领域知名讲师,确保教学的整体质量与教学水准。讲师团及时掌握时代潮流技术,将前沿技能融入教学中,确保学生所学知识顺应时代所需。通过深入浅出、通俗易懂的教学方式,指导学生更快的掌握技能知识,成就上万个高薪就业学子。【报名方式、详情咨询报名方式、详情咨询】光环大数据官方网站报名:光环大数据官方网站报名:http:/hadoop.aura.cn/http:/hadoop.aura.cn/手机报名链接:手机报名链接:http:/http:/ hadoop.aura.cnhadoop.aura.cn /mobile/mobile/