D1V1网社区 @开门芝麻网 http://sns.d1v1.com & http://www.KaiMenZhiMa.com/

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 2373|回复: 0

什么是大数据平台?有哪些功能?如何搭建大数据平台?

[复制链接]
发表于 2012-6-8 14:25:30 | 显示全部楼层 |阅读模式 <
开门芝麻网
连劲智播AI智能自动播实景无人直播(APP免费注册下载)http://kaimenzhima.com/forum.php?mod=viewthread&tid=1

大数据平台是为了满足企业对于数据的各种要求而产生的。


大数据平台:

是指以处理海量数据存储、计算及不间断流数据实时计算等场景为主的一套基础设施。典型的包括Hadoop系列、Spark、Storm、Flink以及Flume/Kafka等集群。

既可以采用开源平台,也可以采用华为、星环等商业级解决方案,既可以部署在私有云上,也可以部署在公有云上。

大数据平台的功能:

1、容纳海量数据

利用计算机群集的存储和计算能力。不仅在性能上有所扩展,而且其处理传入的大量数据流的能力也相应提高。

2、速度快

结合列式数据库架构(相对于基于行的非并行处理传统数据库)和使用大规模并行处理技术,不仅能够大幅提高性能(通常约100到1000倍),还可以实现更低且更透明的定价机制。

3、兼容传统工具

确保平台已经过认证,可以兼容传统工具。

4、利用Hadoop

Hadoop已成为大数据领域中的主要平台。利用Hadoop作为用于持久性和轻量型数据管理的高效益平台。

5、为数据科学家提供支持

数据科学家在企业IT中拥有着更高的影响力和重要性,快速、高效、易于使用和广泛部署的大数据平台可以帮助拉近商业人士和技术专家之间的距离。

6、提供数据分析功能

确保大数据平台不仅支持在数秒钟内准备并加载数据,还支持利用高级算法建立预测模型,轻松部署模型以进行数据库内计分。同时使数据科学家能够使用现有统计软件包和首选语言。


比较好的大数据平台:

有阿里云,腾讯,百度,华为和星环。

阿里云的大数据平台偏技术,产品比较齐全;

腾讯大数据产品偏分析,产品和方案偏少;

百度大数据的产品也比较齐全,另外偏营销的解决方案不少;

华为的产品根据行业客户需求进行优化的解决方案;

星环的产品很有特点,但是研发能力和市场等比较弱。


如何搭建大数据分析平台?

一般性步骤:

1、Linux系统安装

2、分布式计算平台/组件安装

当前分布式系统的大多使用的是Hadoop系列开源系统

3、数据导入

数据导入的工具是Sqoop

4、数据分析

数据分析一般包括两个阶段:数据预处理和数据建模分析。

数据预处理这个过程可能会用到Hive SQL,Spark QL和Impala。

数据建模分析最好用的是Spark

5、结果可视化及输出API

可视化一般式对结果或部分原始数据做展示。


开门芝麻网
部分内容由网友发布或收集于互联网,如有侵权,请联系QQ/微信76815288,第一时间删除!(开门芝麻网 sns.d1v1.com)
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

 
在线客服
点击这里给我发消息 点击这里给我发消息 点击这里给我发消息 点击这里给我发消息
售前咨询热线
400-888-xxxx

微信扫一扫,私享最新原创实用干货

QQ|申请友链|Archiver|手机版|小黑屋|D1V1网社区 @开门芝麻网 ( 沪ICP备15050032号-2 )

GMT+8, 2024-3-29 17:06 , Processed in 0.125903 second(s), 29 queries .

Powered by Discuz! X3.4 Designed by www.D1V1.cn

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表