
首页 > 大数据资讯 > 大数据的技术有哪些?
大数据的技术有哪些?
时间:2017-05-12 15:51:16 大数据技术
大数据技术有哪些
我发现身边有很多IT人才对于热门的新技术和新趋势往往趋之若鹜却又很少能说出一二三来。究其原因,一是因为大家对新技术有着相同的原始渴求,至少知其然在聊天时不会显得很“土鳖”;二是在工作和生活环境中真正能参与实践大数据的案例实在太少了,所以大家没有必要花时间去知其所以然,今天给大家盘点一下基础的大数据技术有哪些?
1. 跨粒度计算(In-DatabaseComputing)
Z-Suite支持各种常见的汇总,还支持几乎全部的专业统计函数。得益于跨粒度计算技术,Z-Suite数据分析引擎将找寻出最优化的计算方案,继而把所有开销较大的、昂贵的计算都移动到数据存储的地方直接计算,我们称之为库内计算(In-Database)。这一技术大大减少了数据移动,降低了通讯负担,保证了高性能数据分析。
2.并行计算(MPP Computing)
Z-Suite是基于MPP架构的商业智能平台,她能够把计算分布到多个计算节点,再在指定节点将计算结果汇总输出。Z-Suite能够充分利用各种计算和存储资源,不管是服务器还是普通的PC,她对网络条件也没有严苛的要求。作为横向扩展的大数据平台,Z-Suite能够充分发挥各个节点的计算能力,轻松实现针对TB/PB级数据分析的秒级响应。
3.列存储 (Column-Based)
Z-Suite是列存储的。基于列存储的数据集市,不读取无关数据,能降低读写开销,同时提高I/O 的效率,从而大大提高查询性能。另外,列存储能够更好地压缩数据,一般压缩比在5 -10倍之间,这样一来,数据占有空间降低到传统存储的1/5到1/10 。良好的数据压缩技术,节省了存储设备和内存的开销,却大大了提升计算性能。
4.内存计算
得益于列存储技术和并行计算技术,Z-Suite能够大大压缩数据,并同时利用多个节点的计算能力和内存容量。一般地,内存访问速度比磁盘访问速度要快几百倍甚至上千倍。通过内存计算,CPU直接从内存而非磁盘上读取数据并对数据进行计算。内存计算是对传统数据处理方式的一种加速,是实现大数据分析的关键应用技术。
其实大数据技术的战略意义不在于掌握庞大的数据信息,而是在于对这些含有意义的数据进行专业化处理。换言之,如果把大数据比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”。
热点推荐
数智化招商时代,专治招商人的「精神内耗」,不需要「中间商赚差价」
时间:2023-03-09 16:52:26
“东数西算”背景下,大数据招商助力园区产业链优化升级
时间:2022-03-07 17:09:18
智慧招商|大数据成为产业园区高质量发展的全新引擎
时间:2021-11-26 09:42:58
中科点击「产业大脑」:大数据招商加码产业数智化进程
时间:2021-09-01 17:52:19
智慧招商| 大数据助力地方政府做好补短板式招商
时间:2021-04-23 09:37:23