基于云计算的大数据技术

随着网络时代的飞速发展,特别是信息数据的爆炸式发展,当代信息传播的容量、数量都变得异常丰富。信息传播过程中对媒介的容量、效率及安全性提出了新的要求。大数据有着这样一条摩尔定律:人类社会中的信息数据增长速度为每两年翻一倍。信息传递急需技术手段,来提高传递的效率、准确度以及媒介容量,大数据应运而生。云技术在数据的处理中展现出了越来越多优势,基于云计算的大数据技术全面的革新了传统的数据处理技术。就目前信息数据的爆破性扩张,不久的将来,云计算技术以及大数据仍旧需要进一步开发拓展,才能够满足时代需求,云计算技术与大数据处理也是当代一大重要研究课题。

【关键词】云计算 大数据 网络

云计算技术是基于网络,提供数据计算服务、存储服务的新型网络管理调度技术,统筹的将网格计算、并行计算以及分布式计算加以实现,应用到了网络数据管理中,并结合其他软件、硬件提供给用户多种服务。利用云技术,可以大幅度的提高资源利用率,这一新型的超级计算其数据非常密集,能够实现集数据存储、数据计算、服务器功能、应用软件功能、IT软硬件设备资源虚拟化。当今全球互联网的流量也在爆炸式的增涨着,云计算与大数据的应用是数据处理的重要技术。并且,随着网络技术、软件技术的发展,云技术在数据的处理中展现出了越来越多优势,如表1所示。

大数据是在云技术之上兴起的新课题,大数据往往具备以下四个特征:

(1)大量的数据;

(2)多种类型的数据;

(3)数据生成及处理速度快;

(4)大数据的巨大价值;这也就是大数据的4V特征。

并且S着基于云计算技术的大数据不断的发展,还提出了大数据的第五点特征及要求,便是强化大数据处理分析中的准确性(Veracity),目前的大数据处理已经进入了5V时代。

1 大数据的特点

大数据技术对比传统数据的诸多特性来分析,具有非常明显的差异。这些差异主要体现在数据的计算、存储以及检索等多方面。传统的数据线性特征显著,对比离散型显著的大数据而言,大数据的发散性、随机性、爆发性显得更为复杂,但是这种复杂的数据能够体现出更为客观的现象,具备更有效的价值。

2 关键技术

2.1 数据存储技术

信息数据在进行存储时的可靠性、安全性以及读写时的效率是云计算技术的基础,利用云计算技术在存储时,往往采用分布式存储,将大量的数据进行汇总并储存到集群服务器中。这种存储技术往往会对数据进行备份储存,利用先进的数据加密技术配合冗余存储能够确保数据的可靠性、安全性。以HDFS为例:

HDFS是一种分布式文件存储系统,被广泛应用在通用硬件中。这一系统具备较高的容错功能,能够在廉价设备上实现应用,并且其对数据访问的吞吐量也很大,适合应用在大数据集的处理上。HDFS系统可以进一步的实现文件系统中的数据流式读取,在大数据处理中,HDFS常被设计成能够实现平台间便于迁移的系统,这就令大数据集的应用更便捷,如***1所示。

2.2 虚拟化数据管理

云计算的主要功能在于针对大量的数据进行分布式的分析处理,并且为用户提供高效的服务,这就需要强大的数据管理能力作为支撑,而基于云计算的大数据技术在数据管理中具备虚拟化特征。将数据处理的计算机系统转换成了虚拟层,利用硬件设备资源,配合操作系统建立了这样一个虚拟的空间链接数据处理的各层级。令上下层的配合更灵活,极大程度的缩减了开销,提高了资源利用率。

3 大数据与云计算的关联

大数据的处理是将云计算技术视为一种技术平台,大数据在进行数据处理时的首选处理形式则是云计算技术,云计算为大数据的处理分析提供了最适的存储空间及计算能力,可以令大量的数据信息迅速的分析出结果,便于使用付诸现实。而云计算技术的主要功能在于计算能力,大数据则可以视为接受计算处理的对象,前者对于计算能力更为注重,后者则是更倾向于存储功能。将存储的大数据付诸应用的重点在于数据处理,而云计算恰好满足了这一功能性要求。

4 总结

大数据处理技术与云计算在信息处理中展现出了极大的潜力,结合这两种技术能够实现信息传递的高效性、准确性、大容量。在很多领域,应用基于云计算的大数据处理技术表现出强大的功能。随着网络信息技术的高速发展,信息数据的传播数量及速度都亟待提升。基于云计算的大数据处理仍需进一步的开发,并对这一新技术加以应用,相关技术的研究也是当前学术界的关注点。

参考文献

[1]丁有伟,秦小麟,刘亮,王涛春.一种异构集群中能量高效的大数据处理算法[J].计算机研究与发展,2015(02):377-390.

[2]李贞强,陈康,武永卫,郑纬民.大数据处理模式――系统结构,方法以及发展趋势[J].小型微型计算机系统,2015(04):641-647.

[3]李敏,倪少权,邱小平,黄强.物联网环境下基于上下文的Hadoop大数据处理系统模型[J].计算机应用,2015(05):1267-1272.

[4]彭建华,李臣明,邱***林,李晓芳,徐立中.接收与处理分离的实时大数据处理模型[J]. 计算机科学与探索,2015(08):906-913.

[5]张少敏,毛冬,王保义.大数据处理技术在风电机组齿轮箱故障诊断与预警中的应用[J].电力系统自动化,2016(14):129-134.

作者单位

贵州大学继续教育学院 贵州省贵阳市 550000

转载请注明出处学文网 » 基于云计算的大数据技术

学习

伟大的中国音乐教育事业先行者――萧友梅

阅读(30)

本文为您介绍伟大的中国音乐教育事业先行者――萧友梅,内容包括萧友梅在音乐教育方面的贡献,专业音乐教育代表人物萧友梅。萧友梅是中国近代音乐史上一位举足轻重的重要人物。是我国著名音乐教育家、作曲家、音乐理论家,是五四新文化运动

学习

加强成骨细胞发展

阅读(33)

牙槽骨和颅颌面骨是应力丰富区,也是成骨细胞活跃区。在外界机械应力刺激下,成骨细胞的增殖分化是骨组织发生适应性改建和骨再生重建的源泉[1]。越来越多的实验证实牵张力是有效促进成骨细胞活性和功能的力学刺激。现有的研究发现:与力学有

学习

红酒的正确喝法

阅读(24)

本文为您介绍红酒的正确喝法,内容包括红酒摆放的正确姿势,红酒的正确喝法配文字。红酒加雪碧或可乐,这款曾经被认为时尚的喝法,被最近的一条微博动摇了地位。微博流传:红酒与雪碧的组合很有可能会导致二氧化碳“助纣为虐”。到底是不是这样

学习

你好,总统先生

阅读(28)

本文为您介绍你好,总统先生,内容包括你好总统先生,总统先生全文免费阅读。1940年的黄昏,一个叫柯尼的美国少年正在收听广播中的信息,广播中刚刚宣布了一则重大新闻:罗靳福蝉联美国总统。柯尼家境贫寒,唯一的亲人在战祸中又去世。他痛恨战争,

学习

话说和服 第19期

阅读(25)

本文为您介绍话说和服 第19期,内容包括关于和服的介绍中日双语,和服相关中古书籍。和服的名称以“和服”指称日本传统民族服装是相对晚近之事。日本人早先把自己的服装称为“着物”,顾名思义,便是“穿着之物”,为服饰的通称。后汉三国时期,

学习

浅析董解元《西厢记》诸宫调及其艺术特色

阅读(28)

本文为您介绍浅析董解元《西厢记》诸宫调及其艺术特色,内容包括董解元西厢记诸宫调内容,董解元的西厢记诸宫调创作时代。内容诸宫调是流行于宋、金时代的一种重要的大型说唱音乐文学艺术样式,是由讲说和歌唱的乐曲穿插而成的。董解元的《

学习

金叶国槐和金叶榆在园林中的应用

阅读(42)

本文为您介绍金叶国槐和金叶榆在园林中的应用,内容包括金枝国槐和金叶国槐有啥不同,金枝国槐和金叶榆区别。金叶国槐(Sophorajaponicacv.jinye)和中华金叶榆(Ulmuspumilacv.Jinye)目前已在全国范围内得到推广,针对不同观赏要求,本文重点介绍了

学习

让我们把生米煮成熟饭吧

阅读(46)

1.我欠蔡小莱一个天大的人情凌晨两点半,蔡小莱在电话里一字一句地对我说,凯子,你还记不记得你曾经欠我一个很大的人情?你说,只要我需要,一定会还!她的话还没有说完,我完全清醒。10年后,蔡小莱终于来讨这笔债了。10年前那个冬天的晚上,我在放学途中

学习

美诗·美文·美影

阅读(35)

初识作家诗人宋雨薇,是在内蒙古地区采访时经市委宣传部一位领导介绍的。她性格热情开朗、乐观健谈、随和、睿智,留给记者非常深刻难忘的印象。在几次交谈中,得知雨薇女士从小酷爱文学与写作,而且悟性极佳。她出生在一个高级知识分子家庭里,父

学习

浅析《摇篮曲》的音乐特点

阅读(318)

本文为您介绍浅析《摇篮曲》的音乐特点,内容包括摇篮曲的音乐节奏气氛及情感表现,摇篮曲音乐特色赏析。摇篮曲又叫催眠曲、摇篮歌,最初是母亲在婴孩睡觉前哼唱的歌曲,其目的是为了让婴孩快速、安静入睡的歌曲,内容上总是带有母亲对孩子的美

学习

草酰乙酸与运动

阅读(32)

本文为您介绍草酰乙酸与运动,内容包括草酰乙酸来自于哪里,草酰乙酸的功效作用。运用文献资料法,从草酰乙酸加快脂肪分解,提高糖原储备,促进嘌呤核苷酸循环等方面,分析了草酰乙酸与运动的关系,并对其在运动中的应用前景进行了展望。关键词:草酰

学习

逻辑学导论论文范文

阅读(26)

本文为您介绍逻辑学导论论文范文,内容包括关于逻辑学1000字的论文,逻辑学论文范文精选。逻辑学导论论文范文第1篇TheEvolutionofPrincipiaMathematicaBertrandRussell’sManuscriptsandNotesforthe2ndEdition2011,407ppHardbackISBN97811

学习

性PARTY指南

阅读(35)

广州性文化节,一年才逢上一次。是中老年无性男的最爱,说是名副其实的性PARTY并不过分。到了这两天,蛰伏的牛鬼蛇神都倾巢而出。像是暗地里接到了遍洒江湖的英雄帖,连招呼都不用打,轻车熟路。蜂拥而来。锦汉展览中心。就这么一个闹市边缘的低

学习

这个区人大代表

阅读(30)

本文为您介绍这个区人大代表,内容包括区人大代表证,推荐区人大代表理由。山西省太原市区往南十五公里是小店区西温庄乡西攒村。这里有个区人大代表李俊文,他有四个“老婆”,共生育了十个孩子。李某原是村民委员会主任,去年12月10日在村委会

学习

竹鸡饲养管理技术

阅读(30)

本文为您介绍竹鸡饲养管理技术,内容包括竹鸡养殖最佳时间和方法,竹鸡养殖管理。1.育成期饲养管理(1)饲养条件。育成竹鸡如散放饲养,要有禽舍和运动场,使其既能安静吃食和休息,又能飞翔活动。舍内饲养密度为15只/平方米。(2)饲料及饲养方

学习

强夯法施工技术

阅读(29)

本文为您介绍强夯法施工技术,内容包括强夯法施工动画,强夯法施工顺序。南水北调中线漳古段SG3标段大型交叉建筑物河一支排洪涵洞地质结构为黄土状壤土,采用强夯法进行处理,改善其土壤结构和基本特性,以达到消除其湿陷性和提高地基承载力的

学习

西芹越冬栽培技术

阅读(37)

本文为您介绍西芹越冬栽培技术,内容包括西芹可越冬吗,西芹越冬品种。西芹别名旱芹、药芹菜、野芫荽等。西芹的适应性很强,即耐寒,又便于运输,其营养丰富,还具有很高的医药价值。西芹越冬栽培是在秋季播种育苗,秋末或初冬定植在保护设施内,即日

学习

南方新浪大数据指数首发

阅读(19)

本文为您介绍南方新浪大数据指数首发,内容包括南方新浪大数据指数,南方大数据今日走势。A股市场迎来大数据投资时代。9月12日,由南方基金、新浪财经和深圳证券信息公司三方联合编制的南方新浪大数据100指数、大数据300指数在深圳证券交易

学习

辣椒穴盘育苗技术

阅读(47)

本文为您介绍辣椒穴盘育苗技术,内容包括穴盘辣椒育苗技术,辣椒育苗用多大的穴盘。辣椒穴盘育苗可提高秧苗的质量及定植成活率,育成的秧苗适于长途运输,能够顺利流通,因此,辣椒穴盘育苗技术是辣椒生产向规模化、集约化、产业化发展的重要环节

学习

BIM技术在建筑结构中的应用

阅读(24)

本文为您介绍BIM技术在建筑结构中的应用,内容包括bim在建筑结构工程中的应用案例,bim技术在建筑设计阶段的应用。以BIM技术在苏州中惠铂尔曼酒店项目建筑结构优化及前期施工策划中的应用为背景,从前期策划、施工组织指导、连廊结构优化方

学习

浅水莲藕栽培技术要点

阅读(23)

本文为您介绍浅水莲藕栽培技术要点,内容包括浅水莲藕亩产一般是多少斤,浅水莲藕栽培可行性。莲藕是水生植物,在温暖湿润地区生长,需要高温和阳光充足的条件,萌芽需要气温15℃,20℃时生长莲鞭、须根及立叶,35℃生长旺盛,现蕾开花,结藕期的最适宜

学习

信息技术对社会发展的影响

阅读(39)

本文为您介绍信息技术对社会发展的影响,内容包括信息技术的发展对组织结构的影响,信息技术对人类社会的影响。信息技术的迅速发展对社会产生天翻地覆的变化。信息技术的大量产生,市场规模和经济总量的快速增大,经济和社会的技术基础的改变