注册 我的社团

全部社团 > Python> 帖子

大数据时代,关于大数据你知道多少?

他离开了
4299 0 0
发表于:06月10日 08:58 [ 只看楼主]

大数据时代,关于大数据你知道多少?

大数据时代的生活令人向往,你对客观世界的认识更进一步,所做的决策也不再仅仅依赖主观判断,基于你的一个习惯动作、你的一次消费行为、你的一份就诊记录,都在被巨大的数字网络串联起来。

《大数据时代:生活、工作与思维的大变革》一书的作者维克托·迈尔·舍恩伯格如是说:“如果你是一个个人,如果你拒绝的话,可能会失去生命,如果是一个国家的话,拒绝大数据时代的话,可能失去这个国家的未来,失去一代人的未来。”

了解大数据、如何利用巨量资料,成为人人关心的重点议题,对于大数据的定义现在没有统一的定论,但身处大数据领域里的人都同意一点:大数据绝不仅仅是指更多资料而已。

【怎么利用信息技术等手段处理非结构化和半结构化数据】

大数据=结构化数据+非结构化数据

大数据中,结构化数据只占 15% 左右,其余的 85% 都是非结构化的数据,它们大量存在于社交网络、互联网和电子商务等领域。另一方面,也许有 90% 的数据来自开源数据,其余的被存储在数据库中。大数据的不确定性表现在高维、多变和强随机性等方面。股票交易数据流是不确定性大数据的一个典型例子。

大数据刺激了大量研究问题。非结构化和半结构化数据的个体表现、一般性特征和基本原理尚不清晰,这些都需要通过包括数学、经济学、社会学、计算机科学和管理科学在内的多学科交叉来研究和讨论。给定一种半结构化或非结构化数据,比如图像,如何把它转化成多维数据表、面向对象的数据模型或者直接基于图像的数据模型?值得注意的是,大数据每一种表示形式都仅呈现数据本身的侧面表现,并非全貌。

由于大数据所具有的半结构化和非结构化特点,基于大数据的数据挖掘所产生的结构化的“粗糙知识”(潜在模式)也伴有一些新的特征。这些结构化的粗糙知识可以被主观知识加工处理并转化,生成半结构化和非结构化的智能知识。寻求“智能知识”反映了大数据研究的核心价值。

【大数据的4V特点】

大数据的4V特点:Volume(大量)、Velocity(高速)、Variety(多样)、Veracity(精确)。网络的发展引起了信息量的飞速增长,大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。换言之,如果把大数据比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”

【大数据与数据仓库、OLAP、数据挖掘技术的关系】

大数据技术指的是对大量信息进行专业处理、获取具有指导意义的信息以帮助决策的技术,而数据仓库、OLAP(联机分析处理)、数据挖掘技术就是处理和分析“大数据”的主要方法。也就是说,实现大数据的分析和利用需要以数据仓库、OLAP、数据挖掘技术为手段。

具体来说,当海量数据摆在眼前,针对用户可能关注的方面,按照一定的主题域进行组织,形成数据仓库;再通过联机分析处理(OLAP)对信息的多种可能的观察形式进行快速、稳定一致和交互性的存取,形成多个维度的信息;再通过数据挖掘技术,发现数据内部隐含的规律并展示给用户,以指导用户决策。关系图如下:

大数据时代,关于大数据你知道多少?

【云计算和大数据的关系】

云计算,再一次改变了数据的存储和访问方式。在云计算出现之前,数据大多分散存储在每个人的个人电脑、每家企业的服务器中。云计算,尤其是公用云计算,把所有的数据集中存储到“数据中心”,也即所谓的“云端”,用户通过浏览器或者专用应用程序来访问。

一些大型的网站,通过提供基于“云”的服务,积累了大量的数据,成为事实上的“数据中心”。“数据”是这些大型网站最为核心的资产,他们不惜花费高昂的费用,付出巨大的努力,来存储这些数据,谷歌公司甚至购买了单独的水力发电站,为其庞大的数据中心提供充足的电力。根据一些公开资料显示,谷歌在全球分布着大约36个数据中心。

近几年,国内各地兴起了建设云计算基地的风潮,客观上为“大数据”的诞生准备了必备的储存空间和访问渠道。各大银行、电信运营商、大型互联网公司、政府各部委等都拥有各自的“数据中心”。绝大多数的银行、电信、互联网公司都已经实现了全国级的数据集中的工作。

云计算是大数据诞生的前提和必要条件。没有云计算,就会缺少数据集中采集和存储的商业基础,而云计算为大数据提供了存储空间和访问渠道;大数据则是云计算的灵魂和必然的升级方向。

大数据时代已经来临,你可不要落后哦!


鼎酷IOT社区(dkiot888)是由鼎易鸿基&万酷电子联合出品,专注于为大家提供物联网精髓的新媒体平台。我们关注物联网行业最新动态,专注做您的物联网口袋知识库,旨在搭建共同学习的知识平台,让您学得方便,聊得畅快;鼎酷IOT社区用心做大家的“良仆”。各项内容鼎酷IOT 社区微信公众号同步。物联网行业顶尖产品咨询也欢迎留言。

  • 点赞  0
  • 收藏
  • 扫一扫分享朋友圈

    二维码

  • 分享

全部回复 (0) 倒向排序

课程推荐

社团热门帖