写点什么

Hadoop + SQL Server + Excel = 大数据分析

  • 2013-01-31
  • 本文字数:1876 字

    阅读完需:约 6 分钟

几个月前,微软宣布了自己的用于大数据管理、分析和挖掘的 Hadoop 发布版 HDInsight 。InfoQ 联系到了 SQL Server 的高级产品营销经理 Val Fontama,希望进一步了解微软的企业级大数据到底如何。

关于企业中数据集规模的增长趋势:

数据的海洋一直在增长。有预测表明业务信息存储量每年都会加倍。例如,Gartner 发现全世界的信息量每年在以最少 59% 的速率增长,而其中大约 85% 的数据是“非结构化”的——比如视频剪辑、RFID 标签和网站日志。这些非结构化数据用传统的数据管理系统来处理并不容易。此外,在很多场景下,客户在实时收集新数据时发现数据增长速率还在增加。

客户将需要一个与业务及所收集数据的发展相适应的现代数据平台。对全球企业而言,大数据为从所收集数据(不管是结构化的还是非结构化的)中找到新颖可行的观点创造了大量商机。因为到最后,大数据的最大前景就是推动来自数据的、更智能的决策。而智能决策就要收集来自各类数据的观点。

HDInsight 是微软应对大数据的解决方案:

微软希望通过支持 Windows Server 和 Windows Azure 的 Hadoop 发布版,提供可移植、性能优越、安全且易部署等特性,促进 Hadoop 的应用。微软还将通过在 HDInsight 中集成 Active Directory 来增强 Hadoop 的安全性。此举将使 IT 部门能够将同样的一致性安全策略用于包括 Hadoop 集群在内的所有 IT 资产。

此外,通过与 System Center 集成,HDInsight 简化了 Hadoop 的管理,并支持 IT 部门在同一面板上管理 Hadoop 集群、SQL Server 数据库和应用程序。

基于 Hadoop 的 Windows 平台应用程序集成了如 Excel、Power View 和 PowerPivot 等微软的商业智能(BI)工具,可以很容易地分析大量的业务信息,从而创造独特的、差异化的商业价值。

为实现与 Apache Hadoop 百分之百的兼容性,微软的 Hadoop 发布版 HDInsight 是基于 Hortonworks Data Platform(HDP)构建的。因此,客户能够将其 MapReduce 作业从自己的 Windows 服务器移到云中,甚至是移到运行在 Linux 上的 Apache Hadoop 发布版中。目前还没有其他厂商提供该功能。此外,在 Windows Server 和 Azure 平台上提供这些功能,也使客户能够利用熟悉的工具(如 Excel、PowerPivot for Excel 和 Power View)轻松地从数据中抽取可行的观点。

SQL Server 如何适应这种解决方案:

在帮助企业处理大数据集方面,SQL Server 2012 与 SQL Server 2008 最重要的区别之一就是与 Hadoop 的兼容性。Hadoop 允许用户处理大量的结构化和非结构化数据并快速从中获得观点,而且,因为 Hadoop 是开源的,成本较低。Hadoop 与 SQL Server 2012 兼容的特性是微软与 Hortonworks 合作开发的,微软最近也宣布 Microsoft HDInsight Server 和 Windows Azure HDInsight Service 已经可以预览,这都使用户能够使用微软开发的 Hadoop 连接器来从数据中获得最好的观点。通过 Hive ODBC Driver 把 SQL Server 连接到 Hadoop,客户现在可以使用如 PowerPivot 和 Power View 等微软的 BI 工具在 SQL Server 2012 中分析各种类型的数据,包括非结构化数据。此外,利用 SQL Server 2012 中新的 Data Quality Services,客户可以通过将原始数据转换为适于建模的可靠且一致的数据来提高数据质量。

微软最近宣布了 Office 2013 中的一些新特性,并介绍了开发者应该如何利用这些特性来构建构建应用和处理数据的服务。不足为奇,微软自己在 Excel 正是利用这一点来提供大数据服务的:

Excel 是微软平台上支持大数据分析的主要客户端工具之一。在 Excel 2013 中,我们的主要工具是数据建模工具 PowerPivot 和数据可视化工具 Power View,而且恰好它们都构建进来了,无需额外下载。这支持各个层次的用户使用熟悉的 Excel 界面进行自助式 BI 分析。

通过 Excel 的 Hive 插件,我们的 HDInsight 服务很容易集成 Office 2013 中的 BI 工具,使用户能够用熟悉的工具轻松地分析海量的结构化或非结构化数据。

除了 Excel 之外,微软还提供了其他的大数据交互工具:BI 专业人员可以使用 BI Developer Studio 来设计 OLAP cube 或在 SQL Server Analysis Services 中设计可伸缩的 PowerPivot 模型。开发者可以继续使用 Visual Studio 来开发和测试用.NET 编写的 MapReduce 程序。最后,IT 运维人员可以使用他们目前所使用的 System Center 来管理 HDInsight 上的 Hadoop 集群。

总的说来,微软的策略看起来是要为客户使用大数据提供一种最简单的方法——扩展现有工具(如 SQL Server 和 Office 等),使之能够无缝处理新数据类型,从而允许各公司在处理新业务时能利用原有投资。

查看英文原文 Hadoop + SQL Server + Excel = Big Data Analytics

2013-01-31 04:5810296
用户头像
臧秀涛 略懂技术的运营同学。

发布了 300 篇内容, 共 139.5 次阅读, 收获喜欢 35 次。

关注

评论

发布
暂无评论
发现更多内容

硬核干货!一文掌握 binlog 、redo log、undo log

架构精进之路

MySQL 数据库 后端 6 月 优质更文活动

利用 AWS CodeWhisperer 激发孩子的编程兴趣

汪子熙

人工智能 AI AWS AIGC 代码生成器

AI版女网红“半藏森林”上线,服务项目让人意想不到

引迈信息

人工智能 AI 低代码 JNPF

朱珠代言Moto razr40登618手机榜首,小折叠成新摩登主义造风者

科技之家

ChatGPT与软件架构(4) - 架构师提示工程指南

俞凡

人工智能 架构 ChatGPT

软件测试|Pytest必会技巧(二)

霍格沃兹测试开发学社

软件测试|简单易学的性能监控体系prometheus+grafana搭建教程

霍格沃兹测试开发学社

软件测试|Pytest的必会技巧(一)

霍格沃兹测试开发学社

三分钟知识点 - 重构平滑升级

雨中山

大模型时代下的企业系统架构变革

蔡超

架构 AI 大模型 GPT ChatGPT

inBuilder低代码平台特性推荐系列-第三期

inBuilder低代码平台

ChatGPT与软件架构(2) - 基于Obsidian和GPT实现解决方案架构自动化

俞凡

人工智能 架构 ChatGPT

精选一线企业最佳生产实践,《Apache Doris 用户案例集》重磅发布!

SelectDB

数据库 大数据 数据分析 实时数仓 Doris

软件测试|手把手教你用Python来模拟绘制自由落体运动过程中的抛物线

霍格沃兹测试开发学社

软件测试|不会Python RPC,一篇文章教你入门

霍格沃兹测试开发学社

软件测试|Pytest必会技巧(三)

霍格沃兹测试开发学社

三分钟知识点 - 如何选择编程语言

雨中山

【零售电商系列】走进电商

小诚信驿站

6 月 优质更文活动

你说的是哪一种 IDP:内部开发者门户 OR 内部开发者平台?

杨振涛

DevOps 平台工程 内部开发者平台 内部开发者门户 IDP,

软件测试|PC端应用自动化最佳解决方案——Pywinauto

霍格沃兹测试开发学社

软件测试|Pytest必会技巧(四)使用autouse实现自动传参

霍格沃兹测试开发学社

软件测试|一步到位教会你Python字典操作(一)

霍格沃兹测试开发学社

Golden Gate (GGX) ZK 预编译: 彻底改变游戏玩法,成本降低千倍

股市老人

SeaTunnel StarRocks 连接器的使用及原理介绍

StarRocks

数据库 大数据 OLAP 湖仓一体 大数据 开源

Taro框架应用优势下的移动App开发创新模式

FinFish

taro 跨端开发 小程序容器 跨端框架 小程序容器技术

架构实战营模块 1 第 4 课 - 如何做好架构设计

净意

ChatGPT与软件架构(3) - 软件架构提示工程

俞凡

人工智能 架构 ChatGPT

面试官问:kafka为什么如此之快?

JAVA旭阳

kafka

龙蜥社区 5 月度运营大事件回顾

OpenAnolis小助手

开源 总结 生态 龙蜥社区 运营月报

软件测试|教你用skip灵活跳过用例

霍格沃兹测试开发学社

Hadoop + SQL Server + Excel = 大数据分析_微软_Roopesh Shenoy_InfoQ精选文章