写点什么

机器学习和大数据: 是先有鸡还是先有蛋

  • 2015-11-08
  • 本文字数:1939 字

    阅读完需:约 6 分钟

“对于机器学习,需要大量容易获得的历史数据。但是,如果你没有这个数据会怎样?”

现在,机器学习几乎无处不在,它经常出现在大数据应用之中。机器学习已经被赞誉为大数据分析和商务智能发展的未来。但是从机器学习中提取价值并不仅仅是在一个新的工具中添加一个插件,或查看一下工作效率和销量的提高。

成功的机器学习项目依赖于很多因素,包括选择正确的主题,对于运行的环境,合理的机器学习模型,当然最重要的是现有的数据。

大数据时代,数据就是财富。我们不得不承认,关于客户交易、销售或设备运行日志的数据是企业所拥有的最宝贵的资产之一。特别是机器学习现在为企业提供的机会远远超越传统的商业智能,比如可以帮助预测未来的销售或潜在的设备故障,从而提高利润和减少临时的维修。

另请参阅:庆祝过最佳进球吗?曲棍球球迷通过使用机器学习技术在客厅里创造史诗般的灯光秀

数据,大还是小

在谈论“大数据”时,我们习惯于假设越多越好。虽然现实中常常的确也是这样,数据对于实时在线个性化应用是很关键的,但不同的任务对于数据大小的需求却不尽相同。

对于机器学习任务来说,为了带来价值,虽然 10Gb 的日志似乎有些少,但有时其实也可以刚好够用,具体要看面对什么样的任务。10Gb 的数据对于 Google 来说也许微不足道,但实际上足以给一个传统的线下企业带来一个巨大的变化。

一个拥有 75000 人的大公司的人力资源管理部门。如果公司试图预测流动风险,以便更好地规划未来的人力资源战略,并及时采取预防措施,那么他们就可以使用机器学习,而机器学习就可以从分析员工记录开始。这些记录每天都有巨大的不同,反映在工作的时间,角色的转变,通过的培训课程,休病假的天数,等等。虽然这种数据量可能被认为是过少,则深度地挖掘各种要素需要它超越简单的统计,走向机器学习。

在另一个极端,有些公司可能认为他们拥大量的珍贵数据,如很多年的销售报告,可以后来才发现,它们只可作为集成数据,而没有存储原始输入。机器学习需要从细节中学习,仅仅拥有每季度或每年的集成数据对任务来说根本不够。

因此需要数据的多少关键在于用户所面对的具体任务。

历史的经验教训

通常数据集拥有一个时间跨度,而这个时间跨度是非常重要的,它应该足够的长,以反映所有相关的事件以及周期性的变化。例如,如果一个组织要建立一个工作模型来预测一个零售公司的产品需求,这将至少需要两到三年的历史数据,这样才能容纳季节性的趋势。但是,如果要预测昂贵的制造设备几年才可能出现一次的故障,就需要有一个远远长的多的历史数据,以便在故障出现之前检测异常情况并预测故障的发生。

同时,如果你带着巨大的客户基础和认购商业模型进入一个领域,例如移动电话网络、流媒体业务或在线游戏,利用短短六个月的数据开始一个有意义的机器学习项目(例如,预测客户的流失)是完全可行的。

通常情况下,数据的组织和存储是一个公司基础架构部门的关键任务,关系到公司的核心利益,如何选择合适的存储方案呢?是充斥着差异和错误的非结构化存储,还是未集成的十几个独立系统。虽然引进数个单独的存储库是摆脱数据孤岛、提高数据质量的一种有效方式,但这个过程是漫长的,非常昂贵,而且不会带来直接的价值。但是,如果引入机器学习,利用非结构化存储依然可以帮助调整进一步的基础设施投资以及引导数据收集策略,非结构化存储目前是一种非常有效的数据组织和存储方式。

数据还可以来自于其他什么地方?

很多企业忽略了一件很重要的事情,就是企业可以从外部环境中购买数据。

一方面,最强大和最重要的信号通常隐藏在该公司所拥有的数据中。因此,相比于银行客户的社交媒体行为,他们的交易中所蕴含的知识可以更好地预测客户是否将偿还贷款。

另一方面,许多公司低估了外部因素的价值,如气候数据。它会对很多情况产生影响,如冰淇淋的需求,在需求不太明确的情况下,可以通过个性化推荐,将冰淇淋推荐给那些在天气差时更可能留在家里玩游戏的网络游戏玩家。

因此企业除了利用自己的数据之外,还可以有很多的选择,例如社交网络平台,可以利用用户的在社交网络的足迹预测用户的偏好,又或者季节性数据,利用季节性变化预测用户的未来行为,等等。

机器学习正在很快地从一个很少人关注的技术主题转变为被很多人使用的管理工具。为了避免错失良机,企业现在需要开始设计自己的机器学习项目,以帮助他们为未来的机器学习做好准备。同时,企业需要理解哪些数据是可获得的,缺少的和需要的,现在就可以开始收集它们,以帮助他们更快地获得投资回报。


感谢郭蕾对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们,并与我们的编辑和其他读者朋友交流(欢迎加入 InfoQ 读者交流群InfoQ 好读者)。

2015-11-08 18:005229
用户头像

发布了 268 篇内容, 共 121.7 次阅读, 收获喜欢 24 次。

关注

评论

发布
暂无评论
发现更多内容

Flink Forward Asia 2023 主会场精彩回顾

Apache Flink

大数据 flink 实时计算

2023年中国游戏产业年会:鸿蒙全链路赋能游戏产业可持续发展

新消费日报

代币开发:释放代币开发服务力量的 10 个秘密

区块链软件开发推广运营

dapp开发 区块链开发 链游开发 NFT开发 公链开发

人工智能与低代码:前端技术的双重变革

快乐非自愿限量之名

人工智能 前端开发 低代码

理解Mysql索引原理及特性

快乐非自愿限量之名

MySQL 开发 检索 检索引擎

如何建设财务共享驱动下的企业全面预算管理

智达方通

全面预算管理 财务共享

日志 | AI工程化部署

AIWeker

c AI AI工程化部署

开源工单管理系统有哪些?2024年顶级工单管理系统

爱吃小舅的鱼

工单管理系统 工单管理

流计算迎来代际变革:流式湖仓 Flink + Paimon 加速落地、Flink CDC 重磅升级

Apache Flink

大数据 flink 实时计算

TikTok跨境直播:SD-WAN解决方案的优势解析

Ogcloud

网络 SD-WAN 组网 TikTok

IoTDB 企业版 v1.3.0 发布 | 新增内生机器学习框架 AINode、权限模块全面升级等内容

Apache IoTDB

建立海外SD-WAN专线网络的成本分析

Ogcloud

网络 SD-WAN 组网

光纤的跳线和尾纤

小齐写代码

福利「Flink Forward Asia 2023 」PPT 阅读合集!

Apache Flink

大数据 flink 实时计算

诚邀报名 | GPT驱动的新程序员时代,开发者如何编程?

开放原子开源基金会

Java 开源 程序员 开发者 算法

低代码开发如何快速构建AI应用

不在线第一只蜗牛

人工智能 AI 低代码

SD-WAN实现MPLS成本降低

Ogcloud

网络 SD-WAN MPLS 专线网络

【案例分享】 小鹅通|渐进式拥抱 DevOps

CODING DevOps

DevOps

JVM调优

快乐非自愿限量之名

测试 JVM 调优

Go 与 Rust:现代编程语言的深度对比

互联网工科生

Go rust

诚邀报名|聚焦项目管理和社区协作,解读开源治理前沿见解和最佳实践

开放原子开源基金会

Java 开源 程序员 开发者 算法

AI大模型驱动的教育变革与实践

EquatorCoco

人工智能 AI 教育 大模型

软通咨询彭智勇(上):探索供应链金融创新路径,驱动产业破局

软通咨询

数字化转型 供应链金融 数字化咨询 管理咨询

软件对于企业的关键价值点在哪里?

天津汇柏科技有限公司

软件

文心一言 VS 讯飞星火 VS chatgpt (157)-- 算法导论12.3 4题

福大大架构师每日一题

福大大架构师每日一题

诚邀报名 | AI 向量、云原生、开源,今年的数据库热点技术都在这里

开放原子开源基金会

Java 开源 程序员 开发者 算法

探索分布式应用的未来:Canister智能合约

TinTinLand

开源大侠请留步!您有一份开源集市攻略!

开放原子开源基金会

Java 开源 程序员 开发者 算法

19家游戏伙伴参加鸿蒙原生游戏合作仪式,与华为游戏中心一起推动产业自主创新和高质量发展

新消费日报

开发体育赛事直播平台下一个里程碑,趣猜比分预测功能扩展

软件开发-梦幻运营部

机器学习和大数据:是先有鸡还是先有蛋_大数据_张天雷_InfoQ精选文章