写点什么

WAIC|高精准、低成本,九章云极 DataCanvas 突破 AutoML 难题

作者:九章云极DataCanvas

  • 2021-07-22
  • 本文字数:2225 字

    阅读完需:约 7 分钟

WAIC|高精准、低成本,九章云极DataCanvas突破AutoML难题

2021 年世界人工智能大会(WAIC)于 7 月 8 日 在上海世博中心拉开帷幕。九章云极DataCanvas董事长方磊受邀参加由世界人工智能大会组委会主办、机器之心承办的“2021 WAIC·AI 开发者论坛”,并发表“Hypernets:自动化机器学习的基础框架”主题演讲。



本次论坛以「后深度学习的 AI 时代」为主题,作为本届 WAIC 开发者单元的主力军,WAIC· AI 开发者论坛与 WAIC·开发者日一脉相承,连续三年始终专注 AI 技术人员与开发者。本次论坛邀请了 15 位学术界和产业界重磅嘉宾,覆盖多模态机器学习及大规模自动生成技术、AutoML 框架、智能社区的多模态数据融合、智能制造中的算法平台以及下一代 AI 基础软件能力等话题,共同探讨 AI 前沿技术。九章云极 DataCanvas 董事长方磊围绕 AutoML 框架的重要性和基本抽象、Hypernets 的概念模型和重要特性、Hypernets 的具体示例三部分向广大开发者奉献了一场干货满满的技术福利。



AutoML 框架的本质是空间搜索


AutoML技术的研发与应用是一个持之以恒的课题,随着对其研发的深入,很多 AutoML 工具的各部分高度耦合,只能针对特定问题,难以扩展。方磊表示,AutoML 框架的本质就是空间搜索,在这里面很重要的思想就是抽象性和层级的必要。


AutoML 框架是对 AutoML 领域面对的问题解构和抽象后形成的基础性支撑,无论是超参数优化、Full-Pipeline 搜索还是神经网络架构搜索(NAS)问题,主要围绕 3 个基本部分:搜索空间(Search Space)、搜索策略(Search Strategy)和评估策略(EstimationStrategy)。AutoML 框架应对各部分高度解耦以实现各部分自由扩展,开发者可以在此之上不断丰富搜索算法,设计多样搜索空间,避免共性问题重复开发,针对非共性问题实现灵活扩展,加速迭代效率,大幅低于降低自动机器学习的准入门槛,能够让开发者快速实现自动机器学习的搜索。



Hypernets——开发者的朋友


一款优秀的 AutoML 框架应当在上述三个部分具有:富有表现力的搜索空间描述语言、支持高维空间的高效搜索算法和高性能的评估策略。Hypernets 作为一个自动机器学习的底层通用框架,满足单节点及分布式高性能的模型训练需求,可以在不同的空间进行搜索与训练,结合各种机器学习和深度学习框架开发专用自动机器学习工具,帮助用户快速开发专用领域的 AutoML 工具。同时,Hypernets 支持最新的神经网络架构搜索(NAS)算法,可以实现深度学习的网络架构设计自动化。


方磊表示,Hypernets 与目前众多的机器学习、深度学习框架相结合更快更好的生成自动机器学习工具。用 5-10 行代码完全可以搜索模型,因此 Hyperents 一个定位就非常清晰,不管开发一个训练框架还是开发应用模型,都是开发者的朋友。开发训练框架可以让框架使用 Hypernets 很容易结合出框架本身的自动机器学习能力;如果是开发应用模型,可以组合不同学习训练框架的同时,在上面使用 Hypernets,端到端整个 pipeline 上进行自动机器学习的参数搜索,就会得到非常较好的模型。经过大量在行业上的应用,在特征丰富情况下,Hypernets 在搜索能力包括分布式计算能力体现出来很多优势,搜索时间短,算力仅需普通训练的 20-30 倍,就能够得到一个性能大大提升的模型。


简单快速精准的自动机器学习开发过程


开发者通过 Hypernets 设计不同的模块空间(Module Space)和相应的参数空间(Parameter Space),通过不同的连接方式(Connection Space)将各个模块空间组合成为一个高维的丰富动态搜索空间(Search Space)。遗传算法作为搜索策略的一个例子,是一种非常有效的寻找局部最优的方法,也可以与其他各类算法组合使用,实现更为强大的策略,例如在空间切分搜索的时候,使用遗传算法加速子空间中的迭代。评估策略的核心在于高效:在评估不精确的情况下,通过指导搜索方向、节省预处理时间、防止过拟合三种方式,减少计算量,高效地利用自动机器学习找到更好的模型。作为 Hypernets 的一个具体实例,HyperGBM在多个公开数据集上和真实业务场景上,超过或达到了人类专家和其他 AutoML 工具的水平。



强大的自动机器学习开源框架:Hypernets 家族


Gartner 在2020年十大科技趋势中,将以 AutoML 为代表的 AI 普及化作为数据与分析领域的重要战略技术之一。作为帮助用户快速开发专用领域的 AutoML 工具,Hypernets 于 2019 年在 GitHub 进行开源,结合各种机器学习和深度学习框架开发专用自动机器学习工具,率先突破了机器学习建模过程中不均衡数据、概念漂移、模型泛化能力和大规模数据等诸多挑战,提供开放的训练服务框架,降低了 AutoML 工具的开发门槛,实现深度学习的网络架构设计自动化。



方磊提到,AutoML 的核心内容是降低门槛构建模型。基于 Hypernets 框架,九章云极 DataCanvas 自主研发的 HyperGBM 不仅能够解决生产化困扰,同时实现了数据预处理、特征衍生、特征筛选、模型超参数优化、模型选择、模型融合全过程的全自动机器学习,仅需 5 行代码就可以实现高质量的模型,拥有开箱即用、简单易用等特点,解决企业在结构化数据建模的需求。


为避免共性问题重复开发,其研发的HyperKeras支持神经网络架构搜索和超参数优,专注非共性问题,实现灵活高效扩展。此外,九章云极 DataCanvas 对 AutoML 技术不断探索,开源项目 DeepTables 荣获全球知名国际性竞赛第一名,全新定义了深度学习技术在结构化数据分析领域的价值。


随着人工智能时代对于 AutoML 需求的增加,九章云极 DataCanvas 将运用 Hypernets 框架融合更多的深度学习框架,推动神经网络架构搜索的前沿发展,助力实际应用场景中的深度学习模型落地,并且通过在 AutoML、AutoDL 领域不断的技术创新,为金融、通信、政府等众多行业实现数智化升级提供新动能。

2021-07-22 15:471118

评论

发布
暂无评论
发现更多内容

阿里P7亲自讲解!整理几个重要的Android知识,最全Android知识总结

欢喜学安卓

android 程序员 面试 移动开发

《精通比特币》学习笔记(第十一章)

棉花糖

区块链 学习 3月日更

BOE(京东方)物联网解决方案让会议更“智慧”

爱极客侠

融云聊天室属性 kv

融云 RongCloud

音视频

中台还没建就开始拆中台了?医疗中台何去何从?

菜根老谭

中台 医疗中台

如何写好操作类说明文档

lenka

3月日更

架构师训练营第六周作业 - 命题作业

阿德儿

使用 Arthas 排查 SpringBoot 诡异耗时的 Bug

阿里巴巴云原生

Java 开发者 云原生 中间件 Arthas

第八章作业

Kalman

产品经理 产品经理训练

Redis 在项目中合理使用经验总结

Java小咖秀

redis

阿里P7亲自教你!一线互联网大厂中高级Android面试真题收录!讲的明明白白!

欢喜学安卓

android 程序员 面试 移动开发

一分钟了解EFT公链新一代超级DeFi公链——EGG超级公链

币圈那点事

区块链 公链 挖矿

腾讯高级工程师保姆级“Java成长手册”,层层递进,全是精华

Java架构追梦

Java 腾讯 面试 架构师

恭喜自己2021金三银四收到的第五个Offer:字节跳动Java研发岗

比伯

Java 编程 架构 面试 程序人生

面试字节跳动定级2-2,拿32*16offer,P8大佬的算法教程给了我春天!

Java架构之路

Java 程序员 架构 面试 编程语言

PBAC相对于传统ABAC的优势

龙归科技

IT 架构师 权限 ABAC PBAC

openpyxl 对Excel的基础操作

IT蜗壳-Tango

办公自动化 3月日更 IT蜗壳教学

Python 初学者必看:Python 异常处理集合

华为云开发者联盟

Python 异常 代码 程序 错误

华为18级工程师总结的50W字算法、LeetCode、操作系统、计算机底层刷题必备笔记

Java架构之路

Java 程序员 架构 面试 编程语言

【死磕JVM】一道面试题引发的“栈帧”!!!

牧小农

JVM Java虚拟机 运行时数据区 Java虚拟机栈 栈帧

邀请领好礼!米家显示器挂灯、雷蛇烈焰神虫送给你!

滴滴云

教你如何在Centos配置Oracle客户端运行时

happlyfox

28天写作 3月日更

三步上线自己的在线监考系统

融云 RongCloud

架构师训练营第十周作业 - 命题作业

阿德儿

GitHub Action + ACK:云原生 DevOps 落地利器

阿里巴巴云原生

容器 运维 云原生 k8s 应用服务中间件

第八章学习总结

Kalman

产品经理 产品经理训练

【科创人】维格表创始人陈霈霖:喜茶数字化转型的结晶是vika维格表

科创人

翻译:《实用的Python编程》06_01_Iteration_protocol

codists

Python

TCP拥塞控制四种算法

赖猫

TCP 网络协议

本科毕业,六年Java开发经验,阿里技术三面+HR面,拿下38*16薪资P7offer

Java架构之路

Java 程序员 架构 面试 编程语言

HECO火币生态链挖矿系统开发搭建技术

薇電13242772558

数字货币 区块链生态

WAIC|高精准、低成本,九章云极DataCanvas突破AutoML难题_文化 & 方法_InfoQ精选文章