写点什么

WAIC|高精准、低成本,九章云极 DataCanvas 突破 AutoML 难题

作者:九章云极DataCanvas

  • 2021-07-22
  • 本文字数:2225 字

    阅读完需:约 7 分钟

WAIC|高精准、低成本,九章云极DataCanvas突破AutoML难题

2021 年世界人工智能大会(WAIC)于 7 月 8 日 在上海世博中心拉开帷幕。九章云极DataCanvas董事长方磊受邀参加由世界人工智能大会组委会主办、机器之心承办的“2021 WAIC·AI 开发者论坛”,并发表“Hypernets:自动化机器学习的基础框架”主题演讲。



本次论坛以「后深度学习的 AI 时代」为主题,作为本届 WAIC 开发者单元的主力军,WAIC· AI 开发者论坛与 WAIC·开发者日一脉相承,连续三年始终专注 AI 技术人员与开发者。本次论坛邀请了 15 位学术界和产业界重磅嘉宾,覆盖多模态机器学习及大规模自动生成技术、AutoML 框架、智能社区的多模态数据融合、智能制造中的算法平台以及下一代 AI 基础软件能力等话题,共同探讨 AI 前沿技术。九章云极 DataCanvas 董事长方磊围绕 AutoML 框架的重要性和基本抽象、Hypernets 的概念模型和重要特性、Hypernets 的具体示例三部分向广大开发者奉献了一场干货满满的技术福利。



AutoML 框架的本质是空间搜索


AutoML技术的研发与应用是一个持之以恒的课题,随着对其研发的深入,很多 AutoML 工具的各部分高度耦合,只能针对特定问题,难以扩展。方磊表示,AutoML 框架的本质就是空间搜索,在这里面很重要的思想就是抽象性和层级的必要。


AutoML 框架是对 AutoML 领域面对的问题解构和抽象后形成的基础性支撑,无论是超参数优化、Full-Pipeline 搜索还是神经网络架构搜索(NAS)问题,主要围绕 3 个基本部分:搜索空间(Search Space)、搜索策略(Search Strategy)和评估策略(EstimationStrategy)。AutoML 框架应对各部分高度解耦以实现各部分自由扩展,开发者可以在此之上不断丰富搜索算法,设计多样搜索空间,避免共性问题重复开发,针对非共性问题实现灵活扩展,加速迭代效率,大幅低于降低自动机器学习的准入门槛,能够让开发者快速实现自动机器学习的搜索。



Hypernets——开发者的朋友


一款优秀的 AutoML 框架应当在上述三个部分具有:富有表现力的搜索空间描述语言、支持高维空间的高效搜索算法和高性能的评估策略。Hypernets 作为一个自动机器学习的底层通用框架,满足单节点及分布式高性能的模型训练需求,可以在不同的空间进行搜索与训练,结合各种机器学习和深度学习框架开发专用自动机器学习工具,帮助用户快速开发专用领域的 AutoML 工具。同时,Hypernets 支持最新的神经网络架构搜索(NAS)算法,可以实现深度学习的网络架构设计自动化。


方磊表示,Hypernets 与目前众多的机器学习、深度学习框架相结合更快更好的生成自动机器学习工具。用 5-10 行代码完全可以搜索模型,因此 Hyperents 一个定位就非常清晰,不管开发一个训练框架还是开发应用模型,都是开发者的朋友。开发训练框架可以让框架使用 Hypernets 很容易结合出框架本身的自动机器学习能力;如果是开发应用模型,可以组合不同学习训练框架的同时,在上面使用 Hypernets,端到端整个 pipeline 上进行自动机器学习的参数搜索,就会得到非常较好的模型。经过大量在行业上的应用,在特征丰富情况下,Hypernets 在搜索能力包括分布式计算能力体现出来很多优势,搜索时间短,算力仅需普通训练的 20-30 倍,就能够得到一个性能大大提升的模型。


简单快速精准的自动机器学习开发过程


开发者通过 Hypernets 设计不同的模块空间(Module Space)和相应的参数空间(Parameter Space),通过不同的连接方式(Connection Space)将各个模块空间组合成为一个高维的丰富动态搜索空间(Search Space)。遗传算法作为搜索策略的一个例子,是一种非常有效的寻找局部最优的方法,也可以与其他各类算法组合使用,实现更为强大的策略,例如在空间切分搜索的时候,使用遗传算法加速子空间中的迭代。评估策略的核心在于高效:在评估不精确的情况下,通过指导搜索方向、节省预处理时间、防止过拟合三种方式,减少计算量,高效地利用自动机器学习找到更好的模型。作为 Hypernets 的一个具体实例,HyperGBM在多个公开数据集上和真实业务场景上,超过或达到了人类专家和其他 AutoML 工具的水平。



强大的自动机器学习开源框架:Hypernets 家族


Gartner 在2020年十大科技趋势中,将以 AutoML 为代表的 AI 普及化作为数据与分析领域的重要战略技术之一。作为帮助用户快速开发专用领域的 AutoML 工具,Hypernets 于 2019 年在 GitHub 进行开源,结合各种机器学习和深度学习框架开发专用自动机器学习工具,率先突破了机器学习建模过程中不均衡数据、概念漂移、模型泛化能力和大规模数据等诸多挑战,提供开放的训练服务框架,降低了 AutoML 工具的开发门槛,实现深度学习的网络架构设计自动化。



方磊提到,AutoML 的核心内容是降低门槛构建模型。基于 Hypernets 框架,九章云极 DataCanvas 自主研发的 HyperGBM 不仅能够解决生产化困扰,同时实现了数据预处理、特征衍生、特征筛选、模型超参数优化、模型选择、模型融合全过程的全自动机器学习,仅需 5 行代码就可以实现高质量的模型,拥有开箱即用、简单易用等特点,解决企业在结构化数据建模的需求。


为避免共性问题重复开发,其研发的HyperKeras支持神经网络架构搜索和超参数优,专注非共性问题,实现灵活高效扩展。此外,九章云极 DataCanvas 对 AutoML 技术不断探索,开源项目 DeepTables 荣获全球知名国际性竞赛第一名,全新定义了深度学习技术在结构化数据分析领域的价值。


随着人工智能时代对于 AutoML 需求的增加,九章云极 DataCanvas 将运用 Hypernets 框架融合更多的深度学习框架,推动神经网络架构搜索的前沿发展,助力实际应用场景中的深度学习模型落地,并且通过在 AutoML、AutoDL 领域不断的技术创新,为金融、通信、政府等众多行业实现数智化升级提供新动能。

2021-07-22 15:471102

评论

发布
暂无评论
发现更多内容

头脑风暴:打家劫舍

HelloWorld杰少

8月月更

2021-Java后端工程师面试指南-(SpringBoot+SpringCloud)

自然

Spring Boot CLI spring cloud stream 8月月更

聊聊电源自动切换电路(常用自动切换电路总结)

矜辰所致

电路设计 8月月更 电源自动切换

2022-Java后端工程师面试指南-(Redis)

自然

面试题 reis 8月月更

谈谈程序员如何具备领导力

宇宙之一粟

领导力 8月月更

为什么我要说:柯里化 == 闭包+递归?

掘金安东尼

JavaScript 前端 8月月更 柯里化

jvm(一 )内存区域的划分

想要飞的猪

JVM JVM运行时数据区

【字体反爬】的起点,月票数解析,一个小小的Python案例

梦想橡皮擦

Python 爬虫 8月月更

2022秋招前端面试题(三)(附答案)

helloworld1024fd

前端面试

2022-Java后端工程师面试指南-(MySQL)

自然

8月月更

C51 基本函数、中断函数和库函数的详解

timerring

8月月更

基于华为云ECS的目标检测与识别的昇腾AI开发体验【华为云至简致远】

sofiya

什么是 Office Open XML 文件格式

汪子熙

xml 微软 Office 8月月更 openOffice

基于华为云ModelArts和弹性云服务器ECS的AI全流程开发——昇腾工业质检应用实战【华为云至简致远】

sofiya

开源一夏 | 这么火的ES,SpringBoot结合ElasticSearch7实现多条件复合查询

知识浅谈

开源 8月月更

STM32+移远MC20模块采用MQTT协议登录OneNet上传GPS数据

DS小龙哥

8月月更

【高并发项目实战】工程模块化与活动会场静态化架构原理解析

小明Java问道之路

高可用 高并发 高性能 签约计划第三季 8月月更

轻松完成接口测试及接口文档

Xd

Java 后端 接口测试

git 分支

Jason199

git fetch 8月月更

【华为云至简致远】还在烦恼成本高、运维难?华为云数据库给你一个标准答案!

sofiya

OAuth2的定义和运行流程

阿提说说

spring security Oauth

Spring(三、依赖注入)

开源 bean Spring JPA 8月月更

朴素贝叶斯分类-西瓜分类 python

Five

贝叶斯公式 Python. 8月月更

自己动手制作elasticsearch的ik分词器的Docker镜像

程序员欣宸

elasticsearch 8月月更

一种用于保证多方子系统数据一致性的方法

阿提说说

数据一致性 多方子系统 异构系统

未来社区的人车房隐私数据权属确认方法

阿提说说

区块链 物联网 隐私保护

2022秋招前端面试题(四)(附答案)

helloworld1024fd

前端面试

Promise的点点滴滴

坚果

开源 8月月更

docker下,一行命令搭建elasticsearch6.5.0集群(带head插件和ik分词器)

程序员欣宸

elasticsearch 8月月更

华为云数据库,更安全、更方便、更省钱的选择【华为云至简致远】

sofiya

mysql进阶(二十八)GRANT REVOKE用法详解

No Silver Bullet

MySQL 签约计划第三季 8月月更 grant revoke

WAIC|高精准、低成本,九章云极DataCanvas突破AutoML难题_文化 & 方法_InfoQ精选文章