HarmonyOS开发者限时福利来啦!最高10w+现金激励等你拿~ 了解详情
写点什么

明略科技开源 TensorBoard.cpp,助力大模型预训练

  • 2023-08-11
    北京
  • 本文字数:749 字

    阅读完需:约 2 分钟

明略科技开源TensorBoard.cpp,助力大模型预训练

近日,明略科技集团实现了机器学习可视化工具——TensorBoard 的 C++接口,进一步丰富了基于 C++的大模型项目工具集,使得大模型预训练过程监控更加便捷、高效,加速营销领域大模型预训练进程。该工具已在 Github 开源。

 

TensorBoard 是 Google 开发的一款机器学习可视化工具,常用于监测机器学习过程的各项指标。明略科技高级技术总监赵亮介绍:“在大模型训练过程中,数据监测是一个重要维度,而 TensorBoard 通过可视化模型中的各种参数和结果,例如记录大模型训练过程的 Loss 变化、验证集的 PPL 变化、学习率变化、Token 消耗量、单步参数更新时延等指标,帮助分析训练状态,发现训练过程中出现的问题并及时采取干预措施,提升大模型训练进程和效果。”

 

此前,TensorBoard 仅支持 Python 语言接口。此次明略科技通过 C++实现 TensorBoard,将进一步丰富基于 C++实现的大模型项目工具集,大幅提升模型训练监测效率,加速模型训练进程,改写接口后的工具将通过多维度的数据模式展示训练指标,包括标量、直方图、图像、图像合集、音频、文本等数据模式。该工具包通过 github 项目 Tensorboard.cpp 分享,助力更多研究者和开发者参与并加速大模型的研发进程,推动人工智能多领域的应用探索。

 

明略科技在 Github 开源的两款工具包:ASR-BlockFormer 与 tensorboard.cpp

 

明略科技集团 CTO 郝杰表示:


“我们要在更高效、更低成本的要求下做出营销领域的大模型,通过自适应技术提升大模型的能力。好的行业大模型需要具备通用大模型的逻辑性、语言顺畅度,同时还需要实现通用大模型所不具备的,在某个行业内或具体的领域中的真实性、专业性。明略科技凭借 17 年来积累的海量行业数据为基础,从客户实际需求出发,借助庞大的数据和知识库进行增强训练,满足客户多样化的任务和场景需求。力求为客户打造一个更加可靠、效果更好的行业大模型。”

 

2023-08-11 17:354118
用户头像
李冬梅 加V:busulishang4668

发布了 945 篇内容, 共 537.9 次阅读, 收获喜欢 1105 次。

关注

评论

发布
暂无评论
发现更多内容

一篇文章教你搞清楚——Kotlin-进阶---不变型、协变

程序员 移动开发

三年经验Android开发面经总结

android 程序员 移动开发

快速创建一个Django项目,Python环境也给你安排了

老表

Python django 个人博客 web开发 11月日更

一位30多岁已婚已育没有车贷男程序员的不安

android 程序员 移动开发

三年 Android 开发的技术人生,浅谈自身面试的感悟

android 程序员 移动开发

不要花大力气学-Kotlin

android 程序员 移动开发

一直认为Android不好找工作的同学,你的问题在这里!

android 程序员 移动开发

一行代码解决安卓重复点击?

android 程序员 移动开发

一个自学Android-人的第三年的面经分享

android 程序员 移动开发

一款Android开发者神器,从此不怕Show case

android 程序员 移动开发

一种清晰, 便于扩展android项目架构方案

android 程序员 移动开发

【自学Android】使用DataBinding,ViewModel,LiveData完成点赞小功能

android 程序员 移动开发

一个34岁出来面试还被拒绝的Android程序员有多惨?

android 程序员 移动开发

万字长文 - Kotlin 协程进阶

android 程序员 移动开发

三面字节跳动被虐得“体无完肤”,15天读完这份pdf

android 程序员 移动开发

一个简单强大且灵活的 MVP 框架。

android 程序员 移动开发

一起看 I_O _ Android 12 Beta 版发布,诸多亮点不容错过

android 程序员 移动开发

【透镜系列】看穿 _ 触摸事件分发 _

android 程序员 移动开发

【面试总结】Android-开发者值得深入思考的几个面试问答分享

android 程序员 移动开发

【淘系技术】超详解析Flutter渲染引擎_业务想创新,不了解底层原理怎么行

android 程序员 移动开发

【自学Flutter】20

android 程序员 移动开发

一封给Android开发者 UI 自动化测试上手指南

android 程序员 移动开发

一次面试被问到ArrayMap,原理及源码分析详解

android 程序员 移动开发

【自学Flutter】18 TabBar、TabBarView

android 程序员 移动开发

【自学Flutter】3

android 程序员 移动开发

一波Android面试(附答案)

android 程序员 移动开发

【CSS Master】选择器四种基本类型

devpoint

CSS CSS语法 11月日更

一位Android大牛的BAT面试心得与经验总结

android 程序员 移动开发

iOS开发:上架App被拒原因5.1.1Legal Privacy - Data Collection and Storage

三掌柜

11月日更

七月脱产复习上岸Byte Dance,敢问:这不比“博人传

android 程序员 移动开发

不要学得太杂太乱!学习Android开发只要记住这几点!

android 程序员 移动开发

明略科技开源TensorBoard.cpp,助力大模型预训练_生成式 AI_李冬梅_InfoQ精选文章