近日,明略科技集团实现了机器学习可视化工具——TensorBoard 的 C++接口,进一步丰富了基于 C++的大模型项目工具集,使得大模型预训练过程监控更加便捷、高效,加速营销领域大模型预训练进程。该工具已在 Github 开源。
TensorBoard 是 Google 开发的一款机器学习可视化工具,常用于监测机器学习过程的各项指标。明略科技高级技术总监赵亮介绍:“在大模型训练过程中,数据监测是一个重要维度,而 TensorBoard 通过可视化模型中的各种参数和结果,例如记录大模型训练过程的 Loss 变化、验证集的 PPL 变化、学习率变化、Token 消耗量、单步参数更新时延等指标,帮助分析训练状态,发现训练过程中出现的问题并及时采取干预措施,提升大模型训练进程和效果。”
此前,TensorBoard 仅支持 Python 语言接口。此次明略科技通过 C++实现 TensorBoard,将进一步丰富基于 C++实现的大模型项目工具集,大幅提升模型训练监测效率,加速模型训练进程,改写接口后的工具将通过多维度的数据模式展示训练指标,包括标量、直方图、图像、图像合集、音频、文本等数据模式。该工具包通过 github 项目 Tensorboard.cpp 分享,助力更多研究者和开发者参与并加速大模型的研发进程,推动人工智能多领域的应用探索。
明略科技在 Github 开源的两款工具包:ASR-BlockFormer 与 tensorboard.cpp
明略科技集团 CTO 郝杰表示:
“我们要在更高效、更低成本的要求下做出营销领域的大模型,通过自适应技术提升大模型的能力。好的行业大模型需要具备通用大模型的逻辑性、语言顺畅度,同时还需要实现通用大模型所不具备的,在某个行业内或具体的领域中的真实性、专业性。明略科技凭借 17 年来积累的海量行业数据为基础,从客户实际需求出发,借助庞大的数据和知识库进行增强训练,满足客户多样化的任务和场景需求。力求为客户打造一个更加可靠、效果更好的行业大模型。”
评论