端到端的 AI 软件解决方案可通过一个统一软件栈,提供更丰富的高通公司 AI 软件功能访问权限,进一步提升开发者体验。
OEM 厂商和开发者将获得高通 AI 软件栈(Qualcomm AI Stack)访问权限,通过单个 AI 软件包即可实现更高性能,释放智能手机、物联网、汽车、XR、云和移动 PC 等智能网联边缘产品的 AI 能力。
高通 AI 软件栈为 OEM 厂商和开发者提供 AI 技术基础,帮助他们在此基础之上开发产品。
InfoQ 获悉,6 月 22 日,高通技术公司宣布推出高通 AI 软件栈产品组合,进一步在 AI 和智能网联边缘领域加强布局。
高通 AI 软件栈是面向 OEM 厂商和开发者的一套完整的 AI 解决方案,集合了高通原有的 AI 软件产品并进行了升级,通过丰富的 AI 软件权限和兼容性以做到支持各种智能终端。
据介绍,这是高通首次通过单一的 AI 软件组合,实现跨高通公司赋能的终端运行,覆盖广泛的智能网联边缘产品,包括智能手机、汽车、XR、计算、物联网和云平台。
高通 AI 软件栈支持包括 TensorFlow、PyTorch 和 ONNX 在内的不同 AI 框架与主流 runtimes,以及开发者库与服务、系统软件、工具和编译器,从而使任何面向单一终端开发的 AI 特性都可在轻松其他终端上部署。
高通技术公司产品管理副总裁 Ziad Asghar 向 InfoQ 等媒体表示:“完整的高通 AI 软件栈产品组合无疑是一项巨大突破,它将推动 OEM 厂商和开发者的 AI 开发,为高通的广泛产品组合带来高性能表现。我们很高兴借助这一全新产品组合进一步扩展公司的统一技术路线图,并扩大在智能网联边缘的优势。”
这一完整的产品组合支持直接访问高通 AI 引擎和采用高通 AI 引擎 Direct 的高通 Cloud AI 100 专用 AI 核心。作为全新解决方案的一部分,高通 AI 引擎 Direct 现可在高通所有产品中的任何 AI 加速器上进行扩展,作为一个 AI 库,它可以在高通的平台上直接向 AI 加速器委托和部署现有模型,不仅能够为 OEM 厂商和开发者提供模型开发的功能,还支持将新开发的模型迁移至不同产品和层级。
微软 AI 框架架构杰出工程师 Yuan Yu 介绍,目前正在推进将高通 AI 软件技术带入到微软的生态系统中,其中包括专门面向 Windows 的高通神经网络处理 SDK,通过提供从客户端扩展到服务器的统一完整 AI 软件,提供从边缘到云端的 AI 功能。
高通 AI 软件栈产品组合还支持一系列工具套件,包括高通 AI 模型增效工具包(AIMET)、AI 开发图形用户界面(GUI)、用于增强量化与优化的模型分析器以及神经网络架构搜索(NAS)。
此前在 2021 骁龙技术峰会上,高通和 Google Cloud 宣布将 Google Cloud Vertex AI NAS 集成至高通神经网络处理 SDK,赋能 OEM 厂商和生态系统创建、测试和部署边缘侧体验。高通神经网络处理 SDK 仍然是 OEM 厂商和开发者在高通各类产品上运行神经网络的关键,因此将进行定期升级与维护。该工具套件将为高通建立统一 SDK 提供基础,从而实现跨智能网联终端部署。
高通 AI 软件栈现已商用上市。如果想了解有关高通 AI 软件栈产品组合的更多信息,请查看:
https://www.qualcomm.com/news/onq/2022/06/Qualcomm_unveils_Qualcomm_AI_Stack
https://www.qualcomm.com/products/technology/artificial-intelligence/ai-stack。
评论