Ambiq 推出两款全新边缘 AI 运行时解决方案
旨在加速 Apollo SoC 上超低功耗 AI 部署
2025 年 7 月 22 日,德克萨斯州奥斯汀 – 边缘 AI 超低功耗半导体解决方案的技术领导者 Ambiq Micro, Inc.(“Ambiq”)今天推出了 HeliosRT(运行时)和 HeliosAOT(预编译)两款全新的边缘 AI 运行时解决方案,并针对 Ambiq Apollo 系列SoC进行了优化。这些开发者工具旨在显著提升AI 模型的性能和能效,以满足边缘计算环境的特殊需求。
应对关键的边缘 AI 挑战
随着 AI 工作负载越来越多地迁移到边缘设备,开发人员面临着在严格的功耗预算内提供高性能计算的巨大压力。传统的 AI 框架通常在超低功耗场景中举步维艰,这使得在电池供电的设备(如可穿戴设备、耳戴式设备、物联网传感器和工业监视器等)中部署复杂的 AI 模型变得困难。
Ambiq 的全新运行时解决方案扩展了其不断增长的以开发者为中心的工具组合,旨在帮助工程师充分释放 Apollo SoC 的潜力。 HeliosRT 和 HeliosAOT 为边缘 AI 提供了灵活、高性能的部署选项,适用于从数字健康、智能家居到工业自动化等广泛应用领域。
HeliosRT:功耗优化的 LiteRT
HeliosRT 是 LiteRT(以前称为 TensorFlow Lite for Microcontrollers)的性能增强版,专为能量供给受限的环境量身定制。HeliosRT 与现有的 TensorFlow 工作流完全兼容,并引入了以下关键改进:
- 针对 Apollo510矢量加速硬件优化的定制 AI 内核
- 改进了对音频和语音处理模型的数值化支持
- 与标准 LiteRT 实现相比,推理速度和能效提高了 3 倍
HeliosAOT: 将 LiteRT 编译为优化的 C 代码
HeliosAOT 引入了一种全新的预编译器,可将 TensorFlow Lite 模型直接转换为嵌入式 C 代码,用于边缘 AI 部署。这种创新方法提供了堪比运行时级别甚至更好的性能,并具有以下额外优势:
- 与传统的基于运行时的部署相比,内存占用减少 15-50%
- 精细化内存管理,支持在 Apollo 内存层次结构中按层分配权重
- 简化部署,将生成的 C 代码直接集成到嵌入式应用程序中
- 为资源受限的系统提供更大的灵活性
Ambiq 人工智能副总裁 Carlos Morales 表示:“良好的开发者体验与卓越的能效相结合一直都是我们的指引。HeliosRT 和 HeliosAOT 旨在与现有的AI开发流程无缝衔接,同时提供边缘应用所需的性能和效率提升。我们相信,这是使复杂的AI真正无处不在的一大重要进步。”
由 SPOT® 技术和成功案例提供支持
两款 Helios 解决方案均基于 Ambiq 的专利亚阈值功耗优化技术 (SPOT),该技术已应用于全球超过 2.7 亿台终端设备。凭借多年的软硬件协同设计经验,这些工具为面向边缘的开发人员提供了显著的性能提升和简化的部署方式。
可用性
- HeliosRT现已通过 neuralSPOT SDK 提供测试版,预计将于 2025 年第三季度正式发布
- HeliosAOT 目前已面向部分合作伙伴提供技术预览版,计划于2025 年第四季度全面推出
这两种解决方案都为 Ambiq 客户提供了丰富的文档、可立即使用的示例和专门的工程协助。
关于Ambiq
我们的使命是通过提供最低功耗的半导体解决方案来实现无处不在的人工智能 (AI) 和智能技术 ,并助力客户在功耗挑战最为严峻的边缘端实现人工智能 (AI) 计算。我们的技术创新基于获得专利保护的专有亚阈值功耗优化技术 (SPOT®) ,与传统半导体设计技术相比,从根本上将芯片功耗降低了数倍。截至目前,我们已为超过 2.7 亿台终端设备提供支持。有关更多信息,请访问 www.ambiq.com。
联络人
Charlene Wan
企业营销和投资者关系副总裁
cwan@ambiq.com
+1.512.879.2850