在一个由互联技术主导的时代，将人工智能（AI）和计算整合到本地物联网 （IoT）上——互联设备正在彻底改变我们对智能设备互相联系的方式。 这种集成通常称为本地设备 AI 或端点 AI 计算，是一种越来越流行的框架，用于独立于云有效地收集和处理数据。 预计未来十年，物联网和智能设备的采用量将从151亿增加到346亿1，端点 AI有望增强这些设备的功率和智慧。
在这里，我们将探讨端点 AI 的复杂性，包括其优势、挑战以及在任何地方实现智能设备的光明前景。
什么是端点 AI？
借助 AI 方法，开发人员将 AI 算法和模型直接部署在本地设备（包括传感器或 IoT 设备）上，然后在本地收集和处理数据。 这种设备端智能和机器学习 （ML） 功能融合为解锁新使用行为和应用进而提供了新的基础。
在本地设备上运算的好处
这种与传统云计算的迥异使智能更接近数据源，从而提供了许多优势。
增强隐私和数据安全性
在本地设备上实施 AI 使用户能够更好地控制其数据。 在本地处理敏感信息可以减轻隐私问题，并降低数据暴露给外部网络的可能性。 通过将 AI 迁移到本地设备，负责维护客户个人身份信息 （PII） 安全的组织可以得到更好的保护。
在设备上，这些数据不会暴露给云服务提供商和其他第三方的服务器，从而确保有效地遵守符合当地和国际法规相关数据的保护的当地和国际法规。 这种方法降低了与数据泄露和未经授权相关的风险，为需要更高安全性的应用程序提供了强大的解决方案。
高效的处理速度
AI云计算伴随相对高昂的成本。 像GPT-3这样的语言模型是OpenAI构建ChatGPT的系统，需要巨大的计算能力来处理。 OpenAI 必须启动流量管理策略，例如排队系统和减慢查询速度，以应对 ChatGPT 推出后的需求激增 2 。 这一事件凸显了计算能力如何成为瓶颈，限制了人工智能模型的进步。
本地设备 AI 可显著降低延迟，从而缩短处理时间。 应用程序受益于更快的响应时间，支持实时决策，尤其是在自动驾驶汽车或智能家居设备等关键场景中。 分布式处理还意味着实时生成见解，与设备必须将数据发送到云端进行处理并侦听回应相比，延迟更少。
增强的用户体验
减少延迟和提高处理速度提供无缝且响应迅速的用户体验。 实时反馈成为可能，从而提高用户满意度和参与度。 Endpoint AI 可以在本地处理和分析用户数据，以创建个性化体验，而无需依赖集中式服务器3。
这导致了更具响应性和量身定制的服务，例如针对购物清单、健身应用程序和膳食推荐等案例的个性化推荐和内容交付。 这种类型的个性化人工智能可以更有效地吸引用户，并增加他们对于他们的兴趣产生共鸣的内容和体验的参与度。
减少对云的依赖
虽然云在收集和处理数据方面具有强大的功能，但它容易受到黑客攻击或中断等威胁，并且在互联网访问受限的地区可能无法使用4。 使用端点 AI 设备减少对云的依赖不仅可以提高其性能，还可以提高其免受外部威胁的安全性。 这也提高了它们在互联网连接受限的情况下的恢复能力，这对于偏远地区或网络访问间歇性环境中的应用程序尤为重要。
人工智能在本地设备上的挑战
局部障碍的存在，可能会限制端点 AI 的全部潜力。 其中包括硬件限制、内存要求和电源限制。 AI 模型，尤其是深度学习模型，通常需要大量的内存资源。 本地设备的处理能力通常受到限制，这给实现资源密集型 AI 算法带来了挑战。 人工智能计算也是耗电的，会影响本地设备的电池寿命。
行动装置在计算资源、内存、存储和功耗方面受到更多限制。 因此，设备端型号需要比服务器型号小得多，这可能会降低其功能5。 在功能和资源消耗之间取得平衡是设计支持 AI 的设备的关键挑战。
本地设备上的人工智能前景
尽管存在这些挑战，但硬件设计和优化技术的不断进步正在稳步克服障碍。 边缘计算和高能效处理器等技术为更高效的本地设备 AI 实施铺平了道路6。
人工智能和计算在本地物联网连接设备上的优势正在重塑技术格局，提供更好的隐私、安全性、速度和用户体验。 虽然挑战依然存在，但不断的研究和创新正在克服这些障碍。 在本地设备上部署人工智能的前景似乎很有希望，这将使智能设备无缝集成到我们日常生活的新时代成为可能。
Ambiq 如何做出贡献
自 2010 年以来，Ambiq 凭借其超低功耗半导体解决方案，成功帮助智能设备在端点执行 AI 等复杂推理任务。 革命性的 亚阈值功耗优化技术 （SPOT） 平台 帮助解决了智能设备制造商在开发复杂且耗电功能时遇到的功耗限制。 因此，开发人员可以期待平稳的性能，一次充电即可使用数天、数周或数月的电池续航时间。 查看 Ambiq的更多应用。
来源
1 邊緣人工智慧 |10月7， 2023
2 计算能力正在成为人工智能发展的瓶颈。 以下是清除它的方法。 |3月17， 2023
3 利用设备端 AI 实现个性化 |10月11， 2023
4 云计算中隐私的 4 大挑战 |2022年12月
5 為什麼選擇設備端機器學習 | 2024 年
6 採訪 Scott Hanson - Ambiq 創始人兼首席技術官 |1月4， 2024