各類型AI運算下的功耗

虽然人工智能（AI）推理在日常应用中似乎是无缝的，但后端的产品开发人员和工程师知道AI是多么耗电。 随着市场上每一款最终产品的推出，都经过精心设计的折衷方案来满足其能源需求。 鉴于AI 应用在过去一年中增长速度如此之快¹，整体能耗飙升，因此需要更大的模型和训练集。 最近的一项研究发现，到2027²年，人工智能行业消耗的能源可能与荷兰这样大的国家一样多。

物联网的兴起只是增加了等式。 例如，智能设备需要大量能源来实现创新应用和持久的电池电量。 对于开发人员来说，高效的能量推理是一条重要的前进道路，因为他们正在创新具有越来越有影响力的 AI 应用。 网络越广，你能做的就越多，对吧？

在本文中，我们将研究推动 AI 计算能力的不同能量水平、它们的主要应用，以及由低功耗技术推动的 AI 推理的未来。

AI 推理的能量水平

AI 推理中使用了三个主要能量水平。 层次结构中的每个级别都代表功率和计算能力之间的权衡。 下面，我们将概述这些差异以及它们在实际用例中如何实现：

皮焦耳 （pJ）

皮焦耳用于超低功耗设备中的 AI 推理，这些设备执行简单的 AI 任务并面临严格的功率限制。 它们也是能量收集的最佳选择，能量收集是从系统环境中捕获能量并将其转换为可穿戴设备、无线传感器网络等的可用电能的过程3。 然而，由于极低的能量水平，皮焦耳的计算能力可能有限。

物联网在这种能源水平上的主要应用包括环境监测、工业传感和农业。

环境监测涉及将人工智能应用于嵌入灌溉系统、管道、水箱、气象站、海洋应用和工业设备的传感器，这些传感器可以检测温度、湿度、水位、泄漏和其他物理特性。 当数据被发送回云端时，我们可以跟踪、分析资源的使用和分配方式，并采取进一步的行动。

工业应用涉及将人工智能应用于工业机械中的温度传感器、热像仪、超声波传感器、光电管、电感传感器、雷达、视觉相机和运动传感器。 借助传感器数据，我们能够在机器问题发生之前对其进行预测和预防。

对于农业来说，皮焦耳的功率水平涉及将人工智能应用于放置在土壤或水系统中的环境传感器。 收集的数据可以帮助解决一系列问题，包括作物产量预测、选择和管理; 土壤兼容性分类; 和水资源管理。 智慧农业的各个方面都有助于养活不断增长的人口。

纳焦耳 （nJ）

纳焦耳通常用于移动和电池供电设备（如智能手机或其他便携设备）中的低功耗 AI 应用，因为它们是延长电池寿命和减少对持续互联网连接的需求的最佳选择。 它们在低功耗和足够的计算能力之间实现了平衡，因此适用于广泛的应用。 虽然纳焦耳供电的设备可能比皮焦耳级设备更强大，但在处理高度复杂的人工智能计算时，它们仍可能面临挑战。

在这种能源水平上，物联网的主要应用包括可穿戴设备、智能家居和远程数字健康设备。

可穿戴设备监控涉及将人工智能应用于智能手表、增强现实技术、健身追踪器等小工具，以增强娱乐、体育和其他体验。 智能家居管理涉及将人工智能应用于各种家用设备，如照明、供暖、扬声器等。 机器学习会根据居住者的偏好进行调整，并相应地调整各种设置。

远程患者监测是其中一个对功耗需求快速增长的市场，它将人工智能应用于小型健康穿戴式装置（别针、手表等），以追踪患者的生理特征并提供个性化支持、药物提醒和有用的见解。 随着提供者和患者希望提高医疗保健效率并带来更好的结果，这种用例变得越来越普遍。

微焦耳 （μJ）

微焦耳适用于中等功耗但应最小化的应用。 它们通常涉及更复杂的 AI 任务，因此它们不仅对于延长电池寿命而且对于减少整体环境影响至关重要。 微焦耳用于边缘计算设备，其中 AI 在本地或嵌入式系统中完成。 虽然仍然节能，但微焦耳级器件可能不适合具有超严格功率限制的应用。

在这种能量水平上，物联网的主要应用包括摄像头监控和汽车增强功能。 摄像头监控涉及在监控系统、智能家居摄像头、运动探测器等中应用人工智能，以跟踪和分析人员、车辆、属性和事件。 汽车增强功能涉及将人工智能应用于车辆，例如摄像头、仪表板、气候控制等，为消费者提供新的个性化车内体验。

阅读更多： 关于我们 | 文档 | 闻稿章 | 博客文章 | 视频