恩智浦i.MX 95系列MPU如何赋能边缘计算

在本系列博文的恩智第一部分，我探讨了恩智浦i.MX 95系列如何将新功能安全技术应用于工业环境、系列汽车领域及其他边缘应用。边缘在接下来的计算文章中，我将进一步阐述i.MX 95系列如何赋能边缘计算，恩智实现先进的系列AI功能。

近年来，边缘AI创新呈指数级增长。计算其中，恩智大量关注点集中在基于云的系列生成式AI应用 (如ChatGPT)。然而，边缘这些应用的计算运行成本高，并伴随高能耗问题。恩智相比之下，系列边缘处理通过本地化存储数据和隐私信息，边缘提供了一种快速、高效且安全的信息管理解决方案。恩智浦在边缘处理领域拥有深厚的积累，而全新i.MX 95系列更是将这一能力提升到了新的高度。

i.MX 95应用处理器为边缘处理提供卓越性能、信息安全及更多关键特性。了解i.MX 95系列如何成为您下一个AI设计的理想选择，点击这里>>

i.MX 95系列具备强大的处理能力，适用于边缘处理的传统机器学习和生成式AI应用。该系列集成了恩智浦eIQ Neutron NPU以加速机器学习，同时结合ArmMali GPU与恩智浦自主研发的图像信号处理器，驱动沉浸式3D图形。这一强大且可扩展的配置适用于从视频会议系统到工厂大型设备，为各类应用场景提供卓越的处理能力。

i.MX 95系列的结构框图包括SoC的功能及顶层规格。

i.MX 95在AI应用中的优势

以下是适合使用i.MX 95 MPU的AI/ML应用：

视觉检查和异常检测：AI赋能的工厂设备可比人工更快、更准确地检查物品。

语音命令：智能设备能够识别大量词汇，解析多个扬声器同时播放的音频，并准确处理各种口音的语音。

人脸与发言者追踪：企业视频会议应用可追踪发言者，确保其始终处于画面焦点内，以提升参与体验。

背景噪声消除：智能设备可去除背景噪声并执行回声消除，以提升语音命令解析和用户体验。

人员监测：智能家居与智能办公安全系统可追踪人员、物品及宠物。车载人员监测功能还能审核驾驶员行为，识别注意力分散等风险。

患者监测：医疗设备可监测患者生命体征，并在必要时提醒医护人员。

家居与楼宇自动化：借助边缘AI，实现空调、家电、安防等设备的无缝互联与智能控制。

i.MX 95系列不仅具备卓越的处理性能，而且具有高能效，在同类产品中脱颖而出。eIQ Neutron NPU是一款强大且高效的AI推理引擎，在边缘处理场景中提供具有竞争力的TOPS/W性能。此外，我们的Energy Flex多域架构提供独立的处理域，适用于功能安全、低功耗和实时应用。这能够实现精细化动态功率控制和低功耗运行模式。即使SoC的大部分模块处于断电状态，处理器仍能保持稳定运行。

i.MX 95系列支持多种边缘AI应用，包括视觉检查和异常检测。

边缘AI赋能机器视觉

i.MX 95 SOC集成神经处理单元 (NPU)、图像信号处理器 (ISP) 和视频处理单元 (VPU)，这些组件协同工作，提供卓越的边缘机器视觉能力。无论是家庭控制面板、入口视频监控，还是工厂自动化，恩智浦eIQ Neutron NPU均支持先进的视频处理技术。用户可在NPU上运行高级AI模型，实现场景分割、实时视频增强和去噪，确保高质量的视频画面。

i.MX 95系列还支持并行处理多路视频流，无需向云端发送信息。其内置ISP通过两个MIPI-CSI4通道接口和MIPI虚拟通道，可支持多达8个原始摄像头传感器。此外，ISP还支持可同时捕获可见光和红外光的RGB-IR摄像头，从而在低光条件下提升图像质量，并优化人脸识别能力。

简化开发流程

为了帮助客户简化开发流程，我们的eIQ AI软件开发环境支持多个主流平台，包括：

TensorFlow和LiteRT (fka TensorFlow Lite)

Pytorch/Executorch

ONNX和ONNX RT

该平台还支持多种神经网络结构，包括CNN、MLP、RNN、LSTM、TCN和LLM/SLM。

为了进一步简化神经网络部署，我们的eIQ AI/ML开发软件集成了NVIDIA TAO Toolkit API，让开发人员能够轻松访问丰富的预训练和微调的AI模型，并将其部署在i.MX 95处理器上。

eIQ AI软件环境为开发人员提供所需工具，以推动边缘AI创新。

此外，恩智浦还帮助开发人员轻松定制生成性AI模型，并针对边缘应用对其进行优化。我们将在eIQ开发软件中引入GenAI Flow，帮助客户安全地基于域特定知识和私有数据训练AI模型。例如，用户可以使用用户手册训练LLM，让聊天机器人能够回答用户关于特定产品的问题。

从i.MX 95处理器丰富的AI功能，到恩智浦全面的开发工具套件，i.MX 95系列为智能家居、智能办公室、汽车、工业环境及医院等领域提供卓越的边缘机器视觉功能。

如果您希望在下一个项目中使用i.MX 95系列，并深入了解更多信息，请访问i.MX 95产品页面。 后续，我们将推出本系列博文的第三部分，重点介绍i.MX 95系列如何提供先进的连接与信息安全功能，敬请关注。

本文作者

Toby Foster，恩智浦半导体安全连接边缘资深产品市场经理，专注于网络应用和Layerscape系列处理器的管理。他还担任网络处理器系统架构师和应用工程经理。Foster先生拥有美国哈维穆德学院电气工程学学士和硕士学位。