AI加速器是面向深度学习任务的专用计算硬件，通过高并行矩阵运算单元、低精度算子及片上高速缓存，在边缘或云端为推理与训练提供十倍于CPU的能效比，支持ONNX、CUDA、ROCm等生态，使大模型、自动驾驶、实时推荐等场景实现毫秒级响应。