瑞芯微AI算力NPU路线图与协处理器｜触觉智能瑞芯微RK方案商出品

从0.5TOPS低功耗RV1106到20TOPS的RK182X离线大模型 ——瑞芯微这条路线走了十余年算力从0.5TOPS一路铺到20TOPS中途还分出一条「独立协处理器」的支线。触觉智能作为专业RK方案商今天为大家分享下瑞芯微NPU的发展历史。RK的NPU是怎么来的RK32882014没有 NPURK33992016没有 NPURK3399Pro20193 TOPS NPU —— 第一次RK3566/6820211 TOPS —— NPU 普及到入门 SoCRV1106/RV110320220.5 TOPS —— 第 4 代自研 NPU 下沉到普惠型机器视觉端侧 AI 覆盖到电池类设备RK3588/35762023-20246 TOPS —— 旗舰级RK1820/RK18282025 发布、2026 量产20 TOPS PCIe 大模型协处理器 —— 新一代外置算力扩展方案触觉智能紧跟原厂路线致力于客户减少研发周期项目快速开发落地。旗下提供配套RK3576、RV1126B、RK3588核心板等一系列模组。提供了高效能解决方案推动终端设备从AI端侧升级目前主流推荐RK3576核心板。各芯片 NPU 规格对比规格对比芯片NPU 核心数算力精度支持RK3399Pro--3 TOPSINT8/16/FP16RV1106/RV1103--0.5 TOPSINT8INT4/8/16 混合量化RK3562--1 TOPSINT4/8/16/FP16RK3566/68--~1 TOPSINT8/16/FP16/BFP16RK3576双核6 TOPSINT4/8/16/FP16/BF16RK3588三核6 TOPSINT4/8/16/FP16/BF16/TF32RK1808--3 TOPSINT8RK1820/RK1828多核 Mesh20 TOPSINT8INT4/8/16/FP8/FP16/BF16NPU算力的实际意义TOPS能跑的模型FPS大概典型场景0.5T人形 / 移动侦测、人脸检测轻量模型可实时电池 IPC、智能门铃、宠物看护1TYOLOv5s 检测15-25fps1080p人脸识别、目标检测3TYOLOv5m 检测 分类20-30fps1080p智能安防、工业检测6TYOLOv5m Segmentation15-25fps多模型并发、边缘 AI 盒子20T3B~7B LLM/VLM 多模态大模型50~200 Token/s离线大模型、机器人、车载座舱注FPS、Token 输出数据为第三方开发板实测参考值受内存、散热、模型裁剪、系统负载影响浮动极大非瑞芯微官方标定参数。0.5T 档为瑞芯微官方口径250ms 快速抓图、1 秒内完成人脸识别含活体检测。独立AI协处理器RK182X 新一代大模型协处理器除了 SoC 内置 NPU瑞芯微还有独立的 AI 加速芯片通过 PCIe 给其他主控芯片提供 AI 算力分为两代产品早期视觉协处理器 RK1808、2026 年主推 RK182X 大模型专用协处理器。RK1608项目规格类型视觉预处理 DSP SoC非 NPU核心Dual-core DSP用途3DNR 降噪、EIS 防抖、HDR接口PCIe、GMAC、USB内存LPDDR2定位手机 / 相机的视觉图像预处理RK1608 是瑞芯微的视觉预处理 DSP 芯片内部无专用 NPU通过双核 DSP 实现 3DNR/EIS/HDR 等图像预处理功能不能作为通用 AI 推理协处理器使用。瑞芯微首款独立 NPU 芯片是 RK1808。RK1808项目规格CPU2×Cortex-A35GPUMali-G31NPU3 TOPSINT8接口PCIe 2.1、GMAC、MIPI CSI/DSI、SPI、I2C、UART内存LPDDR4/LPDDR4X32-bit定位边缘 AI / NPU 协处理 / 视觉RK1808 是瑞芯微成熟的传统视觉独立 NPU 芯片。它的用法模式一PCIe 协处理器官方主推作为 PCIe 设备接到主控如 RK3399给主控提供 AI 算力适合给没有 NPU 的 SoC 补充传统视觉检测能力模式二独立 SoC自身运行 Linux 系统外接 MIPI 摄像头完成 AI 推理推理结果通过以太网对外输出适合打造独立 AI 视觉模块小众二次开发场景3 TOPS 的典型应用工业缺陷检测1080p 实时推理智能零售人流统计 热力图交通监控车牌识别 车型分类新一代大模型 PCIe 协处理器RK1820 / RK18282025 发布2026 量产针对 RK3566/RK3576/RK3588 内置 NPU 带宽、内存不足无法流畅运行端侧大模型的痛点瑞芯微推出RK182X 系列 3D 堆叠内存 AI 协处理器是当前官方主推外置算力扩展方案。1. 核心硬件规格对比参数RK1820入门款RK1828主力量产款CPU3×64 位独立 RISC-V 内核3×64 位独立 RISC-V 内核NPU 算力20 TOPS INT820 TOPS INT8片上内存2.5GB 3D 堆叠高带宽 DRAM5GB 3D 堆叠高带宽 DRAM内存带宽100GB/s100GB/s支持模型上限0.5B~3B LLM/VLM0.5B~7B LLM/VLMQwen、LLaMA 系列高速接口双 PCIe2.0 USB3.0双 PCIe2.0 USB3.0支持 M.2 算力卡形态配套工具链RKNN3 SDK V1.0RKNN3 SDK V1.02. 两大工作模式模式一PCIe 协处理行业主流方案主控 SoCRK3566/RK3576/RK3588负责系统、视频编解码、基础视觉检测RK182X 独占大模型推理独立内存不占用主控带宽支持多芯片级联叠加算力。模式二独立运行次要自带 RISC-V 核心可独立运行 Linux单独作为离线 AI 模组多用于轻量化数字人终端。3. RK182X vs 老款 RK1808 核心升级点算力跨越式提升RK1808 仅 3TOPS仅支持 YOLO 等传统视觉RK182X 20TOPS 原生适配多模态大模型3D 堆叠专属内存RK1808 无独立大容量内存依赖主控共享内存带宽瓶颈严重RK182X 内置独立 DRAM大幅降低大模型推理延迟全新 RKNN3 软件生态RK1808 使用 RKNN Toolkit2RK182X 配套 RKNN3原生支持 Function Call、OpenAI API、LLM 深度优化多芯片扩展能力RK182X 支持多片堆叠扩容算力RK1808 无级联方案。4. 典型落地场景智能车载座舱RK3576M 车规主控 RK1828离线 7B 大模型语音交互、多模态座舱助手工业边缘 AI 盒子RK3588 外挂 RK1828多路视觉质检 本地图纸大模型识别人形机器人 / 数字人大小脑架构离线多模态对话、实时数字人渲染安防 IPC 主机多路视频摘要、本地识图检索分担主控内置 NPU 负载。5. 下一代产品预告RK1860瑞芯微规划 2026 年底推出旗舰协处理器 RK1860稠密算力 64TOPS搭载更大容量堆叠内存原生支持 13B 参数大模型面向高端边缘超算、L3 自动驾驶域控制器。SoC内置 NPU vs 独立 NPU 芯片RK1808/RK182X比项SoC 内置 NPURK3568/RK3588传统独立 NPURK1808新一代大模型协处理器RK182X集成度高一颗芯片搞定低主控 协处理器双芯片模块化算力卡灵活选配硬件成本最低中等偏高算力拓展专用内存带宽与 CPU/GPU 共享带宽共享主控内存带宽独立 3D 堆叠 DRAM专属高带宽算力区间1T - 6T固定 3T20T支持多芯片叠加适配模型轻 / 中度视觉算法传统工业视觉、小型检测3B~7B LLM/VLM 多模态大模型适合场景小型嵌入式、空间受限设备存量设备算力小幅升级大模型离线部署、多路高并发 AIAI应用场景与芯片匹配在消费类视觉展区瑞芯微芯片方案展现了强大的行业渗透力涵盖工业、智慧校园、智慧家居、智慧办公等从工业相机、宠物IPC、会议摄像头婴儿看护到各类创新形态的智能IPC内置丰富的AI功能如人形跟踪、哭声检测、手势识别等。多样化的视觉终端成果印证了瑞芯微的技术正广泛应用于各行各业实现了AI视觉技术的普惠与赋能。多款应用案例亮相场景推荐芯片算力选型理由电池 IPC、智能门铃RV1106B0.5T第二代 AOV4MP1FPS 待机 28mW经济型双目视觉、宠物看护RV1106 / RV11030.5T内置 DDR 的 QFN 封装高集成低成本语音唤醒RK35621T轻量算法成本可控人脸识别门禁RK35661T稳定实时运行 YOLOv5s中小型工业缺陷检测RK18083T独立视觉算力适配产线改造多路 AI 摄像主机、视觉盒子RK35886T三核多 NPU 核心支撑多路并发视觉通用经济型边缘视觉盒子RK35766T双核算力与硬件成本均衡性价比突出离线 3B 参数以内大模型终端RK182020T2.5GB 片上内存满足轻量大模型需求7B 多模态大模型、车载离线助手RK182820T5GB 大容量堆叠内存低延迟高输出RKNN工具链简介RK 全系 NPU 与 RK182X 协处理器分两代工具链RKNN Toolkit2传统视觉芯片、RKNN3RK182X 大模型专用。传统芯片RK3566/3588/RK1808工作流程训练框架 (PyTorch/TensorFlow/ONNX/Caffe)↓RKNN Toolkit2模型转换 量化↓RKNN 模型文件.rknn↓RKNN RuntimeC/C/Python API 部署↓NPU硬件推理RK182X 协处理器专属RKNN3 完整流程主流LLM/VLM训练框架↓RKNN3工具链大模型量化、RoPE/Function Call优化↓RKLLM3专用模型文件↓RKNN3 Runtime支持OpenAI API、多模型并行↓RK182X独立NPU推理量化选项性能对比模式精度精度损失速度提升Float16FP16极小一般INT8 量化INT8小1-3%实测参考快 2-4 倍INT4 量化INT4较大3-8%实测参考最快注量化精度损失和速度提升为第三方开发板实测汇总参考值非瑞芯微官方标准参数。官方 RKNN 文档仅给出定性结论“精度损失极小”、“INT4 损失更高”。总结梳理瑞芯微 NPU 与 AI 协处理器完整迭代路线RK3399Pro20193TOPS首款内置 NPU 的 SoC开启端侧 AIRK3566/6820211TOPSAI 算力下沉至入门低成本嵌入式主控RV1106/RV110320220.5TOPSINT4 可达 1.0 TOPS第 4 代自研 NPU 下沉到普惠型机器视觉端侧 AI 覆盖到电池类设备RK3588/35762023-20246 TOPS 旗舰内置 NPU支撑多路视觉并发RK1820/RK18282025 发布2026 量产20 TOPS 新一代 PCIe 协处理器3D 堆叠内存原生适配 3B~7B 端侧大模型实现主控与大模型算力解耦。算力要落到板子上算力路线图最终要落到一块能用的板子上。作为专业瑞芯微RK方案商触觉智能旗下核心板与开发板近乎覆盖RK全系列平台 —— 从 0.5 TOPS 的 RV1106到 6 TOPS 多路并发的 RK3588都有对应的核心板与配套底板可直接上手。每当瑞芯微推出一颗新芯片触觉智能都会跟随原厂同步推出配套方案SOM1106、SOM3562、SOM7609、SOM3588 等核心板已陆续量产配套 EVB 开发板、SDK/BSP 与本地 FAE 支持同步就绪帮助客户把从选型到量产的周期压到最短。从“看得清”到“看得懂”再到把大模型装进设备端触觉智能愿与瑞芯微一起把这些算力真正落进千行百业的产品里。