一文读懂 Qwen3.6-35B-A3B_gpuep_1.0_gpu_128：vision.onnx、embedding.onnx、text.onnx 三个 ONNX 文件各干什么？完整解析

【免费下载链接】Qwen3.6-35B-A3B_gpuep_1.0_gpu_128项目地址https://ai.gitcode.com/hf_mirrors/amd/Qwen3.6-35B-A3B_gpuep_1.0_gpu_128点击查看免费下载Qwen3.6-35B-A3B_gpuep_1.0_gpu_128是 AMD 面向 Ryzen AI 硬件优化的多模态大语言模型仓库。打开目录后最醒目的是vision.onnx、embedding.onnx、text.onnx这三个 ONNX 推理文件。新手常会疑惑为什么一个模型要拆成三份它们各负责什么本文带你快速看懂每个 ONNX 文件的角色、输入输出以及三者如何协作完成一次图文推理。️ 先认识这个模型仓库这个仓库由 README.md 说明来源基于Qwen/Qwen3.6-35B-A3B用 Olive 和 OGA Model Builder 转换而来架构Qwen3_5MoeForConditionalGenerationMoE混合专家结构的图文多模态模型量化策略RTN 量化、Group 32、INT4 权重 FP16 激活视觉与嵌入部分保持fp16部署目标AMD GPU 上的 DMLDirectML推理引擎仓库中的三类关键文件类型文件作用推理引擎vision.onnx、embedding.onnx、text.onnx含同名.data权重文件模型计算主体运行配置genai_config.json、genai_config.json.dml告诉 ONNX Runtime GenAI 如何加载三个 ONNX 文件模型元数据config.json、processor_config.json、tokenizer_config.json网络结构、图像预处理参数、分词规则 每个.onnx旁边都有一个.data文件如 text.onnx.data。这是 ONNX 的外部初始化器机制网络结构存在.onnx里庞大的权重数据存在.data里两者必须放在一起才能加载。️ vision.onnx视觉编码器负责看图vision.onnx是模型的眼睛。它的职责是把图像像素变成模型能理解的特征向量。从 genai_config.json 的vision段可以看到它的接口输入pixel_values图像像素、image_grid_thw图像的网格尺寸信息输出image_features图像特征结合 config.json 的vision_config这个视觉塔有 27 层depth: 27图像会被切成 16×16 的小块patch_size: 16逐块编码相邻 2×2 的特征块再合并spatial_merge_size: 2。图像怎么变成pixel_values这一步由 processor_config.json 定义的预处理流水线完成解码为 RGB → 智能缩放默认 960×672 附近smart_resize→ 归一化均值/标准差均为 0.5→ 切块PatchImage。一句话vision.onnx 把一张图片翻译成一串图像语义交给后面的文本主干去理解。 embedding.onnx嵌入层负责把词和图片拼成向量embedding.onnx是模型的翻译中枢。它解决一个关键问题文本 token 和图像特征来自两个世界怎么放进同一个序列里genai_config.json 中embedding段的接口非常说明问题输入input_ids文本词元 idimage_featuresvision.onnx 的输出输出inputs_embeds融合后的输入嵌入序列工作流程是把input_ids查表变成词向量再在序列中|image_pad|占位处塞入图像特征产出一条完整的inputs_embeds交给解码器。词表大小为 248320见 config.json 的vocab_size。一句话embedding.onnx 是拼接车间——纯文本对话时它只做词嵌入带图片时它把图片特征缝合进文本序列。 text.onnx文本主干负责思考和生成text.onnx是仓库里最核心的部分——语言模型解码器本体模型的大脑。从 genai_config.json 的decoder段可以看到输入inputs_embeds、attention_mask、position_ids以及 40 层的 KV 缓存past_key_values.%d.key/value输出logits下一个 token 的预测分数 更新后的 KV 缓存规模40 层隐藏层、16 个注意力头、2 个 KV 头、head_size: 256结合 config.json 的文本配置这是一台参数规模可观的 MoE 机器256 个专家、每个 token 只激活 8 个num_experts_per_tok: 8并混合使用线性注意力与全注意力层layer_types中每 4 层出现一次full_attention。所谓 35B-A3B就是指总参数约 35B、激活参数约 3B——推理快、显存省。它还支持最长 262144256K的上下文max_position_embeddingsgenai_config.json 中的context_length即此值。⚙️ 三者如何协作一次推理的完整旅程把三个 ONNX 文件串起来就是一次多模态推理的流水线预处理图像经 processor_config.json 流水线变为pixel_values文本由分词器tokenizer.json、tokenizer_config.json变为input_ids图片位置插入|image_pad|占位符模板见 chat_template.jinja看图vision.onnx将像素编码为image_features融合embedding.onnx把词向量与图像特征拼成inputs_embeds生成text.onnx循环预测下一个 token输出logits直到遇到结束符generation_config.json 定义了top_k: 20、top_p: 0.95等采样参数图像 ──▶ vision.onnx ──▶ image_features ─┐ ├──▶ embedding.onnx ──▶ inputs_embeds ──▶ text.onnx ──▶ logits ──▶ 回复文字 文本 ──分词──▶ input_ids ─────────────────┘ 部署细节DML 与两份配置genai_config.json 中decoder的provider_options为{dml: {}}表示解码器跑在 DirectMLGPU上而 embedding 和 vision 的provider_options为空说明它们跑在 CPU 上。这是典型的重计算放 GPU、轻计算放 CPU的拆分部署思路。genai_config.json.dml 是 DML 专用变体区别在于把context_length从 262144 收紧到4096适合显存受限的设备快速跑通。model_config.json 记录了vision.onnx的导出信息Olive 导出路径、ONNX 文件名等。❓ 常见问题 FAQQ1只跑纯文本对话vision.onnx 会被加载吗配置上三个组件由引擎按需调度纯文本场景下视觉链路没有数据可处理embedding.onnx直接以input_ids完成词嵌入vision 分支不参与计算。Q2.onnx文件旁边的小.data文件是什么是权重数据文件。ONNX 支持把大张量外部化存储加载.onnx时必须同时提供对应.data移动文件时两者要一起搬。Q3为什么用 INT4 量化RTN Group 32 的 INT4 权重量化把模型体积和内存带宽压力降到可用范围使其能在 AMD 消费级 GPU 上运行FP16 激活则尽量保住精度详见 README.md 的 Quantization Strategy 一节。 总结三个文件各司其职文件角色比喻输入输出vision.onnx眼睛 ️pixel_values、image_grid_thwimage_featuresembedding.onnx翻译中枢 input_ids、image_featuresinputs_embedstext.onnx大脑 inputs_embeds、KV 缓存logits 新 KV 缓存理解了视觉编码 → 嵌入融合 → 解码生成这条主线再看到任何多模态模型的 ONNX 拆分方案你都能一眼看清每个文件在整条流水线中的位置。赞分享【免费下载链接】Qwen3.6-35B-A3B_gpuep_1.0_gpu_128项目地址https://ai.gitcode.com/hf_mirrors/amd/Qwen3.6-35B-A3B_gpuep_1.0_gpu_128点击查看免费下载相关推荐一文读懂IndexTTS-1.5-MLX仓库的6个文件gpt.safetensors、BigVGAN、DVAE与文本前端各管什么一文读懂IndexTTS 1.5 MLX仓库的6个文件gpt.safetensors、BigVGAN、DVAE与文本前端各管什么 IndexTTS 1.5 M一文读懂 Qwen1.5-7B-Chat_rai_1.8.0_medusa_1.0_npu 命名Qwen、RAI、Medusa、NPU 到底各代表什么一文读懂 Qwen1.5 7B Chat_rai_1.8.0_medusa_1.0_npu 命名Qwen、RAI、Medusa、NPU 到底各代表什么 Qw人工智能大模型模型优化QwenNVFP4量化到底是什么Qwen3.6-35B-A3B-NVFP4项目完整入门指南NVFP4量化到底是什么Qwen3.6 35B A3B NVFP4项目完整入门指南 如果你听说过大模型瘦身那 NVFP4 量化就是目前最前沿的方案之一。上一篇Chopper性能监控与调试网络请求追踪和性能分析工具终极指南下一篇TDesign Miniprogram Checkbox 多选框组件指南完整 API 解析、源码联动原理与实战用法创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考