InferenceX代码仓库导览：infx包目录结构与核心模块阅读地图（附任务路由表）

人工智能大模型模型评测Agent 评测【免费下载链接】InferenceXOpen Source AI Accelerator Research Platform Standard / 开源推理研究平台项目地址https://gitcode.com/gh_mirrors/in/InferenceX点击查看免费下载InferenceX 是一个开源的 LLM 推理基准平台开源推理研究平台持续追踪 vLLM、SGLang 等主流推理框架在最新硬件上的真实性能。它内部的infx包位于inferencex-e2e/infx/承担了配置、矩阵生成、任务启动与结果加工四大职责。本文用一张目录地图和一份任务路由表帮新手 10 分钟读懂 infx 包的每个核心模块快速建立代码导览路径。一、先建立全局观infx 包在平台中的位置 InferenceX 仓库按子项目组织infx属于端到端基准子项目inferencex-e2e/的 Python 工具包目录职责inferencex-e2e/端到端推理服务基准infx 包所在地collectivex/集合通信/网络基准operatorx/算子与 Kernel 级基准power_model/系统级功耗建模experimental/实验性负载从 pyproject.toml 可以看到infx是一个可安装的独立 uv 包Python ≥ 3.12核心依赖只有pydantic和pyyaml——也就是说它无需 GPU、无需安装推理框架就能运行是一个纯调度与数据处理工具链。整条流水线可以概括为 7 个阶段详见 docs/architecture.md配置master YAML runners.yaml 声明测什么、在哪测校验与矩阵生成infx.matrix把声明展开成可执行的 JSON 矩阵工作流分发GitHub Actions 按矩阵扇出任务启动器执行infx.launch把逻辑任务落到物理集群基准与评测输出infx.bench在容器内执行测量客户端产物收集infx.results聚合成标准工件入库与展示InferenceX-app 消费工件刷新仪表盘二、infx 包目录结构速览 ️infx/ ├── config.py # 仓库默认路径master 配置、runners.yaml ├── github.py # GitHub REST 与评论交互原语 ├── matrix/ # 配置 schema 校验 矩阵生成规划部 │ ├── generate.py # full-sweep / test-config 展开 │ ├── plan.py # changelog 选择 分桶 │ ├── validation.py # Pydantic 严格 schema │ └── revision.py # 用历史版本的生成器读历史配置 ├── launch/ # 任务启动器调度部 │ ├── request.py # 从环境变量解析启动请求 │ ├── policy.py # 路由到具体驱动 │ ├── drivers/srt/ # srt-slurm 配方驱动10 个模块 │ └── backends/slurm/ # Slurm 调度后端 ├── bench/ # 容器内客户端测量部 │ ├── __main__.py # wait / fixed-seq / agentic / eval │ ├── agentic/ # AgentX 长上下文多轮重放 │ └── eval/ # lm-eval 与厂商评测运行 ├── bench_serving/ # 服务吞吐基准客户端约 1300 行 ├── results/ # 结果加工报表部 │ ├── collect_results.py # 吞吐结果聚合 │ ├── fixed_sequence.py # 固定序列 build_result │ ├── agentic/ # AgentX 请求/服务端指标 │ └── power/ # 功耗遥测引擎 ├── workflows/ # GitHub CI 协作复用、签核、晋级 ├── evals/ # 评分阈值与评测适配含 EVALS.md ├── clusters/ # 集群记录的 Pydantic 模型 ├── datasets/ # AgentX 轨迹采样与数据集构建 ├── golden_al_distribution/# 投机解码黄金接受长度曲线 ├── klaud/ # 自动 sweep 编排 ├── srt_slurm/ # 单节点配方绑定 └── tests/ # 与源码同层的完整测试套件每个模块的__init__.py都刻意保持极简导入infx不会加载任何基准或评测依赖——这是一个值得学习的设计。三、核心模块逐个读每个目录管什么1.matrix/—— 配置校验与矩阵生成这是规划部回答**这次要跑哪些基准点**。validation.py 用 Pydantic 严格模型定义 master 配置与 runners 数据的合法形状未知字段直接报错、跨字段互斥规则等generate.py 把声明展开为具体并发点、默认并行度、实验名、评测标记plan.py 读取 perf-changelog.yaml 的追加条目把选中配置分桶为single_node/multi_node/evals/agentic_evals等revision.py 保证历史配置只能用历史版本的生成器解释避免格式演进破坏旧数据。常用命令python -m infx.matrix.plan规划、python -m infx.matrix.generate test-config --config-keys key只生成单个配置点做验证。2.launch/—— 任务启动器调度部回答**如何在物理集群上跑起来**。入口是 launch/main.py提供run与cleanup两个子命令request.py 从 CI 环境变量解析出LaunchRequestpolicy.py 决定走哪条驱动路径drivers/srt/ 处理 srt-slurm 配方含lanes.py分道规则、models.py模型别名、collect.py结果抓取backends/slurm/ 负责 Slurm 作业提交、镜像 stage 与清理。设计上有一条铁律驱动代码永不按集群 id 分支集群事实分区、卷、squash 缓存全部记录在 configs/runners.yaml 的clusters:段。3.bench/与bench_serving/—— 容器内测量客户端测量部真正发起请求、等待服务就绪的地方。bench/main.py 只登记了 4 个子命令子命令用途wait等待推理服务器就绪fixed-seq固定序列吞吐基准客户端agenticAgentX 长上下文、多轮轨迹重放eval运行 lm-eval 与厂商评测核心的服务吞吐客户端在 bench_serving/benchmark_serving.py配套 backend_request_func.py请求后端抽象与 benchmark_outcome.py结果判定。4.results/—— 结果加工报表部把原始 JSON 变成仪表盘可消费的工件。collect_results.py 聚合成results_bmk/agg_bmk.jsonfixed_sequence.py 暴露纯函数build_result不做文件 I/O方便复用results/agentic/ 处理 AgentX 请求指标、服务端指标与每卡吞吐results/power/ 是功耗遥测引擎多节点校验、窗口积分、审计。架构文档强调工件 JSON 是仓库边界——生产端只保证名字对、格式对解释权交给 InferenceX-app。5.workflows/—— CI 协作逻辑处理绿色 sweep 复用、PR 签核、结果晋级等 GitHub 侧流程核心文件包括 reuse.py复用验证、signoff_publish.py签核发布、benchmark_schema.py扇出前预检坏数据在烧 GPU 之前就被拦下、ci_priority.pyCI 优先级标注。6.evals/与其他支撑模块evals/EVALS.md 是评测的完整契约选哪些点跑 gsm8k/gpqa、分数门槛在 thresholds.yaml 中维护clusters/ 为每个调度器提供类型化集群记录模型datasets/ 负责 AgentX 轨迹采样与数据集组装golden_al_distribution/ 收录投机解码的黄金接受长度曲线保证跨引擎对比公平附中文说明klaud/ 是自动 sweep 编排候选选择、容量检查、生命周期管理config.py 与 github.py 是全包共享的路径与 API 基础设施。四、任务路由表 新手照着查就行官方文档 docs/index.md 本身就是一张低上下文路由器这里给出针对 infx 包的高频版本我想做的事先看这里再深入新增一个模型 / GPU 基准configs/CONFIGS.mdnvidia-master.yaml、matrix/generate.py验证某个配置点能否生成python -m infx.matrix.generate test-configmatrix/validation.py理解一次 PR sweep 如何被触发docs/ci-procedures.mdworkflows/ci_priority.py读懂启动流程docs/architecture.md Stage 4launch/policy.py修改容器内客户端python3 -m infx.benchbench/fixed_seq.py调试评测分数evals/EVALS.mdevals/validate_scores.py排查结果缺失docs/recovery-results-procedures.mdresults/collect_results.py复用一次绿色 sweepdocs/ci-procedures.mdworkflows/reuse.py给集群加新调度器clusters/base.pylaunch/backends/ 注册表架构文档还提供了一个 11 步追踪单条结果清单配置 → 选择 → 校验 → 矩阵 → 调度 → 运行时 → 输出 → 收集 → 分发 → 入库 → 展示是排查结果为什么少了/错了的终极手册。五、建议的新手阅读顺序 docs/index.md—— 任务路由器先学会按任务找文档docs/architecture.md—— 7 阶段流水线与所有权边界configs/CONFIGS.md 任一 master YAML —— 理解声明式配置infx/matrix/—— 声明如何变成可执行矩阵infx/launch/—— 矩阵如何落到集群infx/bench_serving/—— 请求如何发出、指标如何产生infx/results/—— 结果如何聚合并交给仪表盘。配合 infx/tests/ 中每个模块都有同名测试的组织方式读一个模块时可以顺手跑对应的测试验证自己的理解。六、小结infx 包的设计哲学可以浓缩为三句话配置声明与执行机制分离master YAML 管测什么集群记录管怎么跑、每个模块只拥有自己的边界矩阵归 matrix、启动归 launch、报表归 results、一切交接都靠 JSON 契约。抓住这三点再加上本文的任务路由表你就能在 InferenceX 代码仓库中快速定位任意一个改动该落在哪个文件。赞分享人工智能大模型模型评测Agent 评测【免费下载链接】InferenceXOpen Source AI Accelerator Research Platform Standard / 开源推理研究平台项目地址https://gitcode.com/gh_mirrors/in/InferenceX点击查看免费下载相关推荐Astro 源码仓库导读从安装方式到 Monorepo 包目录与核心源码结构Astro 源码仓库导读从安装方式到 Monorepo 包目录与核心源码结构 本文以仓库根目录的 README.md https://link.gitcode前端Web框架SSR前端构建OpenRCT2 源码目录结构完全指南libopenrct2 核心库模块地图OpenRCT2 源码目录结构完全指南libopenrct2 核心库模块地图 本指南以仓库内 src/openrct2/readme.md https://l游戏开发图形学Resume Matcher 面向 Agent 的文档导航体系代码库结构、核心文档索引与任务驱动阅读路径Resume Matcher 面向 Agent 的文档导航体系代码库结构、核心文档索引与任务驱动阅读路径 Resume Matcher 是一个用于根据职位描述AI 应用人工智能大模型后端前端创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考