把 Strata 接进 Claude Code / Cursor：MCP 服务器让 AI 助手自己拉起本地推理

把 Strata 接进 Claude Code / CursorMCP 服务器让 AI 助手自己拉起本地推理【免费下载链接】StrataQwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.项目地址: https://gitcode.com/gh_mirrors/strata11/Strata过去两个月Strata 反复出现在 GitHub 日榜与各类「本地推理」话题里——12GB 显存跑 125B 参数的 Qwen3.8-Flash-Next、游戏显卡 40-50 token/s 实测、三天两头的新量化方案。但多数教程还停留在「人开终端、跑脚本、盯日志」的阶段。真正容易被忽略的是仓库里那个只有一份文件的能力tools/strata_mcp.py。它把 Strata 的安装、启动、停止、排障、压测整个生命周期暴露成 MCP 工具让 Claude Code、Cursor、VS Code Copilot 这些你已经在用的 AI 助手能用自然语言直接拉起一台本地推理服务。本文结合仓库源码讲清楚它的能力边界、接入配置、实际工作流以及这件事对 Strata 生态意味着什么。一个 MCP 服务器两个 MCP 方向先厘清一个仓库里反复出现的混淆点。Strata 里有两个 MCP 实现方向恰好相反serve/mcp.py 是 Strata 的MCP 客户端——运行在 Strata 自己的聊天页里让模型去调用你配置好的外部 MCP 服务器工具也就是「模型调你的工具」tools/strata_mcp.py 是MCP 服务器——反过来让 Claude Code、Cursor 这些 AI 助手来管理 Strata也就是「你的助手管模型」。文档 docs/MCP_SERVER.md 开头一句话点明了这个区别前者让 Strata 模型在你的聊天页调用工具后者是「你的助手管理 Strata」。这个方向设计很关键MCPModel Context Protocol在 Claude Code 生态里本来是让模型访问外部世界的通道Strata 却把它用成了「把 AI 助手变成推理服务管理员」的通道。你在 Claude Code 里打字模型自己调用工具去启动本地 125B 模型不需要你记住任何一条命令行。能力边界八个工具覆盖完整生命周期strata_mcp.py 是一个单文件实现只用 Python 标准库不需要任何第三方依赖Python 3.10 即可运行——这是刻意的设计它必须能在 setup 创建.venv之前就工作见文件头部注释与 docs/MCP_SERVER.md。协议上支持 2025-06-18、2025-03-26、2024-11-05 三个 MCP 修订版PROTOCOLS常量通过 stdin/stdout 走 stdio 传输逐行 JSON-RPC 2.0。它暴露 8 个工具几乎把「管理一台本地推理服务」这件事拆全了工具职责strata_status是否在运行、模型/引擎版本/上下文、忙闲状态、显存内存占用、已安装模型、进行中的安装、硬件信息与推荐strata_modelssetup 提供的全部家族与量化档位含下载体积、所需 RAM、是否适配本机strata_install后台运行 setup首次调用只出计划confirm: true才真正执行strata_start后台启动已安装模型并轮询就绪加载中返回 loadingstrata_stop先经 API 卸载模型再结束自己启动的服务进程strata_logs读取 server / engine / setup 三类日志的尾部strata_benchmark发固定请求实测 token/s10-60 秒strata_connect_info给出 OpenAI/Anthropic base URL、模型 id 及 Claude Code、Codex、OpenAI SDK、curl 等就绪配置每个工具的输出都带一行summary同时以文本和 MCP structured content 返回McpServer.content方法。tools/call是并发处理的工具调用跑在独立线程长任务如等待模型启动进行时 ping 和 status 仍能应答McpServer.serve。两个细节最能体现工程严谨度。其一是「只管理自己启动的进程」服务器在.strata-mcp/下记录每个子进程的 pid和启动时间proc_identity取 Linux/proc/pid/stat的 start time、Windows 用GetProcessTimes终止前两者必须同时匹配防止 pid 被系统复用到别的进程时误杀。对外部启动的 Strata比如用户自己开的窗口只通过 API 请求unload卸载模型绝不强杀。其二是参数校验check_schema按 JSON Schema 校验每个参数——未知参数、非 setup 选项的模型、非法的 gpus 值都会被拒绝唯一的路径参数data_dir必须是 Strata 数据目录、Strata 文件夹内部目录、或位于系统目录之外且名字以Strata开头的新目录check_data_dir拒绝相对路径与 UNC 路径杜绝任意文件写入。安装工具还复用了 setup 自己的逻辑它直接以模块方式导入setup.pysetup_module读取MODELS、FAMILIES、CONTEXTS三张表和 RAM 校验逻辑据此决定推荐档位——60GB 内存推 IQ3_XXS、约 44GB 推 Q2_0、约 28GB 推 Coder低于阈值时若 GPU 显存能补足则进入 low-RAM 模式recommend。setup.py 不可导入时还有一份内置回退表FALLBACK_MODELS并配套测试保证两张表一致tools/test_strata_mcp.py 的test_builtin_table_matches_setup。接入配置四个客户端的完整示例接入方式在不同客户端略有差异但核心命令只有一个python Strata 目录/tools/strata_mcp.pystdio 传输。docs/MCP_SERVER.md 为每个主流客户端给了现成配置。Claude Code命令行一条搞定--scope user可全局生效claude mcp add strata -- python C:\Users\you\Strata\tools\strata_mcp.py # Windows claude mcp add strata -- python3 /home/you/Strata/tools/strata_mcp.py # Linux之后在 Claude Code 里用/mcp即可确认连接状态。Cursor~/.cursor/mcp.json全局或项目内.cursor/mcp.json{ mcpServers: { strata: { command: python, args: [C:\\Users\\you\\Strata\\tools\\strata_mcp.py] } } }VS Code Copilot Agent 模式工作区.vscode/mcp.json或命令面板 MCP: Open User Configuration{ servers: { strata: { type: stdio, command: python, args: [C:\\Users\\you\\Strata\\tools\\strata_mcp.py] } } }Codex CLI~/.codex/config.toml注意加长工具超时因为 stop/benchmark 可能超过 60 秒[mcp_servers.strata] command python args [C:\Users\you\Strata\tools\strata_mcp.py] tool_timeout_sec 180Linux 下统一把python换成python3。若 MCP 服务器文件不在 Strata 目录内用--root 文件夹指定要管理的 Strata 目录。接入后可直接问「Strata 装好了吗」「帮我启动 Strata」「现在跑多快」这类自然语言指令。实际工作流AI 自己走完「装-启-测-连」四步把八个工具串起来就是一个完整的自动化闭环。服务器初始化时会在initialize响应里注入一段INSTRUCTIONS直接告诉模型怎么用这套工具先strata_status安装先出计划、经用户同意再confirm: true装完strata_start出问题看strata_logs要接其他应用用strata_connect_info。第一步安装。调用strata_install时首次返回的是计划而非执行——包含下载体积58-111GB具体取决于档位来自FALLBACK_MODELS的download_gb、剩余磁盘空间、RAM 检查结果和精确的 setup 命令。AI 助手应该把计划展示给用户得到同意后带confirm: true再调用一次。随后它作为后台进程运行 setup必要时先建.venv再执行setup.py --yes --no-start --family ... --model ... --context ... --vision ...输出落到.strata-mcp/setup.log。工具立刻返回再次调用能看到当前步骤共 7 步和下载百分比。已完成的步骤会跳过、下载可断点续传即使 AI 客户端关闭安装也会继续跑。第二步启动。strata_start执行与run-model脚本相同的命令——serve/server.py --engine strata --config strata-model.json --port N用 venv 的 Python不带--open不开浏览器、不弹控制台窗口输出进.strata-mcp/server.log。随后轮询GET /health直到模型应答。加载通常需要 1-3 分钟若超过wait_seconds默认 50 秒因为部分 AI 应用 60 秒会结束工具调用则返回 loading 状态让模型稍后再查。模型在 AI 客户端关闭后仍持续运行直到strata_stop。第三步状态与压测。strata_status从GET /health、/v1/status、/status老版本走/metrics聚合运行状态模型名、引擎版本、上下文、忙闲、显存内存占用还附带本机硬件OS、CPU、RAM、GPU、剩余磁盘与 setup 的推荐档位。strata_benchmark则发一个固定提示词贪婪解码、关思考实测输出 token/s 与 prompt token/s——这正好对应社区里反复出现的性能数字README 实测 RTX 5070 上 Q2_0 档 decode 94 token/s、prefill 2,650 token/sREADME.md。第四步接线。strata_connect_info会返回 OpenAI base URLhttp://127.0.0.1:8080/v1、Anthropic 端点/v1/messages以及 Claude CodeANTHROPIC_BASE_URL环境变量、Codex、OpenAI Python SDK、curl 的现成配置片段。模型据此就能把运行中的本地服务接进其他应用。这条链路最妙的一点是闭环Claude Code 既通过 MCP 管理 Strata又通过ANTHROPIC_BASE_URL指向 Strata 生成的本地 API见 docs/DETAILS.md 的 Claude Code 配置段——「AI 助手管推理服务推理服务反过来给 AI 助手当大脑」形成了双向依赖。MCP 化对 Strata 生态的意义把 MCP 服务器放进仓库并作为一等公民文档化docs/MCP_SERVER.md、README 的 Let your AI set it up 段落、docs/AI_SETUP.md 末尾的替代方案章节释放了三个信号。第一门槛从「会用命令行」降到「会说话」。社区教程普遍把 Strata 的部署描述为环境配置、量化流程、参数调优vram_budget、prefetch_depth、max_context_length的多步操作。MCP 服务器把最陡峭的部分——setup 的非交互调用、下载监控、加载等待——全部工具化参数选择交给 setup 自己的硬件检测与推荐逻辑。对非技术用户这可能是 Strata 从「发烧友玩具」走向「人人可装」的关键一跳。第二安全边界被显式设计。无 shell、无自由路径、只杀自己启动的进程、大下载必须二次确认、仅监听 127.0.0.1 不擅自开放网络——这套约束和 docs/AI_SETUP.md 给 AI 代理的行为准则一脉相承。在一个「AI 可以替用户操作本机」的新常态下这种把安全写进工具签名而非依赖模型自觉的做法值得同类项目参考。第三Strata 的定位从「推理引擎」升级为「本地 AI 基础设施」。有了 MCPStrata 不只是能跑 125B 模型的引擎而是能融入现有 AI 工具链的自治节点它自己检测硬件、自己选模型、自己安装、自己启动、自己汇报状态全程在一个你已经在用的 IDE 对话里完成。配合 README 里「你的应用和编码代理OpenAI 兼容 providerbase URL http://127.0.0.1:8080/v1」的接线方式一个「本地模型即服务、AI 助手即运维」的闭环已经成型。对普通开发者来说今天就可以体验把python tools/strata_mcp.py加进 Claude Code 或 Cursor然后对你的 AI 说一句「帮我在这台电脑上装好 Strata」——剩下的下载、编译、加载、接线都由它自己完成。【免费下载链接】StrataQwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.项目地址: https://gitcode.com/gh_mirrors/strata11/Strata创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考