在 AIRI 中接入 Groq:为“意识“配置高速 OpenAI 兼容聊天服务商

发布时间:2026/9/12 14:23:45
在 AIRI 中接入 Groq:为“意识“配置高速 OpenAI 兼容聊天服务商
在 AIRI 中接入 Groq为意识配置高速 OpenAI 兼容聊天服务商【免费下载链接】airi Self hosted, you-owned Grok Companion, a container of souls of waifu, cyber livings to bring them into our worlds, wishing to achieve Neuro-samas altitude. Capable of realtime voice chat, Minecraft, Factorio playing. Web / macOS / Windows supported.项目地址: https://gitcode.com/GitHub_Trending/ai/airiGroq 提供与 OpenAI 格式兼容的聊天 API以极低的推理延迟著称。本文是 AIRI 项目的 Groq 服务商配置指南围绕官方手册中的 Groq 页面展开完整覆盖从获取 API Key、在设置 → 服务商中填入凭据、验证配置到常见问题排查的实战流程并深入到 AIRI 的 provider 注册与校验源码说明 Groq 在意识模块中的接入原理。读完本文你将能够在 AIRI 中独立完成 Groq 的接入、验证与模型选择让 AIRI 的对话意识跑在 Groq 的低延迟推理上。为什么选择 Groq在 AIRI 中接入聊天服务商本质上是为它的意识consciousness模块挑选一个能理解并生成对话的大脑。AIRI 支持数十个云端与本地服务商见 服务商注册表每个服务商都有不同的延迟、价格与模型生态。如果你重视对话响应速度并且目标模型在 Groq 中可用可以尝试此服务商。Groq 的 LPULanguage Processing Unit推理平台以极低的 token 输出延迟著称非常适合对首字响应TTFT敏感的实时对话场景——这与 AIRI 强调实时语音对话的产品定位天然契合。从实现层面看Groq 是 AIRI 中标准的 OpenAI 兼容服务商它不引入任何私有协议而是复用createOpenAI工厂与 OpenAI 兼容校验器这保证了接入流程的简单与可预测。第一步获取 API 密钥Groq 使用 API Key 进行身份认证获取方式如下打开 Groq 控制台console.groq.com。在API Keys页面创建一个新的 API Key。复制密钥并妥善保存。::: warning API Key 安全 不要将 API Key 提交到仓库、放入截图或发送给他人。密钥泄露后请立即在 Groq 控制台撤销它并创建新密钥。AIRI 的凭据保存在当前设备的本地设置中切勿在截图、日志、Issue 或聊天记录中公开 API Key。 :::第二步在 AIRI 中配置 Groq获取密钥后在 AIRI 中完成以下三步打开设置 → 服务商 → 聊天 → Groq。将 API Key 粘贴到基础设置中。保留默认 Base URLhttps://api.groq.com/openai/v1。从源码看 Groq 的配置结构在 AIRI 的 provider 实现 packages/provider-inference/src/providers/cloud/groq/index.ts 中Groq 的配置 schema 只有两个字段const groqConfigSchema z.object({ apiKey: z.string(API Key), baseUrl: z .string(Base URL) .optional() .default(https://api.groq.com/openai/v1/), })apiKey必填的访问令牌对应设置页中的 API Key 字段。在 UI 中它以type: password的密码框形式呈现index.ts避免密钥在界面上明文展示。baseUrl可选默认值为https://api.groq.com/openai/v1/源码中带尾部斜杠文档与设置页中显示时可能省略两者等价。只有当 Groq 官方文档明确要求变更时才需要修改。Groq 的服务商定义继续看 groq/index.tsGroq 被声明为id: groq全局唯一标识注册表靠它来路由配置与请求tasks: [chat]即仅用于聊天任务不承担 TTS/ASRcapabilities.chat.reasoning支持enabled/disabled两种推理模式开启时请求会附加reasoningEffort: medium关闭时为noneicon: i-lobe-icons:groq在设置页中显示 Groq 品牌图标。该定义通过defineProvider注册并随 portableProviderDefinitions 一起导出。注册表registry.ts会对所有 provider 按order与名称排序并保证id唯一——这保证了意识设置页中服务商列表的稳定与确定性。OpenAI 兼容的底层实现createProvider内部通过createOpenAI(config.apiKey, config.baseUrl)构造请求客户端groq/index.ts这意味着 AIRI 与 Groq 之间走的是标准 OpenAI Chat Completions 协议无需任何供应商专用 SDK。这也解释了为什么配置只需要 API Key 与 Base URL 两个字段。第三步验证配置配置完成后通过验证来确认一切就绪Ping API点击此按钮测试网络是否连通以及 API Key 是否填写正确。选择模型测试成功后点击此处选择你想要使用的具体模型。验证过程在源码中做了什么Groq 复用了createOpenAICompatibleValidatorsvalidators/openai-compatible.ts并启用了ModelList与ChatCompletions两项检查groq/index.ts。点击验证时实际执行了三类检查配置检查check-config校验 API Key 非空、Base URL 为合法的绝对 URL。Base URL 必须是https://或http://开头的完整地址否则直接判定为无效。连接检查check-connectivity向${baseUrl}/models发起带Authorization: Bearer apiKey头的 GET 请求超时 10 秒。这对应界面上的Ping API按钮——它验证的是网络连通性与密钥有效性而非真正发起对话。聊天完成检查check-chat-completions调用generateText发送一条user: ping的探测消息openai-compatible.ts并携带max_tokens: 16的输出上限。该检查会消耗少量 Groq 额度且结果会被缓存以避免重复扣费。Groq 模型列表由/models接口实时拉取因此选择模型下拉中的选项始终与服务商当前可用模型保持一致。在意识中选择 Groq 模型验证通过后还需要在意识页面完成最后一步启用打开设置 → 意识。选择服务商Groq与刚才验证过的具体模型。注意仅保存服务商凭据不会自动启用 Groq。必须在意识页面同时选中服务商和模型AIRI 的对话才会真正走 Groq 通道。Groq 官方文档会列出形如llama-3.3-70b-versatile、llama-3.1-8b-instant等精确模型 ID。建议优先从 AIRI 下拉列表中选择若列表加载失败可在意识页面手动输入Groq 提供的精确模型 ID——模型 ID 必须与服务商文档完全一致展示名称不是模型 ID。排查指南Ping API 失败按以下顺序排查确认账户已开通 Groq 服务且有可用额度免费额度过期或超额会返回 429/403。重新复制 API Key检查是否带有多余的空格或换行密钥泄露后及时在控制台撤销并重建。将 Base URL 恢复为https://api.groq.com/openai/v1并与 Groq 官方文档逐字核对。确认网络、代理和防火墙允许访问api.groq.com——连接检查对 5xx 状态码与网络错误都会报Connectivity check failedopenai-compatible.ts。模型列表无法加载如果选择模型下拉为空先确认 API Key 拥有模型列表权限部分服务商不提供模型列表或密钥权限受限。此时可在意识页面手动输入Groq 提供的精确模型 ID。验证报错时对照源码提示API key is required.apiKey 为空或被 trim 后为空check-config。Base URL is invalid. It must be an absolute URL.Base URL 不是合法绝对地址。No model available for validation.模型列表为空且未配置手动模型需要先在意识页填入模型 IDopenai-compatible.ts。延伸阅读服务商配置通用说明字段含义、验证结果与排查顺序的完整介绍。配置聊天模型LLM如何在意识中选择服务商与模型。Groq 服务商源码配置 schema、能力声明与 OpenAI 兼容校验器的完整实现。OpenAI 兼容校验器Ping API 与模型列表检查的底层逻辑。【免费下载链接】airi Self hosted, you-owned Grok Companion, a container of souls of waifu, cyber livings to bring them into our worlds, wishing to achieve Neuro-samas altitude. Capable of realtime voice chat, Minecraft, Factorio playing. Web / macOS / Windows supported.项目地址: https://gitcode.com/GitHub_Trending/ai/airi创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考