Label Studio 支持的基座模型Base Models全解析Provider 模型清单、接入模式与源码实现【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio本文围绕 Label Studio 官方文档中的“Supported base models支持的基座模型”清单展开系统梳理 OpenAI、Gemini、Vertex AI、Anthropic、Azure OpenAI、Azure AI Foundry 与 Custom 七大模型提供方各自支持的基座模型范围并结合仓库中的模型提供方配置文档与ModelProviderConnection源码实现讲清楚“组织级 Provider 连接”与“按模型添加 API Key”两种接入模式的差异以及接入后基座模型在 Prompts 等 AI 工作流中的实际作用。读完本文你将能够按企业实际环境正确选择 Provider、配置密钥并理解底层数据模型对密钥、预算与权限的管理方式。一、什么是“基座模型”它在 Label Studio 中的角色在 Label Studio 的 AI 能力体系中“基座模型base model”指的是通过模型提供方Model Provider接入、供上层 AI 工作流直接调用的大语言模型。它有两个典型应用场景Prompts提示词工作流用户在起草 Prompt 时从“基座模型”下拉框中选择要执行提示词的具体模型见 prompts_draft。一旦组织内通过 API Key 添加了某个模型任何拥有 Prompts 功能访问权限的成员都可以在执行提示词时选用该模型。组织级 AI 功能在Organization Settings中配置的模型提供方可为整个组织范围内的 AI 工作流所用例如配合Chat标签与 LLM 交互。需要注意的是这些模型不用于Label Studio 的 AI Assistant。从源码结构看模型提供方功能对应独立的应用模块 label_studio/ml_model_providers其 README 明确指出ModelProviderConnection用于持有 LLM 提供方的 API Key可归属于某个用户或某个组织——这正是“基座模型接入”在后端的落地载体。二、支持的基座模型完整清单下表完整收录官方文档 includes/base_models.md 中声明的 Provider 与模型对应关系该清单同时被 model_providers.md 与 prompts_keys.md 两处文档引用是组织级与 Prompts 级配置共用的权威清单Provider支持的模型OpenAIgpt-5-2、gpt-5.1、gpt-5、gpt-5-mini、gpt-5-nanoGeminigemini-2.5-pro、gemini-2.5-flash、gemini-2.5-flash-lite、gemini-2.0-flash、gemini-2.0-flash-liteVertex AIgemini-2.5-pro、gemini-2.5-flash、gemini-2.5-flash-lite、gemini-2.0-flash、gemini-2.0-flash-liteAnthropicclaude-3-5-haiku-latest、claude-3-5-sonnet-latest、claude-3-7-sonnet-latestAzure OpenAIAzure OpenAI 的基于聊天的模型chat-based models。注意官方建议不要使用 GPT 3.5 系列模型因为它们有时容易出现限流rate limit错误并且不兼容图像数据Azure AI Foundry支持 Azure AI Foundry 的全部模型Custom自定义 LLMCustom LLM阅读该表时需要注意几点Gemini 与 Vertex AI 的模型集合一致两者都可选用 gemini-2.5 / gemini-2.0 系列模型区别在于接入方式Gemini 使用 Gemini API KeyVertex AI 使用 Google Cloud 的 JSON 凭据文件。Azure OpenAI 的模型范围是动态的清单以官方 Azure 模型文档为准而非固定列举。官方特别提示避开 GPT 3.5理由是限流风险高且不支持图像数据。Custom 属于开放接入只要满足兼容性要求任何自托管或微调模型都可接入详见下文“自定义 LLM 的接入标准”。三、两种接入模式组织级连接与按模型添加 Key依据 model_providers.md 与 prompts_keys.md 两篇文档Label Studio 提供两种添加模型提供方 API Key 的方式模式一每个组织一份 Provider 连接获得一组白名单模型适用范围OpenAI、Vertex AI、Gemini、Anthropic。特点一个组织只能持有一个该 Provider 的 Key凭此 Key 即可访问该 Provider 的全部白名单基座模型即上文清单中对应的模型组。模式二为每个模型单独添加 API Key适用范围Azure OpenAI、Azure AI Foundry、Custom。特点Key 与具体模型/部署绑定一个模型对应一个 Key。两种模式在数据模型上的对应上述两种模式在后端ModelProviderConnection中有直接体现。查看 label_studio/ml_model_providers/models.py 可以确认枚举ModelProviders定义了全部 ProviderOpenAI、AzureOpenAI、AzureAIFoundry、VertexAI、Gemini、Anthropic、Custom枚举ModelProviderConnectionScopes定义了三种作用域Organization组织、User用户、Model模型——其中Organization对应“模式一”的组织级连接Model对应“模式二”的按模型连接模型的scope字段默认值为Organization并通过外键organization关联组织、通过created_by关联创建者。从该模型还可以看到一条 Provider 连接不仅保存api_key与可选的auth_token还针对不同 Provider 预留了专用字段Azure OpenAI 的deployment_name与endpoint、Vertex AI 的google_application_credentialsGOOGLE_APPLICATION_CREDENTIALSJSON 文件内容、google_project_id与google_location以及用于缓存模型列表的cached_available_models。此外它还内建了预算管理能力budget_limit、budget_total_spent、budget_alert_threshold、budget_reset_period等字段以及has_reached_budget_limit()方法便于组织对模型调用成本进行管控。四、各 Provider 的配置要点完整的分 Provider 配置指引见 includes/model_keys.md此处提炼关键要点。4.1 OpenAI、Gemini、Vertex AI、Anthropic组织级连接这四类 Provider 都遵循“每组织一个 Key、解锁一组白名单模型”的规则OpenAI在 OpenAI 平台创建账号并获取 API Key一个组织仅允许一个 OpenAI Key。Gemini获取 Gemini API Key 后添加即可一个组织仅允许一个 Gemini Key。Vertex AI需要先生成 JSON 格式的凭据文件即GOOGLE_APPLICATION_CREDENTIALS该 JSON 凭据为必填项同时可可选提供 Google Cloud 项目 IDproject ID与区域location。Anthropic获取 Anthropic API Key 后添加一个组织仅允许一个 Anthropic Key。4.2 Azure OpenAI按模型连接Azure OpenAI 的每个 Key 都绑定一个具体部署deployment而每个部署只包含一个 OpenAI 模型。因此若要通过 Azure 使用多个模型需要为每个模型分别创建部署再在 Label Studio 中为每个部署添加一个 Key添加 Key 时需要提供三个字段 | 字段 | 说明 | | --- | --- | |Deployment部署名| 部署名称默认与模型名相同但创建部署时可自定义。若两者不同必须使用部署名而非底层模型名 | |Endpoint| Azure 提供的目标 URI | |API key| Azure 提供的密钥 |这些信息都可以在 Azure OpenAI Studio 中该部署的Details详细信息区域找到。4.3 Azure AI Foundry按模型连接使用 Azure AI Foundry 的模型目录model catalog完成模型部署后在已部署模型的Details详细信息页面获取连接信息所需内容位于Endpoint之下添加 Key 时需要提供三个字段 | 字段 | 说明 | | --- | --- | |Model模型名| 随端点信息一并提供的模型名称参数 | |Endpoint| AI Foundry 提供的Target URI| |API key| AI Foundry 提供的Key|4.4 自定义 LLMCustom你可以接入自托管或微调模型前提是满足以下硬性条件服务端必须支持 JSON 模式API 需接受response_format且type为json_object并提供合法的 JSON Schema即形如{response_format: {type: json_object, schema: schema}}的请求体服务端 API 必须遵循 OpenAI 的 Chat 接口格式尤其是response_format参数。官方文档给出的兼容示例包括 Ollama 与 sglang 等支持 OpenAI 兼容 API 的方案。添加自定义模型时需要填写Name模型名称Endpoint URL模型端点例如https://my.openai.endpoint.com/v1注意v1后缀通常为必需API key可选绑定到具体账号的密钥组织内共享访问权限Auth token可选在服务器层面提供 API 访问的令牌。Ollama 接入示例启动 Ollama 并拉取模型例如ollama run llama3.2验证本地 OpenAI 兼容 API 可用例如http://localhost:11434/v1创建一个对外可达的端点将https://my.openai.endpoint.com/v1映射到http://localhost:11434/v1在 Label Studio 中添加连接Namellama3.2必须与 Ollama 中的模型名一致Endpointhttps://my.openai.endpoint.com/v1v1后缀是必需的API keyollama默认值Auth token留空Hugging Face Inference Endpoints 接入示例选用 DeepSeek 等模型例如deepseek-ai/DeepSeek-R1在API Keys中添加CustomProviderNamedeepseek-ai/DeepSeek-R1Endpointhttps://router.huggingface.co/together/v1API keyyour-hf-api-keyAuth token留空五、配置权限与网络注意事项谁能配置只有拥有组织设置访问权限的用户Owner 与 Admins可以添加和配置模型配置完成后组织内所有正在使用 AI 工作流的成员都可使用这些 Provider。这与源码中ModelProviderConnection.has_permission()的实现一致——该方法要求用户为管理员administrator、所有者owner或管理者manager且其active_organization_id必须与该连接所属组织一致见 models.py。网络白名单如果你的资源限制了网络访问配置网络安全时可能需要将 HumanSignal 的 IP 地址加入白名单SaaS 环境的出站连接 IP 范围见 saas 一节。Prompts 与组织级配置互通在 Prompts 页面右上角API Keys按钮打开Model Provider API Keys窗口添加的模型会自动出现在组织级 Provider 中反之亦然添加 Key 后所有受支持的模型都会出现在起草 Prompt 时的基座模型下拉框中。六、配置后的效果与适用边界使用入口配置完成后在 prompts_draft 的基座模型下拉框、或组织级 AI 工作流中即可选用对应模型。适用边界本文所述模型提供方配置面向 Label Studio Enterprise 中的 AI 特性Prompts、组织级 Provider 等且明确不适用于 AI Assistant 功能同时 Azure OpenAI 场景下应避免选用 GPT 3.5 系列模型。清单时效性OpenAI / Gemini / Vertex AI / Anthropic 的具体模型清单以 base_models.md 当前收录版本为准Azure 系 Provider 的可用模型以官方模型目录为动态来源实际可用范围取决于你的 Azure 订阅与部署。综上Label Studio 的基座模型接入采用“Provider 连接 模型白名单”的灵活架构主流 Provider 走组织级单 Key 连接Azure 系与自托管模型走按模型单 Key 连接后端统一由ModelProviderConnection承载密钥、作用域、可选预算与权限校验。据此你便可以在企业环境中按需、安全且可控地接入 LLM 能力。【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
Label Studio 支持的基座模型（Base Models）全解析：Provider 模型清单、接入模式与源码实现
Label Studio 支持的基座模型Base Models全解析Provider 模型清单、接入模式与源码实现【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio本文围绕 Label Studio 官方文档中的“Supported base models支持的基座模型”清单展开系统梳理 OpenAI、Gemini、Vertex AI、Anthropic、Azure OpenAI、Azure AI Foundry 与 Custom 七大模型提供方各自支持的基座模型范围并结合仓库中的模型提供方配置文档与ModelProviderConnection源码实现讲清楚“组织级 Provider 连接”与“按模型添加 API Key”两种接入模式的差异以及接入后基座模型在 Prompts 等 AI 工作流中的实际作用。读完本文你将能够按企业实际环境正确选择 Provider、配置密钥并理解底层数据模型对密钥、预算与权限的管理方式。一、什么是“基座模型”它在 Label Studio 中的角色在 Label Studio 的 AI 能力体系中“基座模型base model”指的是通过模型提供方Model Provider接入、供上层 AI 工作流直接调用的大语言模型。它有两个典型应用场景Prompts提示词工作流用户在起草 Prompt 时从“基座模型”下拉框中选择要执行提示词的具体模型见 prompts_draft。一旦组织内通过 API Key 添加了某个模型任何拥有 Prompts 功能访问权限的成员都可以在执行提示词时选用该模型。组织级 AI 功能在Organization Settings中配置的模型提供方可为整个组织范围内的 AI 工作流所用例如配合Chat标签与 LLM 交互。需要注意的是这些模型不用于Label Studio 的 AI Assistant。从源码结构看模型提供方功能对应独立的应用模块 label_studio/ml_model_providers其 README 明确指出ModelProviderConnection用于持有 LLM 提供方的 API Key可归属于某个用户或某个组织——这正是“基座模型接入”在后端的落地载体。二、支持的基座模型完整清单下表完整收录官方文档 includes/base_models.md 中声明的 Provider 与模型对应关系该清单同时被 model_providers.md 与 prompts_keys.md 两处文档引用是组织级与 Prompts 级配置共用的权威清单Provider支持的模型OpenAIgpt-5-2、gpt-5.1、gpt-5、gpt-5-mini、gpt-5-nanoGeminigemini-2.5-pro、gemini-2.5-flash、gemini-2.5-flash-lite、gemini-2.0-flash、gemini-2.0-flash-liteVertex AIgemini-2.5-pro、gemini-2.5-flash、gemini-2.5-flash-lite、gemini-2.0-flash、gemini-2.0-flash-liteAnthropicclaude-3-5-haiku-latest、claude-3-5-sonnet-latest、claude-3-7-sonnet-latestAzure OpenAIAzure OpenAI 的基于聊天的模型chat-based models。注意官方建议不要使用 GPT 3.5 系列模型因为它们有时容易出现限流rate limit错误并且不兼容图像数据Azure AI Foundry支持 Azure AI Foundry 的全部模型Custom自定义 LLMCustom LLM阅读该表时需要注意几点Gemini 与 Vertex AI 的模型集合一致两者都可选用 gemini-2.5 / gemini-2.0 系列模型区别在于接入方式Gemini 使用 Gemini API KeyVertex AI 使用 Google Cloud 的 JSON 凭据文件。Azure OpenAI 的模型范围是动态的清单以官方 Azure 模型文档为准而非固定列举。官方特别提示避开 GPT 3.5理由是限流风险高且不支持图像数据。Custom 属于开放接入只要满足兼容性要求任何自托管或微调模型都可接入详见下文“自定义 LLM 的接入标准”。三、两种接入模式组织级连接与按模型添加 Key依据 model_providers.md 与 prompts_keys.md 两篇文档Label Studio 提供两种添加模型提供方 API Key 的方式模式一每个组织一份 Provider 连接获得一组白名单模型适用范围OpenAI、Vertex AI、Gemini、Anthropic。特点一个组织只能持有一个该 Provider 的 Key凭此 Key 即可访问该 Provider 的全部白名单基座模型即上文清单中对应的模型组。模式二为每个模型单独添加 API Key适用范围Azure OpenAI、Azure AI Foundry、Custom。特点Key 与具体模型/部署绑定一个模型对应一个 Key。两种模式在数据模型上的对应上述两种模式在后端ModelProviderConnection中有直接体现。查看 label_studio/ml_model_providers/models.py 可以确认枚举ModelProviders定义了全部 ProviderOpenAI、AzureOpenAI、AzureAIFoundry、VertexAI、Gemini、Anthropic、Custom枚举ModelProviderConnectionScopes定义了三种作用域Organization组织、User用户、Model模型——其中Organization对应“模式一”的组织级连接Model对应“模式二”的按模型连接模型的scope字段默认值为Organization并通过外键organization关联组织、通过created_by关联创建者。从该模型还可以看到一条 Provider 连接不仅保存api_key与可选的auth_token还针对不同 Provider 预留了专用字段Azure OpenAI 的deployment_name与endpoint、Vertex AI 的google_application_credentialsGOOGLE_APPLICATION_CREDENTIALSJSON 文件内容、google_project_id与google_location以及用于缓存模型列表的cached_available_models。此外它还内建了预算管理能力budget_limit、budget_total_spent、budget_alert_threshold、budget_reset_period等字段以及has_reached_budget_limit()方法便于组织对模型调用成本进行管控。四、各 Provider 的配置要点完整的分 Provider 配置指引见 includes/model_keys.md此处提炼关键要点。4.1 OpenAI、Gemini、Vertex AI、Anthropic组织级连接这四类 Provider 都遵循“每组织一个 Key、解锁一组白名单模型”的规则OpenAI在 OpenAI 平台创建账号并获取 API Key一个组织仅允许一个 OpenAI Key。Gemini获取 Gemini API Key 后添加即可一个组织仅允许一个 Gemini Key。Vertex AI需要先生成 JSON 格式的凭据文件即GOOGLE_APPLICATION_CREDENTIALS该 JSON 凭据为必填项同时可可选提供 Google Cloud 项目 IDproject ID与区域location。Anthropic获取 Anthropic API Key 后添加一个组织仅允许一个 Anthropic Key。4.2 Azure OpenAI按模型连接Azure OpenAI 的每个 Key 都绑定一个具体部署deployment而每个部署只包含一个 OpenAI 模型。因此若要通过 Azure 使用多个模型需要为每个模型分别创建部署再在 Label Studio 中为每个部署添加一个 Key添加 Key 时需要提供三个字段 | 字段 | 说明 | | --- | --- | |Deployment部署名| 部署名称默认与模型名相同但创建部署时可自定义。若两者不同必须使用部署名而非底层模型名 | |Endpoint| Azure 提供的目标 URI | |API key| Azure 提供的密钥 |这些信息都可以在 Azure OpenAI Studio 中该部署的Details详细信息区域找到。4.3 Azure AI Foundry按模型连接使用 Azure AI Foundry 的模型目录model catalog完成模型部署后在已部署模型的Details详细信息页面获取连接信息所需内容位于Endpoint之下添加 Key 时需要提供三个字段 | 字段 | 说明 | | --- | --- | |Model模型名| 随端点信息一并提供的模型名称参数 | |Endpoint| AI Foundry 提供的Target URI| |API key| AI Foundry 提供的Key|4.4 自定义 LLMCustom你可以接入自托管或微调模型前提是满足以下硬性条件服务端必须支持 JSON 模式API 需接受response_format且type为json_object并提供合法的 JSON Schema即形如{response_format: {type: json_object, schema: schema}}的请求体服务端 API 必须遵循 OpenAI 的 Chat 接口格式尤其是response_format参数。官方文档给出的兼容示例包括 Ollama 与 sglang 等支持 OpenAI 兼容 API 的方案。添加自定义模型时需要填写Name模型名称Endpoint URL模型端点例如https://my.openai.endpoint.com/v1注意v1后缀通常为必需API key可选绑定到具体账号的密钥组织内共享访问权限Auth token可选在服务器层面提供 API 访问的令牌。Ollama 接入示例启动 Ollama 并拉取模型例如ollama run llama3.2验证本地 OpenAI 兼容 API 可用例如http://localhost:11434/v1创建一个对外可达的端点将https://my.openai.endpoint.com/v1映射到http://localhost:11434/v1在 Label Studio 中添加连接Namellama3.2必须与 Ollama 中的模型名一致Endpointhttps://my.openai.endpoint.com/v1v1后缀是必需的API keyollama默认值Auth token留空Hugging Face Inference Endpoints 接入示例选用 DeepSeek 等模型例如deepseek-ai/DeepSeek-R1在API Keys中添加CustomProviderNamedeepseek-ai/DeepSeek-R1Endpointhttps://router.huggingface.co/together/v1API keyyour-hf-api-keyAuth token留空五、配置权限与网络注意事项谁能配置只有拥有组织设置访问权限的用户Owner 与 Admins可以添加和配置模型配置完成后组织内所有正在使用 AI 工作流的成员都可使用这些 Provider。这与源码中ModelProviderConnection.has_permission()的实现一致——该方法要求用户为管理员administrator、所有者owner或管理者manager且其active_organization_id必须与该连接所属组织一致见 models.py。网络白名单如果你的资源限制了网络访问配置网络安全时可能需要将 HumanSignal 的 IP 地址加入白名单SaaS 环境的出站连接 IP 范围见 saas 一节。Prompts 与组织级配置互通在 Prompts 页面右上角API Keys按钮打开Model Provider API Keys窗口添加的模型会自动出现在组织级 Provider 中反之亦然添加 Key 后所有受支持的模型都会出现在起草 Prompt 时的基座模型下拉框中。六、配置后的效果与适用边界使用入口配置完成后在 prompts_draft 的基座模型下拉框、或组织级 AI 工作流中即可选用对应模型。适用边界本文所述模型提供方配置面向 Label Studio Enterprise 中的 AI 特性Prompts、组织级 Provider 等且明确不适用于 AI Assistant 功能同时 Azure OpenAI 场景下应避免选用 GPT 3.5 系列模型。清单时效性OpenAI / Gemini / Vertex AI / Anthropic 的具体模型清单以 base_models.md 当前收录版本为准Azure 系 Provider 的可用模型以官方模型目录为动态来源实际可用范围取决于你的 Azure 订阅与部署。综上Label Studio 的基座模型接入采用“Provider 连接 模型白名单”的灵活架构主流 Provider 走组织级单 Key 连接Azure 系与自托管模型走按模型单 Key 连接后端统一由ModelProviderConnection承载密钥、作用域、可选预算与权限校验。据此你便可以在企业环境中按需、安全且可控地接入 LLM 能力。【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考