模型管理
管理国内外主流模型供应商,配置大语言模型、向量化模型、重排模型等多种模型
模型总数
10
已配置模型数量
已启用
8
运行中的模型
供应商
4
已对接供应商
今日调用
8,487
模型调用次数
平均延迟
344ms
响应时间
模型列表
管理已配置的模型
| 模型名称 | 供应商 | 类型 | 上下文 | 调用次数 | 平均延迟 | 状态 | 操作 |
|---|---|---|---|---|---|---|---|
Doubao Pro | 🫘豆包 | 大语言模型 | 128K | 125,678 | 234ms | 已启用 | |
Doubao Embedding | 🫘豆包 | 向量化模型 | 8K | 45,678 | 45ms | 已启用 | |
DeepSeek V3 | 🔍DeepSeek | 大语言模型 | 64K | 34,567 | 312ms | 已启用 | |
Kimi K2 | 🌙Kimi | 大语言模型 | 200K | 23,456 | 456ms | 已启用 | |
本地Llama3-70B | 🖥️本地模型 | 大语言模型 | 8K | 12,345 | 567ms | 已启用 | |
BGE-Reranker | 🖥️本地模型 | 重排模型 | 1K | 8,976 | 23ms | 已启用 | |
Whisper-Large | 🖥️本地模型 | 语音识别 | - | 567 | 1234ms | 已启用 | |
CosyVoice | 🖥️本地模型 | 语音合成 | - | 0 | - | 未启用 | |
Doubao Vision | 🫘豆包 | 图片理解 | 4K | 3,456 | 567ms | 已启用 | |
DALL-E 3 | 🤖OpenAI | 图片生成 | - | 0 | - | 未启用 |