极速响应
优化连接复用与路由策略,降低首字延迟,支持流式输出。
统一 API 协议、清晰的用量账单与稳定的渠道调度,让团队把时间放在产品上,而不是重复维护上游连接。
POST /v1/chat/completions curl -X POST "/v1/chat/completions" \ -H "Authorization: Bearer sk-••••" \ -d '{ "model": "your-model", "messages": [{ "role": "user", "content": "..." }] }'
{
"choices": [{ "message": { "content": "Chat request routed." } }],
"usage": { "total_tokens": 29 }
}从第一条请求到多渠道并发,星雨 API 把复杂度收进网关,把确定性留给你的业务。
优化连接复用与路由策略,降低首字延迟,支持流式输出。
密钥分组、权限边界与审计记录,让每次调用都可追溯。
按优先级、健康度与成本进行渠道编排,避免单点依赖。
输入、输出、缓存分项展示,实时看见每个模型的真实成本。
保留现有模型广场的输入 / 输出 / 缓存单价展示,新增搜索、标签与成本提示,帮助用户更快做选择。
适合高质量通用对话、结构化输出与复杂推理。
适合高频任务、批处理与对延迟敏感的应用。
图像生成场景建议单独展示分辨率、张数与预计成本。
沿用现有渠道配置方式,只优化信息层级与引导路径,不改现有 API 入口。
添加上游 API 密钥,设置模型映射、优先级与访问权限。
保持 OpenAI / Claude 兼容格式,只需替换 Base URL 与密钥。
从请求量、延迟、错误率到成本,统一在控制台追踪。