Groq Cloud
以超低延迟 LPU 为亮点的 LLM 推理云，体验 “毫秒级” 生成。
项目介绍
以超低延迟 LPU 为亮点的 LLM 推理云，体验 “毫秒级” 生成。 主要特点：超低延迟生成；主流开源模型可选。适合对响应速度敏感的产品场景。
Groq Cloud 以超低延迟 LPU 为亮点的 LLM 推理云，体验 “毫秒级” 生成。
核心能力
- 超低延迟生成
- 主流开源模型可选
- OpenAI 兼容 API
- 免费试用慷慨
适用人群
适合对响应速度敏感的产品场景。
Inference低延迟LPU
同类项目
评论
0 条登录后即可参与评论。去登录
加载中…