产品简介
基于 Groq 推理基础设施提供低延迟模型 API 的云服务。 使用边界:可用模型和限额会变化,不应把单次性能测试写成普遍结论。
核心功能
01
提供模型访问、推理、部署或弹性计算能力
该能力的实际入口、输入要求和边界以本页列出的官方资料为准。
02
支持 API、运行时或多种模型与硬件后端
该能力的实际入口、输入要求和边界以本页列出的官方资料为准。
03
提供性能、权限、日志和生产运行相关能力
该能力的实际入口、输入要求和边界以本页列出的官方资料为准。
适用场景
✓部署或调用生成式 AI 模型
✓为应用提供稳定的模型 API
✓比较模型质量、延迟、吞吐和成本
