AI 基础设施与开发框架

模型部署、推理、应用开发与工程底座

AI 基础设施与开发框架

共 47 个匹配产品

Microsoft Foundry

Microsoft 面向 AI 应用和智能体构建、优化、部署、评估、监控与治理的平台。

模型目录、调用和部署智能体构建与托管运行评估、追踪、监控和企业治理

Hugging Face

连接模型、数据集、应用演示和开源 AI 社区的基础平台。

模型与数据集 HubSpaces 应用托管开源库与部署服务

Ollama

在本地下载、运行和调用开源模型的工具与服务。

本地模型运行模型清单与参数配置本地 API 与应用集成

LangChain

用于构建模型应用、工具调用、检索和智能体流程的开发框架。

模型与工具抽象检索增强与数据连接智能体和可观测性集成

LangGraph

用于构建有状态、可控制和可恢复智能体工作流的图式框架。

有状态图工作流持久化、人工介入与恢复多智能体和长运行任务

vLLM

面向大语言模型高吞吐推理与服务部署的开源引擎。

高吞吐模型推理OpenAI 兼容服务接口分布式与硬件部署能力

Google AI Studio

用于试验 Gemini 提示、多模态输入和 API 能力，并通过 Build 模式创建应用原型的开发工具。

测试 Gemini 模型、系统指令和多模态提示配置结构化输出、函数调用与安全设置生成 API 代码并在 Build 模式创建应用

阿里云百炼

阿里云上的模型调用、知识库、智能体、应用编排和生产治理平台。

多模型 API 与模型服务知识库、工作流和智能体应用评测、观测、安全与企业集成

百度智能云

百度智能云千帆

提供模型服务、数据与模型开发、知识库、智能体和应用部署的大模型平台。

模型调用、训练与评估知识库和智能体编排企业安全、监控与应用部署

华为云 ModelArts

覆盖数据、训练、模型管理、推理部署和大模型开发的华为云 AI 平台。

数据处理、训练作业和模型管理在线/批量推理与资源调度大模型开发、评测和应用编排

火山方舟

火山引擎的大模型调用、模型精调、智能体、评测和推理服务平台。

模型广场与推理接入点模型精调、评测和批量任务智能体、知识和企业治理

LM Studio

在个人电脑上下载、运行和通过本地 API 调用开放模型的桌面平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

llama.cpp

用 C/C++ 和多种硬件后端高效运行 GGUF 模型的开源推理项目。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

OpenRouter

通过统一 API 访问多家模型并提供路由、回退和使用信息的平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

LiteLLM

提供多模型统一调用、代理、预算、路由和可观测集成的开源网关。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Together AI

提供开放模型推理、专用端点、微调和 GPU 相关服务的平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Fireworks AI

提供模型推理、专用部署、微调和生产优化的生成式 AI 平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Replicate

通过 API 运行公开模型或将自有模型打包部署的平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

fal

面向图像、视频和音频生成模型的推理、队列与工作流平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

GroqCloud

基于 Groq 推理基础设施提供低延迟模型 API 的云服务。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Modal

用 Python 定义 GPU/CPU 容器、任务、端点和批处理的云计算平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Baseten

提供模型打包、部署、推理优化、扩缩容和可观测性的 AI 基础设施。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Cloudflare Workers AI

在 Cloudflare 网络上通过 Workers 或 API 运行模型的边缘推理服务。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Amazon Web Services

Amazon Bedrock

通过 AWS 提供多家基础模型、知识库、智能体、评估和治理能力的平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Vertex AI

Google Cloud 上用于模型、生成式 AI、训练、部署和评估的统一平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

硅基流动 SiliconFlow

提供多种开放模型 API、推理服务和模型部署能力的平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

腾讯云 TI 平台

腾讯云面向数据、训练、推理和模型开发的 TI-ONE 机器学习平台。

提供模型访问、推理、部署或弹性计算能力支持 API、运行时或多种模型与硬件后端提供性能、权限、日志和生产运行相关能力

Deep Agents

基于 LangChain/LangGraph 的智能体 harness，内置规划、文件系统、子智能体和长期记忆。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

LlamaIndex

用于连接私有数据、构建 RAG、工作流和智能体应用的开源框架。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

CrewAI

用于组织 agents、crews 和 flows 的多智能体开源框架与平台。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

OpenAI Agents SDK

OpenAI 提供的轻量智能体 SDK，支持工具、移交、护栏、会话和追踪。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

Google Agent Development Kit

Google 提供的代码优先、模型与部署相对独立的智能体开发工具包。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

Microsoft Agent Framework

Microsoft 面向智能体、harness、状态、工作流和多提供商集成的开源框架。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

Mastra

用于在 TypeScript 中构建 agents、workflows、RAG、评测和可观测性的框架。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

Haystack

用于构建 RAG、检索、生成管道和智能体的 Python 开源框架。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

Pydantic AI

以类型安全、结构化输出和多模型支持为重点的 Python 智能体框架。

提供模型、工具、状态或工作流的开发抽象支持构建可测试、可控制的 AI 应用或智能体可与数据源、模型提供商和运行环境集成

添加微信