Together AI
开发者工具
Together AI
付费API
关于
AI 原生云平台，serverless 推理覆盖 200+ 开源模型（DeepSeek、Llama、Qwen 等），支持微调与 GPU 集群，按 token 计费批量还打五折
编辑评价
推荐把开源模型跑进生产环境的默认入口
Together AI 悄然成为一个高频问题的标准答案：不养基础设施团队，怎么用上开源模型？它的目录庞大且新鲜得令人愉快——DeepSeek、Qwen、Llama 的新版本数日内就会上架；API 说一口流利的 OpenAI 方言，迁移只需改一行；定价阶梯也很诚实：免费模型做原型、廉价 Serverless token 上线、延迟敏感时上专属端点、全都不够用了还有 $1.49/小时的 GPU 集群。FlashAttention 背后的研究底蕴，体现为真实的速度而非营销话术。它的取舍是结构性的而非偶然的：这里没有闭源前沿模型，峰值能力型任务仍得去别处；各模型价差大，会看账单的团队才占便宜。Fireworks、Groq 这些对手会在速度或小众模型的单项赛里赢它。但要论「你想要的那个开源模型它最可能有、价格公道、API 你还早就会用」，Together 是这个品类里最稳的首选。
最适合
- •为了成本或掌控从闭源 API 迁向开源模型的团队
- •想用一个 API 覆盖 LLM、视觉与图像模型的开发者
- •不买 GPU 也要微调并部署自有模型的创业公司
以下情况建议考虑替代方案
- •你最需要的是前沿模型能力（→ OpenAI / Anthropic / Gemini API）
- •你的负载是生成式媒体而非 LLM（→ Fal.ai / Replicate）
平台支持
网页版API
可用平台包括网页版和API。
核心功能
200+ 开源模型的 Serverless 推理：Llama、DeepSeek、Qwen、Kimi 等
OpenAI 兼容 API——改一个 base URL 即可切换供应商
微调服务，支持 LoRA 与全参数微调
专属端点按分钟计费 GPU，适合稳定负载
GPU 集群（H100/H200/B200）$1.49/小时起，可用于训练
批量推理五折优惠，另有免费模型档可做原型验证
定价方案
free
精选模型免费档（含 Llama 系端点）无需信用卡即可开发测试；新账号另有入门额度。
paid
按量 token 计价，依模型大小约 $0.03–$4.50/百万 token；批量推理五折；专属端点按分钟计 GPU 时长；GPU 集群每卡 $1.49/小时起，预留另有折扣。（对照官方定价页核实，2026-07-28。）
使用场景
在生产环境跑开源 LLM，无需自管 GPU
把 GPT 级调用换成开源模型，削减推理账单
用私有数据微调 Llama/Qwen 级模型
租用 H100/H200 集群做训练，无需长约
优点
开源模型目录之广数一数二，新模型发布数日内即上架
扎实的研究底蕴（FlashAttention 一脉）体现在推理速度上
从免费档、Serverless、专属 GPU 到集群的完整阶梯
透明的按 token 计价，常常低于闭源模型 API
缺点
没有闭源前沿模型——用峰值能力换成本与掌控
各模型价差大，切换模型时账单需要盯紧
专属端点与集群会把你推入基础设施决策
竞争激烈（Fireworks、Groq、DeepInfra），功能差距随时在变
最新动态
2026 年：Together AI 持续追平模型发布节奏——DeepSeek、Qwen、Kimi 与 Llama 变体数日内即上架——同时把算力阶梯做全：批量推理半价、微调升级、B200/H200 GPU 集群 $1.49/小时起，与 Serverless API 并行。
