Together AI

什麼是 Together AI?

Together AI 託管多種開放原始碼模型，可直接透過 API 呼叫使用，同時也提供專屬 GPU 基礎架構，讓你微調並執行自訂模型，適合想要開放模型的彈性、但不想自己管理硬體的團隊。

主要功能

• 豐富的託管開放原始碼模型目錄，可直接透過 API 使用
• 提供微調基礎架構，可用自己的資料客製化模型
• 提供專屬 GPU 端點，效能穩定且獨立不受干擾
• 相較主流封閉模型服務商，價格更具競爭力
• 支援執行與部署你自己的自訂模型

如何開始使用

1. 在 together.ai 註冊並產生 API 金鑰
2. 從目錄中挑選託管模型，或上傳自己的模型
3. 呼叫 API 進行推論，或啟動微調工作
4. 正式環境的工作負載可擴充至專屬端點

使用情境

• 執行開放原始碼模型，不必自行管理 GPU 基礎架構
• 用專屬或特定領域的資料微調模型
• 對成本敏感、需要比較開放與封閉模型的應用
• 託管主流實驗室沒有提供的自訂或小眾模型

Together AI 比較

常見問題

Together AI 可以免費使用嗎？

Together AI 的方案：依用量計費，按 token 或 GPU 小時收費。價格與免費方案的限制會隨時間調整，詳細資訊請以上方的官方網站為準。

Together AI 是用來做什麼的？

提供託管開放原始碼模型，並支援微調。

Together AI 最適合什麼樣的使用者？

Together AI 很適合 執行開放原始碼模型，不必自行管理 GPU 基礎架構.

Together AI 有哪些替代方案？

常被拿來比較的替代方案有 Replicate和Groq，詳細差異請見上方的比較表。