Token 成本試算器 (Price Calculator)

依據每次請求之 Input / Output Token 數量與請求次數,精確試算並排名各供應商總成本。

View Llama 3.1 405B Instruct Matrix

重要說明:下方輸入的 Input / Output Tokens 代表「每次請求 (Per Request)」的 Token 數量,總成本會自動乘以 Request Count(請求次數)。

Total Cost = ((Input Tokens × Input USD/1M + Output Tokens × Output USD/1M) / 1,000,000) × Request Count

常用試算情境預設:
最低總成本供應商
$4.00
NCHC TAIWAN AI RAP (Llama-3.1-405B-Instruct-FP8)
Highest Cost Provider
$21.00
Google Vertex AI (Llama) (vertex_ai/meta/llama-3.1-405b-instruct-maas)
最高與最低價差
$17.00
Total workload difference
最高可節省比例
81.0%
Choosing lowest vs highest
國網 TAIWAN AI RAP 試算
Llama-3.1-405B-Instruct-FP8$4.00排名第 1 / 3

Estimated Workload Cost by Provider (USD)

各供應商預估成本排名(僅列出具備完整 Input 與 Output 報價之方案)

若某供應商缺少 Input 或 Output 任一必要價格欄位,系統不會將其納入總成本排名,以避免不完整的成本比較。

RankProvider · LiteLLM IDInput / 1MOutput / 1MInput CostOutput CostTotal Costvs Cheapest
#1
NCHC TAIWAN AI RAP國網· Standard · Taiwan
Llama-3.1-405B-Instruct-FP8
$2.00$2.00$2.00$2.00$4.00Cheapest
#2
Together AI· Standard · Global
together_ai/meta-llama/Llama-3.1-405B-Instruct
$3.50$3.50$3.50$3.50$7.00+$3.00 (save 42.9%)
#3
Google Vertex AI (Llama)· Standard · Global
vertex_ai/meta/llama-3.1-405b-instruct-maas
$5.00$16.00$5.00$16.00$21.00+$17.00 (save 81.0%)