モデル
比較
Llama 3.1 8B 対 Llama 3.1 70B
Silicon Network 上の Llama 3.1 8B と Llama 3.1 70B の比較です。コンテキスト長、機能、パラメーター数、それぞれのトークンあたりの価格を並べて示します。
仕様
| Llama 3.1 8B | Llama 3.1 70B | |
|---|---|---|
| API モデル ID | llama-3.1-8b | llama-3.1-70b |
| 提供状況 | ライブのステータスを取得できません | ライブのステータスを取得できません |
| ベースモデル | Llama 3.1 8B | Llama 3.1 70B |
| ファミリー | Llama | Llama |
| パラメーター数 | 8B | 70B |
| サイズクラス | 中(6B から 40B) | 大(40B から 200B) |
| コンテキスト長 | 131,072 トークン(128K) | 131,072 トークン(128K) |
| 機能 | テキスト | テキスト |
| 提供する重み | 4 ビット | 4 ビット |
| 重みのサイズ | 4.64 GB | 40.7 GB |
| 入力価格 | 100 万トークンあたり $0.50 (ネットワークの既定値) | 100 万トークンあたり $0.50 (ネットワークの既定値) |
| 出力価格 | 100 万トークンあたり $1.50 (ネットワークの既定値) | 100 万トークンあたり $1.50 (ネットワークの既定値) |
このモデルには専用のレートがないため、ネットワークの既定レートで課金されます。
違い
- どちらもコンテキストウィンドウは 131,072 トークンです。
- 総パラメーター数では Llama 3.1 70B のほうが大きく、70B です(もう一方は 8B)。
- どちらも同じ機能に対応しています: テキスト。
- 入力トークンの価格はどちらも同じで、100 万あたり $0.50 です。
- 出力トークンの価格はどちらも同じで、100 万あたり $1.50 です。
モデルがいまノードにロードされているかどうかは、一日の中で変わります。料金ページでリアルタイムに確認できます。ロードされていないモデルは、オペレーターがロードするまで 404 を返します。
これらの数値について
コンテキスト長、機能、重みのサイズは、各 ID が提供されるときのモデルカードに基づきます。レートは公開されているトークンあたりの価格で、数分ごとに更新されます。速度の数値は掲載していません。ネットワークはまだモデルごとのスループットを公開していません。
Silicon Network›モデル›Llama 3.1 8B 対 Llama 3.1 70B13 項目