モデル
モデル
Llama 3.1 70B
llama-3.1-70bライブのステータスを取得できません
Silicon Network 上の Llama 3.1 70B(llama-3.1-70b): コンテキスト 131,072 トークン。機能: テキスト。入力 100 万トークンあたり $0.50、出力 100 万トークンあたり $1.50。
仕様
| API モデル ID | llama-3.1-70b |
|---|---|
| 提供状況 | ライブのステータスを取得できません |
| ベースモデル | Llama 3.1 70B |
| ファミリー | Llama |
| パラメーター数 | 70B |
| サイズクラス | 大(40B から 200B) |
| コンテキスト長 | 131,072 トークン(128K) |
| 機能 | テキスト |
| 提供する重み | 4 ビット |
| 重みのサイズ | 40.7 GB |
| 入力価格 | 100 万トークンあたり $0.50 (ネットワークの既定値) |
| 出力価格 | 100 万トークンあたり $1.50 (ネットワークの既定値) |
このモデルには専用のレートがないため、ネットワークの既定レートで課金されます。
速度
直近 24 時間、このモデルへのリクエストは処理されていないため、表示できる速度はありません。Mac がこのモデルを提供すると、ここに数値が表示されます。
ベンチマーク
このネットワークでは、このモデルのベンチマークはまだ実行されていません。スコアは、このモデルを提供する Mac で計測された時点で、日付と公開された実行結果とともにここに表示されます。他所のスコアは表示しません。
呼び出し方
モデル ID は llama-3.1-70b です。ベース URL を https://api.siliconnetwork.io/v1 に設定すれば、OpenAI 互換のクライアントならどれでも使えます。キーやその他の通信形式についてはクイックスタートをご覧ください。
silicon - zsh
curl https://api.siliconnetwork.io/v1/chat/completions \ -H "Authorization: Bearer $SILICON_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model": "llama-3.1-70b", "messages": [{"role": "user", "content": "Hello"}]}'モデルがいまノードにロードされているかどうかは、一日の中で変わります。料金ページでリアルタイムに確認できます。ロードされていないモデルは、オペレーターがロードするまで 404 を返します。
比較対象
これらの数値について
コンテキスト長、機能、重みのサイズは、各 ID が提供されるときのモデルカードに基づきます。レートは公開されているトークンあたりの価格で、数分ごとに更新されます。速度の数値は掲載していません。ネットワークはまだモデルごとのスループットを公開していません。
Silicon Network›モデル›Llama 3.1 70B13 項目