ガイド

用語集

このサイトとドキュメントで使う言葉を、平易に説明します。まだ利用できないワークロードにだけ当てはまる用語は、その旨を定義に記しています。

API キー

コードが各リクエストに付けて送る秘密の文字列です。あなたの組織を示し、制限を持ち、使用量の課金先になります。Silicon Network のキーは sn_ で始まります。

GPU クラウド

GPU マシンを、多くは時間単位で貸し出す会社です。ほかの人のハードウェアのマーケットプレイスの場合もあります。提供元として計画中で、接続されたものはまだありません。

GPU 時間

1 つの GPU を 1 時間使うことです。学習やレンダリングの料金に使われる一般的な単位です。

LoRA アダプター

ベースモデルの振る舞いを変える、小さな追加の重みのセットです。Silicon Network は、登録済みのアダプターをベースモデルの上で推論 API から提供できます。

RPC ノード

ブロックチェーンに関する問い合わせに答え、トランザクションをブロックチェーンに渡すサーバーです。チェーン上で取引するボットは常にこれと通信するため、そこまでの距離が重要になります。

VPS

仮想プライベートサーバー。独自のオペレーティングシステムとアドレスを持ち、ホストの CPU、メモリ、ディスクの一定の割り当てを使う仮想マシンです。

VRAM とユニファイドメモリ

VRAM は GPU 専用のメモリで、高速に動かすにはモデルがその中に収まる必要があります。Apple Silicon はその代わりにユニファイドメモリを持ち、CPU と GPU が 1 つのメモリを共有するため、メモリの多い Mac は大きなモデルを保持できます。

ウォームモデル

すでにノードのメモリに読み込まれているモデルです。ディスクから読み込む手間なく、すぐに応答できます。

オペレーター

自分のマシンを Silicon Network に参加させ、そこでエンジンを動かす個人または会社です。現在、オペレーターは Mac を動かしています。オペレーターへの支払いは無効です。

オンデマンド

必要な間、固定料金で借りる容量です。料金を支払っている間、プロバイダーが取り戻すことはありません。

ゲートウェイ

api.siliconnetwork.io にある公開 API です。キーと残高を確認し、ノードを選び、回答をストリーミングで返し、使用量を数えます。

スポットまたは中断可能な容量

プロバイダーが、短い予告で取り戻せることを条件に、安く貸し出す余剰のマシンです。チェックポイントを保存して再開できるジョブに向いており、ライブのトラフィックの処理には向きません。

スループット

単位時間あたりに処理できる作業量です。モデルでは 1 秒あたりのトークン数、レンダリングジョブでは 1 時間あたりのフレーム数です。高いスループットと低いレイテンシは別の目標で、両立しにくいことがあります。

トークン

言語モデルが読み書きする単位で、単語またはその一部です。推論は、入力トークンと出力トークンごとに課金されます。

ノード

ネットワーク内の 1 台のマシンで、Silicon Network のエンジンを動かすオペレーターの Mac です。まだ参加したノードはありません。

ハッシュレート

マシンが 1 秒間に計算するハッシュの数です。マイニングの速さを表すもので、マイニングが利益になるかどうかを表すものではありません。

パブリッククラウド

多くのリージョンにサーバー、ストレージ、ネットワークを持つ、大手の汎用クラウドです。提供元として計画中で、接続されたものはまだありません。

ファインチューニング

ゼロから学習する代わりに、既存のモデルを自分の例で調整することです。多くの場合、ベースモデルと並べて保存・読み込みする小さなアダプター (LoRA) を使います。

プルーフ・オブ・ワーク

ブロックチェーンが次のブロックについて合意する方法のひとつです。マシンが、有効なものが見つかるまでハッシュを計算します。マイニングはその計算のことです。多くのクラウドプロバイダーは、規約でこれを制限しています。

リージョンとデータレジデンシー

リージョンは、マシンが物理的にある場所です。データレジデンシーは、リクエストを選んだリージョンや国に限定し、ほかの場所で処理する代わりにリクエストを拒否します。

リレー

家庭やオフィスのルーターの内側にあるノードが、リクエストを処理できるようにするサービスです。ノードがリレーへ外向きに接続するため、受信用のポートを開ける必要はありません。

レイテンシ

応答を始めるまでにかかる時間です。モデルでは通常、最初のトークンまでの時間を指し、サーバーでは、そこまでのネットワークの往復時間を指します。

学習

データからモデルの重みを作ることです。通常は多数の GPU で数時間から数日かけて行います。Silicon Network ではまだ利用できません。

計測

入力トークンや出力トークンなど、各リクエストが使った量を数えて、課金できるようにすることです。Silicon Network では、ゲートウェイが数え、コントロールプレーンが課金します。

残高

アカウントにある前払いのクレジットで、米ドル建てです。使用量はここから差し引かれ、ステーブルコインまたはカードでチャージします。

推論

学習済みのモデルに新しい入力を与えて、答えを得ることです。チャットのメッセージ、埋め込み、生成画像はすべて推論リクエストです。現在利用できる唯一のワークロードです。

専用サーバー

物理マシン 1 台をまるごと 1 人の顧客に貸し出すもので、ほかのものは何も動いていません。

分散型ネットワーク

1 つの会社ではなく、多数の独立した当事者が運用するマシンのネットワークです。提供元として計画中で、接続されたものはまだありません。

量子化

モデルの重みを、16 ビットではなく 4 ビットや 8 ビットなど、より少ないビット数で保存することです。必要なメモリが減り、動作は速くなりますが、品質はいくらか下がります。

領収書

リクエストを何が処理したかを示す署名付きの記録です。ノードが生成した内容に署名し、ゲートウェイがどう経路を選んだかに副署名します。リクエストごとに任意で取得できます。