Silicon Network について

概要

Silicon Network は、独立したオペレーター、分散型ネットワーク、GPU クラウド、大手パブリッククラウドなど、さまざまな場所のコンピュートをひとつにまとめます。それぞれに独自のコンソール、価格、規約があります。

ソースからではなく、ワークロードから始めます。実行したいことと、価格と速度のどちらを重視するかを伝えて、それを実行できるソースから選びます。

現在できること

AI 推論です。Silicon Network API は、OpenAI、Claude、Ollama の形式にすでに対応しているクライアントに、オープンモデルを提供します。リクエストは、Apple Silicon 上で Silicon Network エンジンを動かすオペレーターの Mac が処理します。

ネットワークは最初のオペレーターを待っているところです。まだ Mac は参加していないため、参加するまで API はリクエストを処理できません。

予定していること

学習、レンダリング、マイニング、トレーディングボット、サーバー、そして自社のオペレーター以外のソースです。各ワークロードは、そのソースが接続されて確認されてから掲載します。それまでは、コンピュート選択画面に利用できないと表示されます。

なぜ最初に Mac なのか

Apple Silicon は CPU と GPU でひとつのメモリプールを共有するため、メモリの大きい Mac は大きなオープンモデルを保持できます。こうしたマシンの多くは、1日のうちの長い時間、使われていません。エンジンはその時間を推論に活用します。

エンジンは、Apple のオープンソースの配列フレームワークである MLX でモデルを実行します。モデルは、学習させた人たちが公開しているオープンモデルです。