ワークロード

AI 推論

OpenAI、Claude、Ollama のクライアントがそのまま使える 1 つの API の背後で動くオープンモデルです。チャット、埋め込み、リランク、画像、音声に対応します。

利用可能

概要

推論とは、学習済みのモデルを新しい入力で動かすことです。プロンプトを入力すると、答えが出力されます。アプリケーションがリクエストごとに料金を支払う、AI の部分です。

リクエストは短く、数が多くなります。重要なのは、最初のトークンまでの時間、その後の速度、トークンあたりの価格です。

Silicon Network API は、チャット、埋め込み、リランク、音声認識、音声合成、画像向けにオープンモデルを提供します。OpenAI、Claude Messages、Ollama の形式に対応しているため、ほとんどのクライアントは新しいベース URL とキーを設定するだけで使えます。

リクエストは Silicon Network のオペレーターが処理します。オペレーターとは、自分の Mac でエンジンを動かす個人や企業です。まだ Mac は参加していないため、最初のオペレーターがオンラインになるまで、API はリクエストを処理できません。

料金は、料金ページのレートでトークンごとに課金されます。

このワークロードを実行できる、現在または将来のソースの種類です。接続されるまで、プロバイダー名は示しません。

Silicon Network のオペレーター
オペレーターがネットワークに追加する独立したマシン。現在は Silicon Network エンジンを動かす Mac です
現在提供中
分散型ネットワーク
独立したマシンによるオープンなネットワーク
予定
GPU クラウドとマーケットプレイス
GPU マシンを貸し出している企業
予定
パブリッククラウド
大手の汎用クラウド
予定

外部のソースが同じ API で提供されれば、リクエストを価格と速度に合うソースに振り分けられるようになります。現在、接続されているものはありません。

利用可能: API は稼働中で、最初の Mac が参加すると処理が始まります。

AI 推論を選択した状態でコンピュート選択画面が開きます。