Empezar
Cómputo

Carga de trabajo

Inferencia de IA

Modelos abiertos detrás de una API que ya hablan los clientes de OpenAI, Claude y Ollama: chat, embeddings, rerank, imágenes y audio.

Disponible

Qué es

La inferencia es ejecutar un modelo ya entrenado sobre una entrada nueva: entra un prompt y sale una respuesta. Es la parte de la IA que las aplicaciones pagan en cada solicitud.

Las solicitudes son cortas y numerosas. Importan el tiempo hasta el primer token, la velocidad del resto y el precio por token.

Qué ofrecemos hoy

La API de Silicon Network sirve modelos abiertos para chat, embeddings, rerank, voz a texto, texto a voz e imágenes. Habla los formatos de OpenAI, Claude Messages y Ollama, así que a la mayoría de los clientes les basta con una URL base nueva y una clave.

Las solicitudes las sirven operadores de Silicon Network: personas y empresas independientes que ejecutan el motor en sus propios Macs. Todavía no se ha unido ningún Mac, así que la API no puede servir solicitudes hasta que los primeros operadores estén en línea.

Se factura por token según las tarifas de la página de precios.

Orígenes

Los tipos de origen que pueden ejecutar esta carga de trabajo, ahora o más adelante. No se nombra a ningún proveedor hasta que esté conectado.

  • Operadores de Silicon Network

    Máquinas independientes que los operadores suman a la red, hoy Macs con el motor de Silicon Network

    Sirve hoy

  • Redes descentralizadas

    Redes abiertas de máquinas independientes

    Prevista

  • Nubes y mercados de GPU

    Empresas que alquilan máquinas con GPU

    Prevista

  • Nubes públicas

    Las grandes nubes de uso general

    Prevista

Los orígenes externos servirían la misma API, de modo que una solicitud podría ir al origen que mejor encaje con su precio y su velocidad. Todavía no hay ninguno conectado.

Estado

Disponible: la API está activa y el servicio empieza cuando se unan los primeros Macs.

Abrir en el selectorLeer la guía rápida

El selector se abre con Inferencia de IA elegido.

Otras cargas de trabajo