Guía

Glosario

Las palabras que usan este sitio y la documentación, explicadas de forma sencilla. Cuando un término solo se aplica a una carga de trabajo que aún no está disponible, la definición lo dice.

Adaptador LoRA

Un conjunto pequeño de pesos adicionales que cambia el comportamiento de un modelo base. Silicon Network puede servir un adaptador registrado sobre su modelo base a través de la API de inferencia.

Ajuste fino

Adaptar un modelo existente a tus propios ejemplos en lugar de entrenar uno desde cero. Suele hacerse con un adaptador pequeño (LoRA) que se guarda y se carga junto al modelo base.

Bajo demanda

Capacidad que alquilas a una tarifa fija durante el tiempo que la necesites y que el proveedor no recupera mientras la pagas.

Capacidad spot o interrumpible

Máquinas sobrantes que un proveedor alquila más baratas, con la condición de poder recuperarlas con poco aviso. Encaja con trabajos que guardan checkpoints y pueden reanudarse; no sirve para atender tráfico en vivo.

Clave de API

El secreto que tu código envía con cada solicitud. Identifica a tu organización, lleva límites y es a lo que se factura el uso. Las claves de Silicon Network empiezan por sn_.

Cuantización

Guardar los pesos de un modelo con menos bits, por ejemplo 4 u 8 en lugar de 16. El modelo necesita menos memoria y va más rápido, a cambio de algo de calidad.

Entrenamiento

Construir los pesos de un modelo a partir de datos, normalmente en muchas GPU durante horas o días. Aún no disponible en Silicon Network.

Gateway

La API pública en api.siliconnetwork.io. Comprueba claves y saldos, elige un nodo, devuelve la respuesta en streaming y cuenta el uso.

Hora de GPU

Una GPU usada durante una hora: la unidad habitual para poner precio al entrenamiento y al renderizado.

Inferencia

Ejecutar un modelo ya entrenado sobre una entrada nueva para obtener una respuesta. Cada mensaje de chat, embedding o imagen generada es una solicitud de inferencia. La única carga de trabajo disponible hoy.

Latencia

Cuánto tarda algo en empezar a responder. En un modelo, normalmente el tiempo hasta el primer token; en un servidor, el viaje de ida y vuelta por la red.

Medición

Contar lo que usó cada solicitud, como los tokens de entrada y de salida, para poder facturarlo. En Silicon Network el gateway cuenta y el plano de control cobra.

Modelo en caliente

Un modelo que ya está cargado en la memoria de un nodo, de modo que puede responder sin leerse antes del disco.

Nodo

Una máquina de la red: el Mac de un operador que ejecuta el motor de Silicon Network. Todavía no se ha unido ningún nodo.

Nodo RPC

Un servidor que responde consultas sobre una blockchain y le envía transacciones. Los bots que operan en una cadena hablan con uno constantemente, por eso importa la distancia hasta él.

Nube de GPU

Una empresa que alquila máquinas con GPU, a menudo por horas, a veces como un mercado de hardware de terceros. Prevista como origen; todavía no hay ninguna conectada.

Nube pública

Una de las grandes nubes de uso general, con servidores, almacenamiento y red en muchas regiones. Prevista como origen; todavía no hay ninguna conectada.

Operador

Una persona o empresa que une sus propias máquinas a Silicon Network y ejecuta el motor en ellas. Hoy los operadores usan Macs; los pagos a operadores están desactivados.

Prueba de trabajo

Una forma de que una blockchain se ponga de acuerdo sobre su siguiente bloque: las máquinas calculan hashes hasta que una encuentra uno válido. La minería es ese cálculo. Muchos proveedores de nube la restringen en sus condiciones.

Recibo

Una declaración firmada de qué sirvió una solicitud: el nodo firma lo que produjo y el gateway refrenda cómo se enrutó. Opcional, por solicitud.

Red descentralizada

Una red de máquinas gestionadas por muchas partes independientes en lugar de una sola empresa. Prevista como origen; todavía no hay ninguna conectada.

Región y residencia de datos

Una región es el lugar donde está físicamente una máquina. La residencia de datos limita las solicitudes a las regiones o países elegidos y rechaza una solicitud antes que servirla en otro lugar.

Relay

El servicio que permite a un nodo detrás de un router de casa u oficina servir solicitudes. El nodo se conecta hacia el relay, así que no hay que abrir nada para conexiones entrantes.

Rendimiento

Cuánto trabajo se hace por unidad de tiempo: tokens por segundo en un modelo, fotogramas por hora en un renderizado. Un rendimiento alto y una latencia baja son objetivos distintos y pueden chocar entre sí.

Saldo

El crédito prepago de tu cuenta, en dólares estadounidenses. El uso se cobra de él; lo recargas con stablecoins o con tarjeta.

Servidor dedicado

Una máquina física entera alquilada a un solo cliente, sin nada más ejecutándose en ella.

Tasa de hash

Cuántos hashes calcula una máquina por segundo. Mide la velocidad de minado, no si la minería compensa.

Token

La unidad que un modelo de lenguaje lee y escribe: una palabra o un trozo de ella. La inferencia se factura por token de entrada y por token de salida.

VPS

Servidor privado virtual: una máquina virtual con su propio sistema operativo, su propia dirección y una parte fija de la CPU, la memoria y el disco de un host.

VRAM y memoria unificada

La VRAM es la memoria propia de una GPU; un modelo tiene que caber en ella para ir rápido. Apple Silicon tiene en su lugar memoria unificada, una sola memoria compartida por la CPU y la GPU, así que un Mac con mucha memoria puede alojar un modelo grande.