Cómo funciona
Una solicitud o un trabajo entra por una interfaz. Detrás hay varios tipos de origen. Hoy hay un camino activo: la inferencia de IA, servida por los Macs de los operadores.
Paso a paso
- 1
Envías una solicitud o describes un trabajo
Para la inferencia de IA es una llamada a la API en el formato de OpenAI, Claude Messages u Ollama. Para las demás cargas de trabajo eliges en el selector; allí todavía no se puede contratar nada.
- 2
La interfaz la admite
El gateway comprueba la clave, sus límites y el saldo antes de que ninguna máquina vea la solicitud.
- 3
El enrutamiento elige un origen
Para la inferencia, el gateway envía la solicitud al Mac de un operador que tiene el modelo cargado. Los orígenes previstos se elegirían según la prioridad que marques: precio, velocidad o ambos.
- 4
Se comprueba la respuesta
En la red de inferencia, el gateway puede volver a ejecutar una muestra de solicitudes en un nodo de confianza, enviar prompts conocidos y comparar las respuestas, y los nodos firman lo que sirven. Estas comprobaciones están construidas y se activan antes de que sirvan operadores ajenos al equipo. Las máquinas de un proveedor conectado quedarían cubiertas por las condiciones y comprobaciones de ese proveedor.
- 5
El uso se mide y se factura
El gateway cuenta los tokens de cada solicitud y el plano de control los cobra de tu saldo según las tarifas publicadas. Puedes pedir un recibo firmado.
Qué está activo
La inferencia de IA a través de la API está activa, y el servicio empieza cuando se unan los primeros Macs. No hay ningún origen externo conectado ni ninguna otra carga de trabajo disponible.