Baseten lanza Grid, una pasarela que reparte las peticiones de los agentes de código entre modelos para abaratar costes

Baseten, la empresa de San Francisco conocida sobre todo por alojar y servir modelos de IA, se adentra en la capa de control del desarrollo de software empresarial. El 4 de noviembre abrió en vista previa Grid, un producto que se sitúa entre los agentes de programación de una compañía y los modelos a los que llaman, y que combina enrutamiento de peticiones, una pasarela de gobernanza y salvaguardas de seguridad. El acceso anticipado se gestiona mediante lista de espera.

Enrutamiento según el coste por tarea

El componente principal, que la prensa denomina Baseten Router, evalúa cada petición frente a los modelos abiertos y cerrados que la organización ha aprobado y sopesa el rendimiento esperado frente al coste. Baseten asegura que no se limita al precio de los tokens: también tiene en cuenta el coste de los reintentos, las llamadas a herramientas fallidas y las respuestas incompletas. Los equipos pueden priorizar el coste, la capacidad o un equilibrio entre ambos, y compartir trazas para entrenar enrutadores ajustados a sus propias cargas.

Según Baseten, sus pruebas iniciales mostraron un coste por tarea casi un 70 % inferior al de Claude Opus 5.5, con una merma de calidad de 0,9 puntos porcentuales. La propia empresa advierte de que el ahorro depende del tipo de carga y del equilibrio elegido. No se han hecho públicas las tareas ni la metodología, y algunos titulares que hablan de un 72 % no coinciden con lo que ha declarado Baseten.

Pasarela, salvaguardas e integraciones

Los equipos de plataforma pueden aprobar modelos, dar acceso por equipos, fijar presupuestos, usar credenciales gestionadas por la empresa y seguir el gasto por equipo, aplicación y agente. En el lanzamiento, Grid admite modelos de OpenAI, Anthropic, la Gemini Enterprise Agent Platform de Google, Amazon Bedrock y la propia Baseten. Claude Code, Codex, OpenCode y Pi se conectan con un solo comando, y las aplicaciones internas basadas en las API de Anthropic u OpenAI pueden cambiar modificando la URL base y el identificador del modelo. Las políticas de seguridad se aplican a peticiones y respuestas en la pasarela, frente a riesgos como documentos con instrucciones ocultas o datos de clientes que aparecen donde no deben.

Lo que aún falta

Baseten no ha revelado precios. Varias funciones anunciadas, como delegar trabajos largos a agentes en la nube, coordinar varios agentes o admitir salvaguardas propias de los clientes, figuran como previstas y no disponibles. Opendoor es el único cliente mencionado hasta ahora. Queda por ver si el ahorro de las pruebas se mantiene en el trabajo de producción diario mientras no haya resultados independientes.