LO ESENCIAL EN 30 SEGUNDOS

  • Revolut ofrece modelos GLM autoalojados a unos 2.000 ingenieros con 56 GPU Nvidia B200, con un coste medio de unos 0,30 dólares por millón de tokens, según una charla de David Abitbol.
  • La factura equivale a cerca de una décima parte de lo que la fintech pagaba antes a Anthropic y OpenAI; Claude Code y Codex siguen disponibles para tareas concretas.
  • Las métricas internas muestran mejoras notables en los tiempos de desarrollo, aunque la comparación no aísla el efecto del cambio de modelo.

La fintech británica Revolut ha pasado la mayor parte de su programación asistida por IA de las API de pago por uso de Anthropic y OpenAI a modelos de pesos abiertos alojados por ella misma. David Abitbol, responsable de operaciones e infraestructura de la compañía, explicó el cambio en una charla en la conferencia AI Engineer de Nueva York el 13 de octubre.

El sistema y el ahorro

Según Abitbol, Revolut pone modelos de la familia GLM, de Zhipu AI, a disposición de unos 2.000 ingenieros mediante 56 GPU Nvidia B200. La transcripción de la charla indica que la empresa empezó con GLM 5.1 en abril y ahora usa GLM 5.3, aunque algunos artículos citan GLM-4.5. Al ser compatibles con la interfaz de OpenAI, se usan con herramientas como OpenCode o Codex.

El coste medio ronda los 0,30 dólares por millón de tokens, y la factura total, una décima parte de lo que Revolut pagaba a los dos laboratorios estadounidenses. StartupHub.ai advierte de que esa cifra excluye nube, personal y monitorización. Los modelos autoalojados son ahora la opción por defecto, mientras que Claude Code, Codex y Gemini siguen disponibles cuando rinden claramente mejor. Las tareas con imágenes van a modelos multimodales externos, ya que el modelo propio solo procesa texto.

Al principio, la configuración de inferencia por defecto funcionaba mal. Ajustando la longitud de contexto, la cuantización y el paralelismo, sin añadir hardware, el equipo elevó el rendimiento de unas 3 a más de 7 peticiones por segundo y redujo el tiempo hasta el primer token de 14,26 a 1,68 segundos.

Productividad y matices

Revolut mide el tiempo de programación y el plazo hasta tener una funcionalidad lista para fusionarse. Los primeros usos de Gemini aportaron mejoras de entre un 10 % y un 20 %, mientras que Claude Code, con presupuestos estrictos por ingeniero, apenas tuvo efecto al principio. Tras pasar a modelos autoalojados sin límite de tokens, Abitbol habla de mejoras de alrededor del 60 % en tiempo de programación y del 70 % en plazo de entrega. La comparación no aísla el efecto del modelo y los resultados no se han verificado de forma independiente.

En cuanto a seguridad, cada sesión de agente se ejecuta en un entorno aislado, con supervisión humana y listas de comandos permitidos. Los modelos funcionan en jurisdicciones con acuerdos de equivalencia en protección de datos (Estados Unidos, la UE, Reino Unido e Israel), sin retención de datos por parte del proveedor de inferencia, y ninguna petición se envía a servidores chinos. El sistema abarca las herramientas internas de desarrollo, no los sistemas bancarios de los clientes.