LO ESENCIAL EN 30 SEGUNDOS

  • Darkbloom, creado por Eigen Labs, con sede en Seattle, envía tareas de inferencia de OpenRouter a Mac cuyos dueños alquilan su GPU; The Register cifra en unos 800 los participantes.
  • Un investigador de Eigen Labs dijo a los proveedores que los ingresos han sido bajos y que, para la mayoría, no espera que se recuperen pronto, por el abaratamiento de la inferencia en centros de datos.
  • El equipo quiere orientar a los proveedores hacia los modelos más demandados, probar tareas de CI/CD distribuidas, centrarse en clústeres de Mac Studio de gama alta y buscar compradores fuera de OpenRouter.

Darkbloom, un proyecto que permite a los dueños de Mac con Apple Silicon ganar dinero ejecutando modelos de IA para terceros, ha avisado a sus colaboradores de que los pagos son bajos y podrían seguir así. The Register informó del mensaje el 30 de octubre.

Cómo funciona la red

Darkbloom lo gestiona Eigen Labs, una empresa de Seattle. Su web lo describe como una red de inferencia privada basada en Mac: los proveedores instalan una aplicación o una herramienta de línea de comandos y los clientes llaman a los modelos mediante una API compatible con la de OpenAI. Según The Register, las tareas llegan a través de OpenRouter, la pasarela de modelos, donde Darkbloom figura como proveedor de 12 modelos de pesos abiertos. The Register calcula unos 800 participantes; el periodista, que es uno de ellos, dice haber ganado entre unos céntimos y unos pocos dólares al día.

En el mejor de los casos, según Darkbloom, un Mac mini con chip M5 Pro y 64 GB de memoria podría generar hasta 192 dólares al mes si funcionara de forma continua. La mediana de las 50 personas de su clasificación rondaba los 5,26 dólares diarios, según The Register. Estas cifras proceden de la empresa y no se han verificado de forma independiente.

Por qué cayeron los ingresos

En un mensaje de Slack a los proveedores, Kydo, investigador de Eigen Labs, admitió que los ingresos han sido bajos y dijo que, para la mayoría, no espera una recuperación pronto. A su juicio, la inferencia en centros de datos se ha abaratado mucho este año, lo que eliminó la ventaja de precio que tenía Darkbloom, y bajar más los precios solo reduciría lo que cobran los proveedores. The Register cita el índice de precios de tokens de Ramp, según el cual el precio por millón de tokens de Anthropic cayó cerca de un 77 % entre mayo y finales de octubre.

Según el artículo, Kydo cree que a los dueños de Mac antiguos o menos potentes, sin chips Max o Ultra, probablemente no les compensará ejecutar inferencia.

Próximos pasos

Eigen Labs prevé analizar la demanda para orientar a los proveedores hacia los modelos más solicitados y ofrecer otros trabajos, como tareas de CI/CD distribuidas, que requieren aislamiento en entornos seguros y empezarán a probarse pronto. También quiere centrarse en clústeres de Mac Studio con mucha memoria conectados por Thunderbolt, reducir el tiempo hasta el primer token y encontrar compradores de tokens fuera de OpenRouter. Kydo dijo esperar que muchas máquinas abandonen la red. No se ha dado un calendario, y el artículo de The Register no incluye comentarios de OpenRouter.