L'ESSENTIEL EN 30 SECONDES

  • Darkbloom, conçu par l'entreprise Eigen Labs basée à Seattle, envoie des tâches d'inférence issues d'OpenRouter vers des Mac dont les propriétaires louent le GPU ; The Register compte environ 800 participants.
  • Un chercheur d'Eigen Labs a indiqué aux contributeurs que les gains sont faibles et que, pour la plupart, ils ne devraient pas remonter de sitôt, en raison d'une inférence en centre de données devenue moins chère.
  • L'équipe veut orienter les contributeurs vers les modèles les plus demandés, tester des tâches CI/CD distribuées, se concentrer sur des grappes de Mac Studio haut de gamme et trouver des acheteurs hors d'OpenRouter.

Darkbloom, un projet qui permet aux propriétaires de Mac à puce Apple Silicon de gagner de l'argent en faisant tourner des modèles d'IA pour d'autres, a prévenu ses contributeurs que les rémunérations sont faibles et risquent de le rester. Le message a été rapporté par The Register le 30 octobre.

Le fonctionnement du réseau

Darkbloom est exploité par Eigen Labs, une entreprise de Seattle. Son site le présente comme un réseau d'inférence privé reposant sur des Mac : les contributeurs installent une application ou un outil en ligne de commande, et les clients appellent les modèles via une API compatible avec celle d'OpenAI. Selon The Register, les tâches arrivent par OpenRouter, la passerelle d'accès aux modèles, où Darkbloom figure comme fournisseur pour 12 modèles à poids ouverts. The Register estime le nombre de participants à environ 800 ; le journaliste, qui en fait partie, dit avoir gagné de quelques centimes à quelques dollars par jour.

Dans le meilleur des cas, selon Darkbloom, un Mac mini équipé d'une puce M5 Pro et de 64 Go de mémoire pourrait rapporter jusqu'à 192 dollars par mois s'il tournait en continu. La médiane des 50 personnes de son classement s'établissait à environ 5,26 dollars par jour, d'après The Register. Ces chiffres proviennent de l'entreprise et n'ont pas été vérifiés de manière indépendante.

Pourquoi les gains ont chuté

Dans un message Slack adressé aux contributeurs, Kydo, chercheur chez Eigen Labs, a reconnu des gains faibles et dit ne pas s'attendre, pour la plupart d'entre eux, à une reprise rapide. Selon lui, l'inférence en centre de données est devenue bien moins chère cette année, ce qui a effacé l'avantage tarifaire de Darkbloom, et baisser encore les prix réduirait surtout la rémunération des contributeurs. The Register cite l'indice des prix des tokens de Ramp, selon lequel le prix par million de tokens d'Anthropic a baissé d'environ 77 % entre mai et fin octobre.

Toujours selon l'article, Kydo estime que pour les Mac anciens ou moins puissants, dépourvus de puces Max ou Ultra, l'inférence ne vaudra probablement plus la peine.

La suite

Eigen Labs prévoit d'analyser la demande afin d'orienter les contributeurs vers les modèles les plus sollicités, et de proposer d'autres travaux, comme des tâches CI/CD distribuées, qui nécessitent un isolement en bac à sable et doivent bientôt entrer en test. L'entreprise veut aussi se concentrer sur des grappes de Mac Studio à grande mémoire reliées en Thunderbolt, réduire le délai avant le premier token et trouver des acheteurs de tokens en dehors d'OpenRouter. Kydo a dit s'attendre au départ de nombreuses machines. Aucun calendrier n'a été donné, et l'article de The Register ne contient aucun commentaire d'OpenRouter.