Pour Yao Shunyu, scientifique en chef IA de Tencent, les modèles approchent d'un seuil de nuisance en biologie

Yao Shunyu, scientifique en chef pour l'IA chez Tencent, a profité d'une intervention publique à Hong Kong le samedi 7 novembre pour avertir que les systèmes d'IA approchent d'un niveau de capacité dangereux en biologie. Selon le South China Morning Post, repris par The Next Web, il a expliqué que les modèles présentent déjà des risques en cybersécurité et que la biologie suivra bientôt, jusqu'à un point où il deviendra réellement possible de nuire. Il a ajouté que les risques biologiques pourraient se révéler plus difficiles à maîtriser que les risques cyber. FourWeekMBA, qui s'appuie sur des comptes rendus de Yicai et d'IT Home, situe ces propos lors d'un dialogue organisé dans le cadre du Future Science Prize 2026.

Un message aux éditeurs de modèles ouverts

L'avertissement visait en partie les entreprises chinoises qui publient des modèles ouverts, téléchargeables et modifiables par tous. Selon Yao, ces sociétés doivent traiter la sécurité avec le plus grand sérieux. Interrogé sur le maintien en accès ouvert des modèles Hunyuan si l'un d'eux devenait le premier mondial, il n'a pas répondu directement, rapporte Yicai, cité par FourWeekMBA. Il a plutôt énuméré les raisons pour lesquelles les laboratoires ouvrent leurs modèles : attirer des développeurs lorsqu'ils ne sont pas en tête, partager des connaissances avec la communauté scientifique et, de plus en plus, des considérations de sécurité.

Yao a reconnu que des entreprises américaines comme Anthropic défendent avec de bons arguments la fermeture des modèles les plus puissants, tout en estimant qu'un mélange de modèles ouverts et fermés pourrait mieux fonctionner, les modèles ouverts aidant aussi les défenseurs. Il prévient toutefois que l'attaque et la défense ne peuvent être totalement séparées : un meilleur raisonnement général et de meilleures compétences en code peuvent apporter des capacités offensives, même sans contenu d'attaque dans les données d'entraînement. Il plaide pour des garde-fous sur tout le cycle de vie : sélection soignée des données, revues de sécurité avant la sortie et surveillance ensuite.

Contexte : Hy4 et son rapport de sécurité

Ces déclarations interviennent quelques jours après le lancement par Tencent de son modèle phare Hy4, le 4 novembre. Tencent affirme avoir exclu de l'entraînement de Hy4 les contenus sur l'exploitation de failles logicielles et que des évaluations internes d'experts l'ont jugé moins performant que les meilleurs systèmes pour concevoir des expériences de biologie ; The Next Web précise ne pas avoir testé ces affirmations. Tencent prévoit de publier les poids de Hy4 et un rapport de tests de sécurité dans les prochains jours, selon Reuters, cité par The Next Web.

Âgé de 29 ans, Yao a rejoint Tencent après environ un an chez OpenAI et a été nommé scientifique en chef IA en décembre 2025.