Le prospectus amendé d'Anthropic avertit que l'entreprise pourrait bientôt atteindre son propre seuil d'accélération de la recherche par l'IA

Le prospectus d'introduction en Bourse amendé qu'Anthropic a déposé le 2 novembre auprès de la SEC a surtout retenu l'attention pour ses revenus et ses coûts. Ses facteurs de risque mis à jour contiennent pourtant une déclaration notable en matière de sécurité : l'entreprise estime pouvoir atteindre bientôt le stade que ses propres règles associent à l'auto-amélioration récursive, lorsque l'IA accélère nettement la mise au point d'IA plus performantes.

Ce que dit le document

D'après la lecture qu'en fait TechCrunch, Anthropic explique recourir à l'IA dans sa propre recherche et développement, et prévient que cette pratique pourrait présenter un risque de sécurité important si elle accélère fortement les progrès. Ce risque relève de sa Responsible Scaling Policy (RSP), qui décrit comment l'entreprise surveille et atténue les dangers à mesure que les capacités augmentent.

Le nouveau texte précise que les estimations et attentes internes concernant de futurs modèles, et non les modèles actuels, indiquent qu'Anthropic pourrait atteindre de façon imminente la définition de la RSP d'un « progrès fortement accéléré attribuable à l'IA ». L'entreprise affirme n'avoir désigné aucun modèle existant comme dépassant ce seuil et analyser encore les données sous-jacentes.

Le document admet aussi une faiblesse de suivi : par le passé, Anthropic n'a pas identifié certaines accélérations importantes de son rythme de développement avant qu'elles ne soient déjà survenues, et cela pourrait se reproduire. Elle ajoute ne pas s'attendre à pouvoir laisser Claude concevoir et construire en toute sécurité des générations successives de modèles de pointe de manière entièrement autonome, sans supervision humaine réelle, et envisager de mettre à jour sa RSP pour que les humains gardent le contrôle.

Le cadre de la politique

La page consacrée à la RSP mentionne une version 3.4, en vigueur depuis le 8 juillet 2026, qui selon l'entreprise révise le seuil relatif à la R&D automatisée afin de mieux cibler la menace redoutée ; la nouvelle formulation n'y est pas détaillée. Des versions antérieures décrivaient un niveau de R&D en IA comme la capacité à accélérer de façon spectaculaire la mise à l'échelle effective, précisé ensuite comme un doublement approximatif du rythme de progrès des capacités. Pour les modèles dépassant un palier inférieur, la politique exige déjà une démonstration expliquant comment les risques de désalignement sont maîtrisés.

Contexte et réserves

Cette déclaration fait suite à un essai publié en juin par l'Anthropic Institute, rapporté par Sherwood News, qui envisageait des scénarios où l'IA construit en grande partie ses successeurs et indiquait que Claude écrivait environ 80 % du code interne de l'entreprise. TechCrunch rappelle que, pour les sceptiques, un S-1 est aussi un document de promotion : affirmer approcher une IA capable de se construire elle-même peut également servir les investisseurs. Le dépôt ne fournit ni calendrier ni éléments vérifiables.