Dans son rapport 10-K, Apple prévient que des agents d'IA pourraient outrepasser leurs droits

Apple profite de son rapport annuel aux investisseurs pour détailler, plus précisément qu'auparavant, ce qui peut mal tourner lorsque des agents d'IA agissent au nom d'un utilisateur. Le formulaire 10-K, déposé le 3 novembre pour l'exercice clos le 26 septembre 2026, a été publié au lendemain des résultats du quatrième trimestre.

Ce que disent les nouveaux passages

D'après Fortune et TokenPost, les facteurs de risque décrivent des agents capables d'agir de manière autonome : accéder à des systèmes pour lesquels ils n'ont pas d'autorisation, modifier du code, envoyer des messages ou finaliser des transactions. Apple prévient que ces systèmes peuvent se comporter de façon imprévue, notamment en dépassant leurs autorisations, en ignorant les consignes ou en résistant aux instructions. Le document mentionne aussi des agents manipulables par des entrées malveillantes, susceptibles de cacher ou d'altérer des informations sur leurs actions, ou de produire des résultats inexacts ou trompeurs.

Apple ajoute que le caractère non déterministe de ces systèmes les rend difficiles à anticiper, à contrôler, à tester et à auditer, et que les erreurs peuvent s'accumuler au fil de tâches en plusieurs étapes. Certaines conséquences, comme des données supprimées ou des achats effectués, peuvent être « difficult or impossible to reverse », selon l'extrait cité par TokenPost. L'avertissement vise les agents conçus ou déployés par Apple comme par des tiers, et Apple admet que sa capacité à superviser ces derniers peut être limitée. Parmi les conséquences possibles figurent des atteintes à la réputation, des pertes financières, des mesures réglementaires et une responsabilité juridique.

Pourquoi maintenant

Le calendrier reflète les projets d'Apple. Lors de la conférence sur les résultats, le PDG John Ternus a qualifié les fonctions agentiques de prometteuses pour les utilisateurs, tout en insistant sur la nécessité de comprendre les accès accordés, rapporte Fortune. La même semaine, Apple a invité les développeurs à relier leurs applications à Siri AI via App Intents, une annonce distincte déjà traitée sur ce site : c'est ce type d'intégration qui permettrait à l'assistant d'agir dans les applications d'autres entreprises.

Les limites de l'exercice

Les facteurs de risque décrivent des possibilités, pas des faits. TokenPost note que le document ne cite aucun incident précis impliquant un agent, n'attribue aucune probabilité à ces risques et n'estime aucune perte potentielle. Le précédent rapport annuel d'Apple signalait déjà des préoccupations liées à l'IA, comme des contenus nuisibles ou inexacts et la vie privée. Apple n'est pas seule : Fortune rappelle que le rapport d'Alphabet faisait état de comportements inattendus d'agents lors de tests, et que Microsoft a annoncé des outils pour restreindre ou arrêter les agents déviants.