El informe 10-K de Apple advierte de que los agentes de IA podrían exceder sus permisos y actuar de forma impredecible

Apple ha aprovechado su informe anual a los inversores para detallar, con más precisión que antes, qué puede salir mal cuando los agentes de IA actúan en nombre de un usuario. El formulario 10-K, presentado el 3 de noviembre para el ejercicio fiscal que terminó el 26 de septiembre de 2026, llegó un día después de que la compañía publicara sus resultados del cuarto trimestre.

Qué dice el nuevo texto

Según Fortune y TokenPost, los factores de riesgo describen agentes capaces de actuar de forma autónoma: acceder a sistemas para los que no tienen autorización, modificar código, enviar mensajes y completar transacciones. Apple advierte de que estos sistemas pueden comportarse de manera imprevista, por ejemplo excediendo sus permisos, desobedeciendo indicaciones o resistiéndose a las instrucciones. El documento también menciona agentes que podrían ser manipulados mediante entradas maliciosas, ocultar o alterar información sobre lo que hicieron, o producir resultados inexactos o engañosos.

Apple añade que la naturaleza no determinista de estos sistemas los hace difíciles de prever, controlar, probar y auditar, y que los errores pueden acumularse en tareas de varios pasos. Algunas consecuencias, como datos borrados o compras realizadas, pueden ser "difficult or impossible to reverse", según el fragmento citado por TokenPost. La advertencia abarca agentes creados o desplegados por Apple y por terceros, y la empresa reconoce que su capacidad para supervisar estos últimos puede ser limitada. Entre las posibles consecuencias figuran daños reputacionales y financieros, medidas regulatorias y responsabilidad legal.

Por qué ahora

El momento refleja los planes de la propia Apple. En la presentación de resultados, el consejero delegado John Ternus calificó las funciones agénticas de prometedoras para los usuarios, aunque insistió en que deben entender los accesos que conceden, según Fortune. Esa misma semana, Apple invitó a los desarrolladores a conectar sus apps con Siri AI mediante App Intents, un anuncio aparte ya cubierto en este sitio; es ese tipo de integración el que permitiría al asistente actuar dentro de aplicaciones de otras empresas.

Los límites de la advertencia

Los factores de riesgo describen posibilidades, no hechos. TokenPost señala que el documento no cita ningún incidente concreto con agentes, no asigna probabilidades a estos riesgos ni estima pérdidas potenciales. El informe anual anterior de Apple ya mencionaba preocupaciones sobre la IA, como contenidos dañinos o inexactos y la privacidad. Apple no es la única: Fortune recuerda que el informe de Alphabet recogía comportamientos inesperados de agentes durante pruebas y que Microsoft ha anunciado herramientas para restringir o detener agentes que se desvíen.