Expertos advierten que la IA agente presenta fallos de seguridad fundamentales por diseño

Boston — Los especialistas en seguridad Bruce Schneier y Barath Raghavan han advertido que la denominada inteligencia artificial agente (Agentic AI) presenta fallos de seguridad fundamentales en su propia arquitectura. En un ensayo publicado en la revista IEEE Security & Privacy, los expertos sostienen que este tipo de sistemas 'ya están rotos en su núcleo'.

Según el informe, las IA agentes operan sobre datos no confiables, utilizan herramientas no verificadas y deben tomar decisiones en entornos hostiles, lo que las hace vulnerables en todas las fases del ciclo OODA (observar, orientar, decidir y actuar). Cada una de estas etapas, afirman, puede ser objeto de manipulación o ataque.

Entre las amenazas más destacadas se encuentran la inyección de prompts (prompt injection), la contaminación de datos (data poisoning) y el uso indebido de herramientas, ataques que pueden corromper los sistemas desde su interior. Paradójicamente, una de las fortalezas del modelo —tratar todas las entradas de forma igual— también se convierte en una debilidad explotable.

Schneier y Raghavan denominan este dilema como el 'trilema de seguridad de la IA': rápida, inteligente o segura, pero nunca las tres a la vez. “La integridad no es una característica que pueda añadirse después; debe integrarse desde el principio del diseño”, advierten.

Los investigadores subrayan que, mientras la industria de la IA avanza hacia sistemas más autónomos, la falta de cimientos de seguridad podría convertir a los agentes inteligentes en objetivos fáciles para manipulación, sabotaje o explotación a gran escala. Este debate plantea un desafío crucial para el futuro desarrollo ético y seguro de la inteligencia artificial.