Un agente de IA automatizó parte del ataque

España registró ante la Agencia Española de Protección de Datos (AEPD) la primera notificación de una brecha de datos personales en la que un ciberataque habría sido ejecutado mediante un agente de inteligencia artificial conectado a un modelo de lenguaje.

De acuerdo con la información aportada por la organización afectada, una tercera persona utilizó el agente para desarrollar distintas etapas del ataque. El sistema comenzó buscando vulnerabilidades en archivos genéricos y posteriormente consiguió iniciar sesión en una aplicación.

Una vez dentro, el agente continuó analizando el entorno de manera autónoma para localizar nuevos fallos de seguridad. Tras encontrar otra vulnerabilidad, habría conseguido modificar datos personales y acceder a facturas almacenadas en el sistema.

La AEPD aclaró que, aunque parte del proceso fue automatizado, detrás del ataque continuó existiendo una persona. Fue ese individuo quien seleccionó el objetivo y puso en funcionamiento el agente de IA.

Es la primera notificación de este tipo ante la AEPD

La agencia informó sobre el incidente y señaló que todavía debe analizar sus características y alcance. Por el momento, no se ha informado qué modelo de lenguaje fue utilizado, cuántas personas podrían haberse visto afectadas ni qué datos concretos fueron modificados o quedaron expuestos.

El organismo destacó que se trata del primer incidente de estas características comunicado oficialmente ante la autoridad española.

Esta circunstancia no significa que sea el primer ciberataque ocurrido en España con asistencia de inteligencia artificial, sino el primero que fue notificado a la AEPD bajo estas características.

El modelo de IA no fue comprometido

La AEPD también realizó una aclaración sobre el funcionamiento de la herramienta. El uso de un determinado modelo de inteligencia artificial no implica que ese modelo ni la infraestructura de su proveedor hayan sido hackeados o comprometidos.

Tampoco significa que la herramienta hubiera sido desarrollada específicamente para realizar actividades maliciosas. En este caso, habría sido utilizada por un tercero como parte de un ataque dirigido contra los sistemas de una organización.

La agencia deberá determinar ahora el alcance de la brecha y analizar la información técnica incluida en la notificación.

La automatización puede acelerar los ciberataques

Para la AEPD, el caso representa una señal de que los ataques apoyados en agentes de IA ya no deben considerarse únicamente una posibilidad teórica. Sin embargo, el organismo advierte que una sola notificación no permite establecer que exista una tendencia generalizada.

La diferencia frente a determinados ataques tradicionales está relacionada con el nivel de automatización. Un agente puede encargarse de tareas de búsqueda, análisis y explotación con una intervención humana limitada y a una velocidad considerablemente mayor.

Por este motivo, la AEPD recomienda que las empresas incorporen este tipo de escenarios a sus análisis de riesgos y contemplen cómo la inteligencia artificial puede modificar la probabilidad, velocidad y alcance de una brecha de datos.

Revisar permisos y capacidad de respuesta

Entre las recomendaciones de la agencia se encuentra prestar especial atención a las identidades digitales y los permisos asignados a cada cuenta.

Una identidad con privilegios excesivos puede facilitar que un agente que consiga ingresar a un sistema acceda rápidamente a distintos recursos y alcance información sensible.

La AEPD también considera necesario revisar los tiempos de respuesta ante incidentes. La capacidad de automatización de los agentes de IA hace necesario contar con mecanismos capaces de detectar, contener y responder a las amenazas con suficiente rapidez.

La supervisión humana continúa siendo necesaria, pero la agencia sostiene que debe complementarse con sistemas de detección y respuesta capaces de actuar a una velocidad acorde con las nuevas capacidades de los agentes de inteligencia artificial.