La Inteligencia Artificial (IA) continua evolucionando de manera veloz y ya empieza a imponer respeto en la sociedad. Y es que en apenas unos años, la IA se ha convertido en una herramienta cada vez más presente en la vida cotidiana.
Su evolución está siendo tan rápida que, mientras gobiernos y organismos tratan de establecer normas para controlar sus riesgos, los sistemas de IA continúan ampliando sus capacidades a una velocidad difícil de seguir.
Tanto es así que ya se han empezado a registrar los primeros ataques procedentes de esta inteligencia. Así lo ha reflejado la Agencia Española de Protección de Datos (AEPD), quien ha asegurado haber recibido la primera notificación de una brecha de datos personales cuyo incidente ha sido ejecutado mediante un agente de inteligencia artificial. En concreto, se acusa a un agente autónomo de acceder de forma ilícita a datos de terceros.
El ataque de un agente de IA
Según ha explicado la AEPD, el agente inició una búsqueda de vulnerabilidades en archivos genéricos, realizó un inicio de sesión y, tras acceder al sistema, comenzó a modificar datos personales y acceder a facturas.
No obstante, el organismo ha explicado que la información disponible procede de la notificación presentada por la organización afectada y que, por tanto, deberá ser objeto del correspondiente análisis.
Tras el ataque, la AEPD no tiene pistas sobre las posibles empresas involucradas o el modelo utilizado, al que se tilda como un “conocido modelo de lenguaje”, por lo que se especula con que sea uno de los chatbots comerciales.
Un nuevo escenario
La importancia de esta notificación, además de por la tecnología empleada, radica en modificar el escenario de la gestión de riesgos, según ha explicado en un blog de la Agencia el director adjunto, Francisco Pérez Bes.
Y es que el incidente supone la materialización de un riesgo que hasta ahora se contemplaba principalmente como una posibilidad. La propia Agencia ha señalado que el caso “constituye una señal significativa de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales”.
La preocupación se centra especialmente en la capacidad de estos sistemas para actuar con rapidez y ejecutar diferentes tareas de forma automatizada. La inteligencia artificial no introduce necesariamente nuevas amenazas, pero puede reducir el margen disponible para detectar una intrusión y contenerla.