Agentes de IA replantean la ciberseguridad

Lo que hasta hace poco era un asistente conversacional hoy comienza a convertirse en un nuevo integrante de la operación. De acuerdo con Gartner, para 2028 alrededor del 33% de las aplicaciones empresariales incorporarán agentes de IA, frente a menos del 1% en 2024.  La adopción avanza rápidamente, pero también abre un nuevo frente para la ciberseguridad.

"Muchas organizaciones creen que implementar un agente de IA consiste únicamente en conectarlo a un modelo de lenguaje. En realidad, el reto comienza cuando ese agente interactúa con información crítica del negocio.

“En ese momento se convierte en un componente de la infraestructura digital que debe protegerse como cualquier otro activo estratégico", dijo José Carlos Joublanc Bosch, director general de transformación empresarial de Beyond Technology.

Mientras la conversación se ha centrado en las capacidades de estos agentes, pocas organizaciones están evaluando los riesgos que implica otorgarles acceso a información sensible o permitirles ejecutar acciones dentro de la empresa.

También puedes leer. México, en la posición 45 global en preparación de la IA. https://revistafactorrh.com/bienestar-24-horas/item/15233-mexico-en-la-posicion-45-global-en-preparacion-de-ia

Uno de los riesgos identificados por la comunidad de ciberseguridad es el prompt injection, una técnica mediante la cual un atacante introduce instrucciones diseñadas para alterar el comportamiento de un modelo de lenguaje. A diferencia de un ataque tradicional, no busca vulnerar el software, sino manipular la manera en que la IA interpreta la información que recibe.

OWASP, al considerarlo uno de los ataques más difíciles de controlar. Sus consecuencia pueden ir desde, revelar información interna, hasta consultar fuentes manipuladas, ignorar restricciones de seguridad o ejecutar procesos para los cuales nunca debió tener autorización

Para Beyond Technology, el reto no consiste en frenar la adopción de agentes de IA, sino en incorporarlos bajo un modelo de gobernanza que contemple controles de seguridad desde el diseño, control, autorización de costos y monitoreo continuo.

"Estamos entrando en una etapa donde la inteligencia artificial dejará de ser únicamente una herramienta de productividad para convertirse en un actor dentro de la operación de las empresas. La diferencia no estará en quién implemente más agentes, sino en quién pueda hacerlo de forma segura. La confianza será el verdadero habilitador de la adopción empresarial de la IA", afirmó Joublanc.