La inteligencia artificial generativa (GenAI) ha dejado de ser una novedad para convertirse en una herramienta esencial en el entorno empresarial. Sin embargo, su adopción acelerada también ha traído consigo riesgos significativos. Así lo revela el nuevo informe «The State of Generative AI 2025″ de Unit 42, el equipo de inteligencia de amenazas de Palo Alto Networks, líder mundial en ciberseguridad.
El estudio, basado en el análisis de más de 7.000 organizaciones a nivel mundial, muestra que el tráfico de GenAI creció más del 890% en 2024. Como resultado, los incidentes de pérdida de datos relacionados con estas herramientas se multiplicaron por 2,5 en lo que va de 2025, representando ya el 14% de todos los incidentes de seguridad en entornos SaaS, como los servicios de correo electrónico, el almacenamiento o la colaboración en la nube.
En Perú, el uso de GenAI también ha escalado rápidamente. Las organizaciones utilizan diversas aplicaciones de este tipo, siendo Copilot (77,4%) y Grammarly (10,7%) las más utilizadas por volumen de transacciones. Por volumen de datos, Copilot lidera con un 73,2%, seguido por ChatGPT (10,8%) y Microsoft Power Apps (7,1%).
«El empleo de herramientas de Inteligencia Artificial Generativa sin el conocimiento o autorización del área de TI, ello que se denomina ‘Shadow AI’, es uno de los principales retos actuales de las empresas. Teniendo en cuenta la rapidez con la que se adoptan estas tecnologías, en Perú es fundamental definir reglas claras y sistemas de control que permitan obtener sus ventajas sin poner en riesgo la seguridad», afirmó Kenneth Tovar, Country Manager de Palo Alto Networks para Perú y Bolivia.
El uso no autorizado de las herramientas de GenAI puede parecer inofensivo, desde un colaborador que redacta un correo electrónico con la ayuda de la IA, un estudiante que consulta un chatbot para resolver una tarea, hasta un desarrollador que genera código con una herramienta gratuita. Sin embargo, cuando estas acciones se llevan a cabo sin la supervisión y los controles adecuados, pueden llevar a la exposición de información confidencial, incumplimientos regulatorios o incluso la pérdida de propiedad intelectual.
Para responder a este nuevo escenario, Palo Alto Networks ha desarrollado un enfoque que permite a las organizaciones comprender y gestionar de forma segura el uso de aplicaciones GenAI de terceros. A través de su tecnología AI Access Security, es posible obtener visibilidad en tiempo real de qué herramientas se están utilizando, aplicar controles de acceso según el nivel de riesgo y evitar la exposición de datos confidenciales. Todo ello sin interrumpir los flujos de trabajo ni limitar la productividad del equipo.
¿Cómo protegerse del uso incontrolado de GenAI? Estas son las claves.
Para mitigar los riesgos asociados con el uso de GenAI, los especialistas recomiendan adoptar una estrategia de seguridad integral que combine diferentes capas de protección. Estos incluyen controles de acceso condicional, que le permiten restringir el uso de las aplicaciones de GenAI en función del perfil del usuario, el tipo de dispositivo o el nivel de riesgo de la herramienta. Por ejemplo, un empleado legal podría tener acceso limitado a ciertas plataformas de IA para evitar que servicios no autorizados procesen documentos confidenciales.
También destaca la importancia de implementar la inspección de contenidos en tiempo real, una medida que permite detectar y bloquear el uso indebido de datos sensibles -como información financiera, propiedad intelectual o datos personales- antes de que se envíen a plataformas externas. Esto es especialmente relevante en entornos SaaS donde los datos fluyen constantemente.
El enfoque Zero Trust complementa esta estrategia asumiendo que ninguna interacción es segura de forma predeterminada. Esto permite identificar y detener amenazas sofisticadas que podrían estar ocultas incluso en las respuestas generadas por IA, como enlaces maliciosos o instrucciones manipuladas.
Por último, la formación continua del personal es clave. No basta con tener tecnología avanzada; los usuarios deben comprender los riesgos y saber cómo usar estas herramientas de manera segura y responsable.
Con la creciente digitalización en sectores como salud, educación, manufactura y servicios financieros, Perú se posiciona como un mercado estratégico para la adopción segura de GenAI. Con una estrategia integral como la que propone Unit 42, este tipo de incidentes se pueden prevenir antes de que ocurran. En este sentido, Palo Alto Networks hace un llamado a las organizaciones para que no dejen que la velocidad de la innovación supere sus capacidades de protección.
