La compañía identifica cuatro amenazas emergentes asociadas al avance de la IA cognitiva, desde fraudes hiperpersonalizados hasta manipulación de la opinión pública y riesgos en interfaces cerebro-computadora
La inteligencia artificial está dejando de ser solo una herramienta para procesar datos o automatizar tareas. Hoy también puede analizar comportamientos, identificar patrones, anticipar decisiones e influir en la forma en que las personas reciben información, reaccionan y actúan en entornos digitales. Para Kaspersky, este avance abre una nueva frontera de riesgo: la protección de la autonomía cognitiva, es decir, la capacidad de las personas para decidir libremente sin ser perfiladas, manipuladas o influenciadas de forma invisible por sistemas tecnológicos.
Aunque la IA actual no puede leer pensamientos ni saber exactamente qué está pensando una persona, sí puede influir en su comportamiento. Esto ocurre a través de sistemas de recomendación, contenidos personalizados, perfilamiento psicológico y algoritmos que deciden qué información ve cada usuario, cuándo la ve y cómo se le presenta. Por eso, incluso si los escenarios más extremos aún son especulativos, Kaspersky advierte que el riesgo ya es real y seguirá creciendo a medida que estas tecnologías sean más precisas y estén más presentes en la vida diaria.
En este contexto, expertos de Kaspersky GReAT identifican cuatro riesgos emergentes que podrían volverse cada vez más relevantes con el avance de la IA cognitiva:
- La ingeniería social será más compleja y difícil de detectar
Los engaños digitales están entrando en una nueva etapa. Con el uso de grandes modelos de lenguaje, los ciberdelincuentes ya pueden crear correos, mensajes y páginas falsas mucho más creíbles, mejor redactadas y adaptadas al contexto de cada víctima.
Con el avance de la IA cognitiva, este riesgo podría crecer aún más. Los atacantes podrían combinar información de redes sociales, plataformas digitales y grandes bases de datos para diseñar fraudes mucho más personalizados.
El impacto no se limita a los usuarios individuales. Para las organizaciones, este tipo de ataques puede derivar en robo de datos, fraudes financieros o accesos no autorizados a sistemas internos. Según el más reciente informe global de Kaspersky Security Services, el phishing representa cerca del 15% de las técnicas de ataque más utilizadas, es decir, aproximadamente uno de cada siete ataques. Por eso, además de afectar a personas, el phishing también puede convertirse en la puerta de entrada para amenazas más avanzadas contra empresas, gobiernos y otras instituciones.
- La manipulación cognitiva puede influir en la opinión pública
El riesgo de la IA no se limita a los ataques contra una persona específica. También puede usarse para influir en comunidades enteras, amplificar ciertos mensajes, generar polarización o modificar la forma en que una audiencia percibe un tema. Actores maliciosos, grupos hacktivistas o amenazas avanzadas podrían aprovechar emociones, sesgos y patrones de comportamiento.
Este tipo de riesgo no es completamente nuevo. Las redes sociales ya han mostrado cómo los algoritmos pueden encerrar a los usuarios en cámaras de eco, reforzar opiniones previas y dar mayor visibilidad a contenidos diseñados para generar reacción.
Para Kaspersky, esto representa un desafío que va más allá de la ciberseguridad tradicional. La manipulación cognitiva puede afectar la autonomía individual, la confianza pública, la calidad de la información y la capacidad de las personas para tomar decisiones libres e informadas.
- El perfilamiento puede abrir la puerta a abusos predictivos
La IA también está haciendo más fácil reunir y conectar información que antes estaba dispersa. A partir de datos de redes sociales, búsquedas, interacciones, comportamiento digital y otras fuentes, un sistema puede construir perfiles cada vez más detallados sobre una persona: qué le interesa, cómo actúa, con quién se relaciona y qué consume.
Este nivel de perfilamiento aumenta riesgos como el doxxing, el acoso digital y otros abusos facilitados por la tecnología. Información que antes estaba separada ahora puede cruzarse automáticamente, revelar datos sensibles y vincular identidades.
El problema no termina ahí. Los modelos predictivos también pueden hacer que una persona sea evaluada, clasificada o incluso atacada no por algo que hizo, sino por lo que un sistema cree que podría hacer. Por eso, el riesgo ya no es solo perder privacidad, sino perder control sobre la propia identidad.
- Las interfaces cerebro-computadora podrían ampliar los riesgos del IoT
Aunque todavía están en una etapa principalmente experimental, las interfaces cerebro-computadora ya se usan en algunos entornos para ayudar a pacientes a comunicarse mediante la interpretación de señales neuronales.
Ahí aparece un nuevo riesgo: la conexión entre estas interfaces y el Internet de las Cosas. En la práctica, esto significa que una señal neuronal podría servir para enviar comandos a dispositivos conectados, como tecnologías de asistencia, equipos médicos o sistemas inteligentes del hogar.
Este tipo de integración puede traer beneficios importantes, especialmente para la salud y la accesibilidad. Sin embargo, también abre nuevos frentes de ciberseguridad. Si uno de estos sistemas llegara a ser comprometido, un atacante podría interceptar señales, manipular la respuesta de un dispositivo o provocar acciones no autorizadas.
“Aunque la IA cognitiva aún se encuentra en una etapa temprana y está lejos de alcanzar una adopción masiva, su desarrollo avanza rápidamente”, afirma Noushin Shabab, investigadora principal de seguridad del Equipo Global de Investigación y Análisis (GReAT) de Kaspersky. “Se espera que los modelos avanzados de interacción entre humanos e IA se vuelvan mucho más comunes en las próximas décadas. A medida que crezca su adopción, también lo harán los riesgos asociados, por lo que debemos prepararnos desde ahora”.
Para reducir estos riesgos, los expertos de Kaspersky recomiendan para los usuarios:
- No asumas que un mensaje es confiable solo porque está bien escrito o parece hecho para ti. Con IA, los ciberdelincuentes pueden crear correos, anuncios, enlaces o mensajes mucho más naturales, personalizados y convincentes. Si un contenido apela a tus emociones, confirma datos personales o te presiona a actuar rápido, verifica la fuente antes de hacer clic, responder o compartir información.
- Cuida los datos que alimentan tu perfil digital. Cada publicación, búsqueda, interacción o formulario puede aportar información sobre tus intereses, rutinas, relaciones o hábitos. Mientras más datos personales estén disponibles, más fácil será para un atacante, o para sistemas automatizados, construir perfiles precisos y usarlos para influir en tus decisiones o diseñar engaños a tu medida.
- Usa tecnología de protección para frenar los ataques que la IA puede hacer más creíbles. Aunque no siempre es posible saber si un fraude fue creado o personalizado con IA, sí se pueden bloquear muchos de sus canales de ataque: enlaces maliciosos, páginas falsas, intentos de phishing, robo de credenciales o archivos peligrosos. Soluciones como Kaspersky Premium ayudan a detectar estas amenazas antes de que comprometan la información personal o financiera del usuario.
Y para las empresas, recomiendan:
- Controla el acceso a sitios y aplicaciones riesgosas. Herramientas de Web & Application Control ayudan a las empresas a reducir la exposición a páginas maliciosas, aplicaciones no autorizadas o recursos web que pueden ser usados en campañas de phishing y engaños creados con IA.
- Capacita a los empleados para reconocer amenazas más creíbles. Con plataformas como Kaspersky Automated Security Awareness Platform (KASAP), las organizaciones pueden fortalecer las habilidades de sus equipos para identificar phishing, manipulación digital e intentos de ingeniería social potenciados por IA.
