OpenAI lanzó una nueva versión de su modelo de lenguaje natural, GPT-4 en marzo, y el gran problema de cualquier avance tecnológico masivo es el riesgo ante ciberataques: mientras más usuarios haya, mayor será el alcance del ataque. Para entender esta situación, los investigadores de Unit 42, la Unidad de Investigación e Inteligencia de Amenazas de Palo Alto Networks, están monitoreando trending topics, dominios recién registrados y dominios ocupados relacionados con ChatGPT, ya que es una de las aplicaciones de consumo más populares y con mayor crecimiento de la historia, que también está atrayendo la atención de los estafadores.
Esta tecnología es un modelo de Inteligencia artificial (IA) que se está convirtiendo cada vez más en un activo crucial para las organizaciones que utilizan la automatización para aumentar la productividad y la eficacia de sus procesos. Según el seguimiento de Unit 42, entre noviembre de 2022 y principios de abril de 2023, se produjo un aumento del 910 % en los registros mensuales de dominios relacionados con ChatGPT. Adicionalmente, se pudo observar un crecimiento del 17,818% en dominios maliciosos relacionados con registros de seguridad DNS en este periodo de tiempo.
Los investigadores también descubrieron que era posible detectar hasta 118 intentos diarios de URL maliciosas relacionadas con ChatGPT, capturadas a partir del tráfico visto en el Sistema de Filtrado Avanzado de URL de Palo Alto Networks. «Hemos detectado un número creciente de productos sospechosos que utilizan la API oficial de OpenAI para ChatGPT, por lo que exhortamos a los usuarios mantenerse alertas frente a los potenciales riesgos de seguridad”, advirtió Kenneth Tovar Roca, Country Manager de Palo Alto Networks para Perú y Bolivia.
Tendencias de actividad sospechosa relacionada con ChatGPT
Mientras OpenAI iniciaba su rápido ascenso para convertirse en una de las marcas más famosas dentro de la inteligencia artificial, se observaron varios casos de actores de amenazas que registraban y utilizaban dominios fraudulentos en el ciberespacio teniendo «openAI» y «ChatGPT» como nombre de dominio (por ejemplo, openai[.]us, openai[.]xyz y chatgpt[.]jobs). La mayoría de estos dominios no han alojado nada malicioso desde principios de abril de 2023, pero es preocupante que no estén controlados por OpenAI u otras empresas auténticas de gestión de dominios y que estén siempre en el límite de ocasionar daños.
«Descubrimos un incremento notable en los registros diarios de dominios durante el período de nuestra investigación. Posteriormente a que Microsoft anunciara su nueva versión de Bing en febrero, se registraron más de 300 dominios relacionados con ChatGPT. Su popularidad se ha traducido en un aumento significativo de detección de amenazas por parte de nuestra suscripción de DNS Security», afirma Kenneth Tovar.
Unit 42 también realizó una investigación de keywords en el tráfico desde el Sistema de Filtrado Avanzado de URL y fue posible identificar dos grandes picos de búsqueda con las palabras «ChatGPT y GPT-4» el día en que OpenAI publicó la API oficial.
Estafas que usan el nombre de Chat GPT como anzuelo
Al realizar la investigación, se pudieron observar varias URL de phishing que intentaban hacerse pasar por sitios web oficiales de OpenAI. Normalmente, los estafadores crean un sitio web falso que imita la apariencia del sitio web oficial de ChatGPT y luego engañan a los usuarios para que descarguen malware o compartan información confidencial.
Una técnica habitual que utilizan los estafadores para distribuir malware es presentar a los usuarios un falso botón de «DESCARGA PARA WINDOWS» que una vez pulsado descarga un troyano, el cual es un programa malicioso que infecta dispositivos como si fuera un programa legítimo sin que las víctimas perciban el riesgo.
Además, los estafadores pueden utilizar ingeniería social relacionada con ChatGPT para el robo de identidad o el fraude financiero. A pesar de que OpenAI ofrece a los usuarios una versión gratuita de ChatGPT, los estafadores conducen a las víctimas a sitios web fraudulentos, alegando que deben pagar por estos servicios. Por ejemplo, el sitio web falso de ChatGPT intenta engañar a las víctimas para que faciliten su información confidencial, como datos de tarjetas de crédito y direcciones de correo electrónico.
Los especialistas de Unit 42 también han observado que algunos estafadores se aprovechan de la creciente popularidad de OpenAI para obtener criptomonedas. Se pudo identificar a un estafador que abusaba del logotipo de OpenAI y del nombre de Elon Musk para atraer a las víctimas a un evento fraudulento de distribución de criptodivisas.
Los riesgos de los chatbots imitadores
Aunque ChatGPT se ha convertido en una de las aplicaciones más populares de este año, también han aparecido en el mercado un número cada vez mayor de aplicaciones de chatbot imitadoras de IA. Algunas de estas aplicaciones ofrecen sus propios modelos de lenguaje, y otras afirman que ofrecen servicios ChatGPT a través de la API pública anunciada el 1 de marzo. Sin embargo, el uso de chatbots imitadores puede aumentar los riesgos de seguridad.
Antes de la publicación de la API de ChatGPT, existían varios proyectos de código abierto que permitían a los usuarios conectarse a ChatGPT a través de diversas herramientas de automatización. Dado que ChatGPT no es accesible en determinados países o regiones, los sitios web creados mediante estas herramientas de automatización o API pueden atraer a un número considerable de usuarios de estas zonas. Esto también da a los actores de amenazas la oportunidad de monetizar ChatGPT mediante su servicio.
“Cada vez más organizaciones utilizan la inteligencia artificial para automatizar su productividad y mejorar la calidad y efectividad de sus procesos. Estos avances tecnológicos están revolucionando nuestras industrias, pero además, es igualmente importante contar con mecanismos de ciberseguridad preparados específicamente para afrontar estos retos técnicos. Palo Alto Networks es el pionero en el uso de IA para la ciber-seguridad, brindando actualmente protección con estos mecanismos en nuestros NGFWs para la protección de las redes, Cortex para la protección de los endpoints y Prisma Cloud y Prisma Access para la protección en la nube; los cuales protegen ante distintos tipos de estafas y ahora estas relacionadas con ChatGPT”, explica el Country Manager de Palo Alto Networks para Perú y Bolivia.
