ESET advierte que, en manos de actores maliciosos, las herramientas de IA pueden aumentar la escala y gravedad de estafas, campañas de desinformación y otras amenazas.
La inteligencia artificial (IA) ha revolucionado la ciberseguridad en el último año, con importantes implicaciones tanto para empresas como para usuarios. ESET, líder en detección proactiva de amenazas, señala que, aunque la IA ayuda a fortalecer la seguridad, también está siendo aprovechada por ciberdelincuentes para potenciar estafas, ingeniería social, fraudes de cuentas y desinformación.
A inicios de 2024, el Centro Nacional de Ciberseguridad del Reino Unido (NCSC) alertó que la IA ya está en manos de actores maliciosos y que "casi con toda seguridad aumentará el volumen y el impacto de los ciberataques en los próximos dos años". El mayor riesgo se encuentra en la ingeniería social, donde la IA generativa (GenAI) facilita la creación de campañas altamente convincentes en múltiples idiomas. Además, la IA permite automatizar la identificación masiva de activos vulnerables, lo que incrementa la superficie de ataque.
Amenazas impulsadas por IA en 2025
Según ESET, durante 2025 podríamos ver un incremento en el uso de IA para:
- Eludir autenticaciones: Los deepfakes permitirán a estafadores suplantar identidades en verificaciones biométricas y de video para abrir o acceder a cuentas.
- Compromiso de correos corporativos (BEC): La IA facilitará la creación de mensajes de ingeniería social para engañar a empleados y lograr transferencias fraudulentas. También se podrán utilizar deepfakes de audio y video para suplantar a altos ejecutivos en reuniones virtuales.
- Suplantación de identidad: Modelos de lenguaje (LLM) de código abierto permitirán a estafadores entrenar IA con datos de redes sociales para simular secuestros virtuales y engañar a familiares y amigos.
- Estafas con influencers: Se espera un auge en la creación de perfiles falsos de celebridades mediante GenAI, con deepfakes en video que persuadan a seguidores a compartir datos personales o invertir en esquemas fraudulentos.
- Desinformación: La IA generará contenido falso para atraer usuarios a cuentas manipuladas y convertirlos en amplificadores de operaciones de influencia.
- Descifrado de contraseñas: Herramientas basadas en IA podrán vulnerar credenciales en segundos, facilitando el acceso a redes corporativas y cuentas personales.
Impacto en la privacidad y gestión de datos
El entrenamiento de modelos de IA requiere grandes volúmenes de datos, algunos de los cuales pueden ser sensibles. Redes sociales y otras plataformas podrían modificar sus términos para utilizar información de usuarios en el desarrollo de IA. Si estos modelos son comprometidos, los datos podrían quedar expuestos.
“Una vez absorbida por la IA, esta información representa un riesgo para las personas si el modelo es vulnerado o si se comparte involuntariamente a través de aplicaciones GenAI. Además, los usuarios corporativos podrían divulgar sin querer datos sensibles en interacciones con IA. Según una encuesta, una quinta parte de las empresas británicas ya han expuesto información confidencial a través del uso de GenAI”, explica Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.
IA como aliada de la ciberseguridad
Por otro lado, se prevé que la IA juegue un papel clave en la defensa contra ciberataques, integrándose en nuevas soluciones de seguridad para:
- Generar datos sintéticos para la formación de equipos y usuarios.
- Resumir informes de inteligencia sobre amenazas, facilitando decisiones rápidas ante incidentes.
- Mejorar la productividad de SecOps al priorizar alertas y automatizar procesos de investigación y corrección.
- Analizar grandes volúmenes de datos en busca de actividades sospechosas.
- Asistir a equipos de TI con funciones de "copiloto" que minimicen errores de configuración.
“Lo que está claro es que la IA transformará nuestra relación con la tecnología en 2025, para bien y para mal. Aunque ofrece beneficios significativos, también plantea nuevos riesgos que deben gestionarse. Gobiernos, empresas y usuarios debemos trabajar juntos para aprovechar su potencial sin comprometer la seguridad”, concluye Gutiérrez Amaya de ESET Latinoamérica.
Publicar un comentario