Google detecta phishing en Irán, China, Rusia y Corea del Norte mediante Gemini NotiPress
Desde Google identificaron que actores gubernamentales de Irán, China, Rusia y Corea del Norte utilizaron su inteligencia artificial, Gemini, para llevar a cabo ataques de phishing y otras actividades maliciosas. Según el informe del Threat Intelligence Group (TIG), estos grupos emplearon la IA para traducir y adaptar señuelos de phishing, realizar investigaciones sobre objetivos de vigilancia y redactar scripts de software.
El informe señala que la mayoría de estas actividades provienen de Irán, la cual representa el 75% del uso malicioso de Gemini detectado. Si bien la inteligencia artificial se utilizó para tareas cibernéticas comunes, no se observó que los actores estatales desarrollen capacidades completamente nuevas, según Google. "Si bien la IA puede ser una herramienta útil para los actores de amenazas, aún no cambiaron las reglas del juego como a veces se dice", afirmó la compañía.
Identificaron más de 10 equipos cibernéticos iraníes que emplearon Gemini, destacando la unidad APT42, la cual utilizó la IA principalmente para la creación de contenido de phishing. Según el informe, "el 30% de toda la actividad de APT iraní en la plataforma" estuvo relacionada con este tipo de ataques. Además, estos grupos usaron Gemini para reconocimiento de objetivos, investigación de vulnerabilidades, identificación de proveedores de alojamiento gratuito y generación de contenido para operaciones cibernéticas.
Los actores chinos también aprovecharon Gemini para la creación de contenido y la investigación de información. Google detectó al menos 20 grupos vinculados a China, con un abordaje en instituciones gubernamentales estadounidenses. Asimismo, se identificó que estos actores utilizaron la IA para solicitar asistencia en sistemas relacionados con Microsoft y en traducciones de documentos técnicos.
Corea del Norte y Rusia: estrategias distintas en el uso de Gemini
En Corea del Norte, Google identificó que agentes estatales emplearon Gemini para redactar solicitudes de empleo para trabajadores de TI, como parte de un trabajo por infiltrar a ciudadanos norcoreanos en empresas occidentales. Además, nueve grupos norcoreanos intentaron recopilar información sobre tecnología militar y nuclear de Corea del Sur a través de la plataforma.
Sobre el caso de Rusia, el informe señala que el uso de Gemini fue menos frecuente. Google identificó tres grupos vinculados al país, pero especula que esto podría deberse a su utilización de modelos de lenguaje propios o buscan evitar ser rastreados.
Google refuerza medidas de seguridad contra el abuso de Gemini
La compañía norteamericana aseguró que su IA lograron bloquear intentos de generar código malicioso o revelar información confidencial. Google detectó un aumento en el uso de técnicas de jailbreak, donde los actores maliciosos intentan eludir los filtros de seguridad modificando las instrucciones dadas a la IA, pero hasta ahora estas estrategias fueron ineficaces.
El informe menciona un caso en el que se solicitó a Gemini incrustar texto codificado en un ejecutable y otro intento de generar código Python para un ataque de denegación de servicio. Si bien la IA procesó una solicitud de conversión de Base64 a hexadecimal, rechazó otras consultas directamente maliciosas.
Además, Google detectó intentos de utilizar Gemini para investigar vulnerabilidades en otros servicios de la compañía. Para contrarrestar estos intentos, la empresa reforzó sus sistemas de seguridad y está implementando mejoras adicionales.
El papel de Google DeepMind en la protección de la inteligencia artificial también es clave en este contexto. "Google DeepMind también desarrolla modelos de amenazas para la IA generativa para identificar vulnerabilidades potenciales y crea nuevas técnicas de evaluación y entrenamiento para abordar el mal uso causado por ellas", señala el informe.
