Un pirata informático de sombrero infausto ha desatado una lectura maliciosa de ChatGPT de OpenAI indicación WormGPT, que luego se aprovechó para crear un ataque de phishing de correo electrónico efectivo en miles de víctimas.
WormGPT, basado en el maniquí de estilo ilustre GPTJ 2021 desarrollado por EleutherAI, está diseñado específicamente para actividades maliciosas, según un documentación de la firma de ciberseguridad SlashNext. Las características incluyen soporte ilimitado de caracteres, retención de memoria de chat y formato de código, y WormGPT ha sido entrenado en conjuntos de datos relacionados con malware.
Los ciberdelincuentes ahora están utilizando WormGPT para editar un tipo de ataque de phishing conocido como ataque Business Email Compromise (BEC).
“La diferencia [from WormGPT] is ChatGPT tiene barandillas para defenderse contra casos de uso ilegales o nefastos”, dijo el director de operaciones de la firma de seguridad blockchain Halborn David Schwed a Decrypt en Telegram. “[WormGPT] no tiene esas medidas de protección, por lo que puede pedirle que desarrolle malware para usted”.
Los ataques de phishing son una de las formas de ataque cibernético más antiguas pero más comunes y, por lo normal, se ejecutan a través de correo electrónico, mensajes de texto o publicaciones en redes sociales con un nombre impostor. En un ataque de compromiso de correo electrónico comercial, un atacante se hace tener lugar por un ejecutor o empleado de la empresa y engaña al objetivo para que envíe patrimonio o información confidencial.
Gracias a los rápidos avances en la IA generativa, los chatbots como ChatGPT o WormGPT pueden escribir correos electrónicos convincentes similares a los humanos, lo que hace que los mensajes fraudulentos sean más difíciles de detectar.
SlashNext dice que tecnologías como WormGPT bajan el tabla para realizar ataques BEC efectivos, potenciando a los atacantes menos hábiles y creando así un rama más ilustre de posibles ciberdelincuentes.
Para defenderse contra los ataques de compromiso de correo electrónico empresarial, SlashNext recomienda que las organizaciones utilicen una comprobación de correo electrónico mejorada, incluidas alertas automáticas para correos electrónicos que suplantan cifras internas y marcan correos electrónicos con palabras esencia como “urgente” o “transferencia bancaria” que generalmente están relacionadas con BEC.
Con la amenaza cada vez veterano de los ciberdelincuentes, las corporaciones buscan constantemente formas de defenderse a sí mismas y a sus clientes.
En marzo, Microsoft, uno de los mayores inversores en el creador de ChatGPT, OpenAI, lanzó una utensilio de IA generativa centrada en la seguridad indicación Security Copilot. Security Copilot aprovecha la IA para mejorar las defensas de ciberseguridad y la detección de amenazas.
“En un mundo donde hay 1287 ataques de contraseña por segundo, las herramientas e infraestructura fragmentadas no han sido suficientes para detener a los atacantes”, dijo Microsoft en su anuncio. “Y aunque los ataques han aumentado un 67 % en los últimos cinco primaveras, la industria de la seguridad no ha podido contratar suficientes profesionales de aventura cibernético para seguir el ritmo”.
SlashNext aún no ha respondido a la solicitud de comentarios de Decrypt.
