Conozca a los Cerebros Detrás del Servicio de Chat de IA Amigable con Malware 'WormGPT'

WormGPT, un nuevo servicio privado de chatbot anunciado como una forma de usar Inteligencia Artificial (IA) para escribir software malicioso sin todas las molestas prohibiciones sobre dicha actividad impuestas por personas como ChatGPT y Bardo de Google, ha comenzado a agregar restricciones propias sobre cómo se puede usar el servicio. Frente a los clientes que intentan usar WormGPT para crear estafas de ransomware y phishing, el programador portugués de 23 años que creó el proyecto ahora dice que su servicio se está transformando lentamente en "un entorno más controlado".”

Imagen: SlashNext.com.

Los modelos de lenguaje grande (LLM) creados por ChatGPT parent OpenAI o Google o Microsoft todos tienen varias medidas de seguridad diseñadas para evitar que las personas abusen de ellos con fines nefastos, como crear malware o discursos de odio. En contraste, WormGPT se ha promocionado a sí mismo como un nuevo LLM sin censura que fue creado específicamente para actividades de cibercrimen.

WormGPT se vendió inicialmente exclusivamente en HackForums, una comunidad en expansión en idioma inglés que durante mucho tiempo ha presentado un mercado bullicioso de herramientas y servicios de ciberdelincuencia. Las licencias de WormGPT se venden a precios que oscilan entre 500 y 5.000 euros.

"Presentando mi nueva creación,' WormGPT', escribió "Último, "el identificador elegido por el usuario de HackForums que está vendiendo el servicio. "Este proyecto tiene como objetivo proporcionar una alternativa a ChatGPT, una que le permita hacer todo tipo de cosas ilegales y venderlas fácilmente en línea en el futuro. Todo lo relacionado con blackhat que se te ocurra se puede hacer con WormGPT, lo que permite a cualquier persona acceder a actividades maliciosas sin salir de la comodidad de su hogar.”

El desarrollador principal y líder de WormGPT," Last", promociona el servicio en HackForums. Imagen: SlashNext.

En julio, una empresa de seguridad basada en IA llamó Barra oblicua siguiente gusano GPT analizado y le pidió que creara un señuelo de phishing de" compromiso de correo electrónico comercial " (BEC) que podría usarse para engañar a los empleados para que paguen una factura falsa.

"Los resultados fueron inquietantes", dice SlashNext Daniel Kelley escribió. "WormGPT produjo un correo electrónico que no solo fue notablemente persuasivo sino también estratégicamente astuto, mostrando su potencial para sofisticados ataques de phishing y BEC.”

SlashNext le pidió a WormGPT que redactara este correo electrónico de phishing de BEC. Imagen: SlashNext.

Una revisión de las publicaciones de Last en HackForums a lo largo de los años muestra que esta persona tiene una amplia experiencia en la creación y el uso de software malicioso. En agosto de 2022, publicó por última vez un hilo de ventas para "Ladrón Ártico, "un troyano que roba datos y un registrador de pulsaciones de teclas que vendió allí durante muchos meses.

"Tengo mucha experiencia con malware", escribió Last en un mensaje a otro usuario de HackForums el año pasado.

Last también ha vendido una versión modificada del ladrón de información DCRat, así como un servicio de ofuscación comercializado para codificadores maliciosos que venden sus creaciones y desean aislarlas de ser modificadas o copiadas por los clientes.

Poco después de unirse al foro a principios de 2021, Last le dijo a varios usuarios diferentes de Hackforums que su nombre era Rafael y que era de Portugal. HackForums tiene una función que permite a cualquier persona dispuesta a tomarse el tiempo de revisar las publicaciones de un usuario para saber cuándo y si ese usuario estuvo vinculado previamente a otra cuenta.

Esa función de rastreo de cuentas revela que, si bien Last ha usado muchos seudónimos a lo largo de los años, originalmente usó el apodo "ruiunashackers."El primer resultado de búsqueda en Google para ese apodo único muestra un TikTok cuenta con el mismo apodo, y esa cuenta de TikTok dice que está asociada con un Instagram cuenta para un Rafael Morais desde Oporto, una ciudad costera en el noroeste de Portugal.

UN LIBRO ABIERTO

Contactado a través de Instagram y Telegram, Morais dijo que estaba feliz de conversar sobre WormGPT.

"Puedes preguntarme cualquier cosa", dijo Morais. "Soy un libro abierto.”

Morais dijo que recientemente se graduó de un instituto politécnico en Portugal, donde obtuvo un título en tecnología de la información. Dijo que solo alrededor del 30 al 35 por ciento del trabajo en WormGPT era suyo, y que otros programadores están contribuyendo al proyecto. Hasta ahora, dice, aproximadamente 200 clientes han pagado para usar el servicio.

"No hago esto por dinero", explicó Morais. "Básicamente fue un proyecto que pensé interesante al principio y ahora lo mantengo solo para ayudar a la comunidad. Hemos actualizado mucho desde el lanzamiento, nuestro modelo ahora es 5 o 6 veces mejor en términos de aprendizaje y precisión de respuesta.”

WormGPT no es el único clon pícaro de ChatGPT anunciado como amigable para los creadores de malware y los ciberdelincuentes. Según SlashNext, una tendencia inquietante en los foros de delitos cibernéticos es evidente en los hilos de discusión que ofrecen "jailbreaks" para interfaces como ChatGPT.

"Estos 'jailbreaks' son indicaciones especializadas que se están volviendo cada vez más comunes", escribió Kelley . "Se refieren a entradas cuidadosamente diseñadas diseñadas para manipular interfaces como ChatGPT para generar resultados que podrían implicar la divulgación de información confidencial ,la producción de contenido inapropiado o incluso la ejecución de código dañino. La proliferación de tales prácticas subraya los crecientes desafíos para mantener la seguridad de la IA frente a cibercriminales decididos.”

Morais dijo que han estado usando el Modelo GPT-J 6B desde que se lanzó el servicio, aunque se negó a discutir la fuente de los LLM que impulsan a WormGPT. Pero dijo que el conjunto de datos que informa a WormGPT es enorme.

"Cualquiera que pruebe wormgpt puede ver que no tiene diferencia con respecto a cualquier otra IA sin censura o incluso chatgpt con jailbreaks", explicó Morais. "El cambio de juego es que nuestro conjunto de datos [biblioteca] es grande.”

Morais dijo que comenzó a trabajar en computadoras a los 13 años, y pronto comenzó a explorar vulnerabilidades de seguridad y la posibilidad de ganarse la vida encontrándolas e informándolas a los proveedores de software.

"Mi historia comenzó en 2013 con algunas actividades de greyhat, nunca nada de blackhat, principalmente bugbounty", dijo. "En 2015, comenzó mi amor por la codificación, aprendiendo c# y más lenguajes de programación.net. En 2017 comencé a usar muchos foros de piratería porque he tenido algunos problemas en casa (en términos de dinero), así que tuve que ayudar a mis padres con dinero started comencé a vender algunos productos (aún no blackhat) y en 2019 comencé a convertir blackhat. Hasta hace unos meses todavía vendía productos blackhat, pero ahora con wormgpt veo un futuro brillante y he decidido comenzar mi transición a whitehat nuevamente.”

WormGPT vende licencias a través de un canal dedicado en Telegram, y el canal lamentó recientemente que la cobertura mediática de WormGPT hasta ahora haya pintado el servicio de una manera injustamente negativa.

"Estamos sin censura, no blackhat!"el canal WormGPT anunció a fines de julio. "Desde el principio, los medios nos han retratado como un LLM (Modelo de Lenguaje) malicioso, cuando todo lo que hicimos fue usar el nombre' blackhatgpt ' para nuestro canal de Telegram como meme. Alentamos a los investigadores a probar nuestra herramienta y proporcionar comentarios para determinar si es tan mala como la retratan los medios al mundo.”

Resulta que, cuando anuncias un servicio en línea para hacer cosas malas, las personas tienden a aparecer con la intención de hacer cosas malas con él. El líder de WormGPT, Last, parece haber reconocido esto en el lanzamiento inicial del servicio, que incluía el descargo de responsabilidad: "No somos responsables si usas esta herramienta para hacer cosas malas.”

Pero últimamente, dijo Morais, WormGPT se ha visto obligado a agregar ciertas barandas propias.

"Hemos prohibido algunos temas en el propio WormGPT", dijo Morais. "Todo lo relacionado con asesinatos, tráfico de drogas, secuestros, pornografía infantil, ransomware, delitos financieros . También estamos trabajando en bloquear BEC, por el momento todavía es posible, pero la mayoría de las veces estará incompleto porque ya agregamos algunas limitaciones. Nuestro plan es tener WormGPT marcado como una IA sin censura, no blackhat. En las últimas semanas hemos estado bloqueando algunos temas para que no se discutan en WormGPT.”

Aún así, Last ha seguido declarando en HackForums — y más recientemente en el foro de delitos cibernéticos mucho más serio Explotar - que WormGPT creará felizmente malware capaz de infectar una computadora y ser" completamente indetectable " (FUD) por prácticamente todos los principales fabricantes de antivirus (AV).

"Puede comprar fácilmente WormGPT y pedirle un script de malware Rust y seguramente será 99% FUD contra la mayoría de los AV", dijo Last a un habitante del foro a fines de julio.

Cuando se le pidió que enumerara algunos de los usos legítimos o lo que él llamó "sombrero blanco" para WormGPT, Morais dijo que su servicio ofrece código confiable, caracteres ilimitados y respuestas rápidas y precisas.

"Usamos WormGPT para solucionar algunos problemas en nuestro sitio web relacionados con posibles problemas y exploits de sql", explicó. "Puede usar WormGPT para crear firewalls, administrar iptables, analizar redes, bloqueadores de código, matemáticas, cualquier cosa.”

Morais dijo que quiere que WormGPT se convierta en una influencia positiva en la comunidad de seguridad, no destructiva, y que está tratando activamente de dirigir el proyecto en esa dirección. El hilo original de HackForums que proxeneta a WormGPT como el mejor amigo de un escritor de malware ha sido eliminado, y el servicio ahora se anuncia como " WormGPT-La Mejor alternativa GPT Sin Límites — Centrada en la Privacidad.”

"Tenemos algunos investigadores que usan nuestro wormgpt para cosas de pelo blanco, ese es nuestro enfoque principal ahora, convertir el wormgpt en algo bueno para [la] comunidad", dijo.

Aún no está claro si los clientes de Last comparten esa opinión.