Rencontrez les Cerveaux Derrière le Service de chat IA convivial pour les logiciels malveillants " WormGPT’

Vermifuge, un nouveau service de chatbot privé annoncé comme un moyen d'utiliser l'Intelligence artificielle (IA) pour écrire des logiciels malveillants sans toutes les interdictions embêtantes sur une telle activité imposées par des gens comme GPT de discussion et Barde de Google, a commencé à ajouter ses propres restrictions sur la façon dont le service peut être utilisé. Confronté à des clients essayant d'utiliser WormGPT pour créer des ransomwares et des escroqueries par hameçonnage, le programmeur portugais de 23 ans qui a créé le projet affirme maintenant que son service se transforme lentement en “un environnement plus contrôlé.”

Image: SlashNext.com.

Les grands modèles de langage (LLM) créés par ChatGPT parent Ouvert ou Google Plus ou Microsoft tous ont diverses mesures de sécurité conçues pour empêcher les gens d'en abuser à des fins néfastes, telles que la création de logiciels malveillants ou de discours de haine. En revanche, WormGPT s'est présenté comme un nouveau LLM non censuré qui a été créé spécifiquement pour les activités de cybercriminalité.

WormGPT était initialement vendu exclusivement sur Forums de piratage, une communauté tentaculaire de langue anglaise qui a longtemps présenté un marché animé pour les outils et services de cybercriminalité. Les licences WormGPT sont vendues à des prix allant de 500 à 5 000 euros.

"Présentant ma nouvelle création,' WormGPT, ' a écrit “Dernier, "le pseudo choisi par l'utilisateur de HackForums qui vend le service. "Ce projet vise à fournir une alternative à ChatGPT, une alternative qui vous permet de faire toutes sortes de choses illégales et de les vendre facilement en ligne à l'avenir. Tout ce que vous pouvez penser à blackhat peut être fait avec WormGPT, permettant à quiconque d'accéder à des activités malveillantes sans jamais quitter le confort de sa maison.”

Le développeur principal et leader de WormGPT” Dernier " à promouvoir le service sur les forums de piratage. Image: Barre oblique suivante.

En juillet, une entreprise de sécurité basée sur l'IA a appelé Slashsuivant VERGPT analysé et lui a demandé de créer un leurre de phishing” business email compromise " (BEC) qui pourrait être utilisé pour inciter les employés à payer une fausse facture.

” Les résultats ont été troublants", a déclaré SlashNext Daniel Kelley a écrit. "WormGPT a produit un e-mail qui était non seulement remarquablement persuasif, mais aussi stratégiquement astucieux, mettant en valeur son potentiel d'attaques sophistiquées de phishing et de BEC.”

SlashNext a demandé à WormGPT de composer cet e-mail de phishing BEC. Image: Barre oblique suivante.

Un examen des publications de Last sur les forums de piratage au fil des ans montre que cette personne possède une vaste expérience dans la création et l'utilisation de logiciels malveillants. En août 2022, la dernière publication d'un fil de vente pour “Voleur Arctique, "un cheval de Troie volant des données et un enregistreur de frappe qu'il y a vendu pendant de nombreux mois.

” Je suis très expérimenté avec les logiciels malveillants", a écrit Last dans un message à un autre utilisateur de HackForums l'année dernière.

Last a également vendu une version modifiée du voleur d'informations CATD, ainsi qu'un service d'obscurcissement commercialisé auprès des codeurs malveillants qui vendent leurs créations et souhaitent les empêcher d'être modifiées ou copiées par les clients.

Peu de temps après avoir rejoint le forum début 2021, il a déclaré pour la dernière fois à plusieurs utilisateurs de Hackforums qu'il s'appelait Rafael et qu'il venait du Portugal. HackForums a une fonctionnalité qui permet à toute personne désireuse de prendre le temps de fouiller dans les publications d'un utilisateur pour savoir quand et si cet utilisateur était auparavant lié à un autre compte.

Cette fonctionnalité de traçage de compte révèle que bien que Last ait utilisé de nombreux pseudonymes au fil des ans, il utilisait à l'origine le surnom “les ruiunashackers."Le premier résultat de recherche dans Google pour ce surnom unique fait apparaître un TikTok compte avec le même surnom, et ce compte TikTok indique qu'il est associé à un Instagram compte pour un Raphaël Morais de Porto, une ville côtière du nord-ouest du Portugal.

UN LIVRE OUVERT

Joint via Instagram et Telegram, Morais a déclaré qu'il était heureux de discuter de WormGPT.

” Vous pouvez me demander n'importe quoi", a déclaré Morais. “Je suis un livre ouvert.”

Morais a déclaré qu'il était récemment diplômé d'un institut polytechnique au Portugal, où il a obtenu un diplôme en technologie de l'information. Il a dit que seulement environ 30 à 35 pour cent du travail sur WormGPT était le sien, et que d'autres codeurs contribuent au projet. Jusqu'à présent, dit-il, environ 200 clients ont payé pour utiliser le service.

” Je ne fais pas ça pour l'argent", a expliqué Morais. “C'était fondamentalement un projet que je pensais intéressant au début et maintenant je le maintiens juste pour aider [la] communauté. Nous avons beaucoup mis à jour depuis la sortie, notre modèle est maintenant 5 ou 6 fois meilleur en termes d'apprentissage et de précision des réponses.”

WormGPT n'est pas le seul clone de ChatGPT non autorisé annoncé comme convivial pour les auteurs de logiciels malveillants et les cybercriminels. Selon SlashNext, une tendance troublante sur les forums de cybercriminalité est évidente dans les fils de discussion proposant des "jailbreaks" pour des interfaces comme ChatGPT.

"Ces" jailbreaks " sont des invites spécialisées qui deviennent de plus en plus courantes”, a écrit Kelley. "Ils se réfèrent à des entrées soigneusement conçues conçues pour manipuler des interfaces comme ChatGPT afin de générer une sortie qui pourrait impliquer la divulgation d'informations sensibles, la production de contenu inapproprié ou même l'exécution de code nuisible. La prolifération de telles pratiques souligne les défis croissants liés au maintien de la sécurité de l'IA face à des cybercriminels déterminés.”

Morais a dit qu'ils utilisaient le Modèle GPT-J 6B depuis le lancement du service, bien qu'il ait refusé de discuter de la source des LLM qui alimentent WormGPT. Mais il a dit que l'ensemble de données qui informe WormGPT est énorme.

"Quiconque teste wormgpt peut voir qu'il n'a aucune différence avec toute autre IA non censurée ou même chatgpt avec jailbreaks”, a expliqué Morais. “Ce qui change la donne, c'est que notre ensemble de données [bibliothèque] est volumineux.”

Morais a déclaré qu'il avait commencé à travailler sur des ordinateurs à l'âge de 13 ans et qu'il avait rapidement commencé à explorer les failles de sécurité et la possibilité de gagner sa vie en les trouvant et en les signalant aux éditeurs de logiciels.

“Mon histoire a commencé en 2013 avec des activités de chapeau gris, jamais rien de chapeau noir, surtout bugbounty”, a-t-il déclaré. “En 2015, mon amour pour le codage a commencé, en apprenant le c# et d'autres langages de programmation.net. En 2017, j'ai commencé à utiliser de nombreux forums de piratage parce que j'ai eu des problèmes à la maison (en termes d'argent), j'ai donc dû aider mes parents avec de l'argent... j'ai commencé à vendre quelques produits (pas encore blackhat) et en 2019 j'ai commencé à devenir blackhat. Jusqu'à il y a quelques mois, je vendais encore des produits blackhat, mais maintenant avec wormgpt, je vois un bel avenir et j'ai décidé de recommencer ma transition vers whitehat.”

WormGPT vend des licences via un canal dédié sur Telegram, et la chaîne a récemment déploré que la couverture médiatique de WormGPT jusqu'à présent ait présenté le service sous un jour injustement négatif.

“Nous ne sommes pas censurés, pas blackhat!"la chaîne WormGPT a annoncé fin juillet. “Depuis le début, les médias nous ont dépeints comme un LLM malveillant (Modèle de langage), alors que tout ce que nous faisions était d'utiliser le nom "blackhatgpt" pour notre chaîne Telegram comme meme. Nous encourageons les chercheurs à tester notre outil et à fournir des commentaires pour déterminer s'il est aussi mauvais que les médias le décrivent au monde.”

Il s'avère que lorsque vous annoncez un service en ligne pour faire de mauvaises choses, les gens ont tendance à se présenter avec l'intention de faire de mauvaises choses avec. Le leader de WormGPT semble l'avoir reconnu lors du lancement initial du service, qui comprenait la clause de non-responsabilité: “Nous ne sommes pas responsables si vous utilisez cet outil pour faire de mauvaises choses.”

Mais dernièrement, a déclaré Morais, WormGPT a été contraint d'ajouter certains garde-corps qui lui sont propres.

” Nous avons interdit certains sujets sur WormGPT lui-même", a déclaré Morais. "Tout ce qui concerne les meurtres, le trafic de drogue, les enlèvements, la pornographie juvénile, les ransomwares, la criminalité financière. Nous travaillons également sur le blocage de BEC, pour le moment c'est encore possible mais la plupart du temps ce sera incomplet car nous avons déjà ajouté quelques limitations. Notre plan est d'avoir WormGPT marqué comme une IA non censurée, pas blackhat. Au cours des dernières semaines, nous avons empêché certains sujets d'être discutés sur WormGPT.”

Pourtant, Last a continué à déclarer sur les forums de piratage — et plus récemment sur le forum beaucoup plus sérieux sur la cybercriminalité Exploiter - que WormGPT créera très heureusement des logiciels malveillants capables d'infecter un ordinateur et de devenir “totalement indétectables” (FUD) par pratiquement tous les principaux fabricants d'antivirus (AV).

“Vous pouvez facilement acheter WormGPT et lui demander un script de malware Rust et il sera sûr à 99% d'être utilisé contre la plupart des ANTIVIRUS”, a déclaré pour la dernière fois un habitant du forum fin juillet.

Invité à énumérer certaines des utilisations légitimes ou ce qu'il a appelé “chapeau blanc” pour WormGPT, Morais a déclaré que son service offre un code fiable, des caractères illimités et des réponses précises et rapides.

“Nous avons utilisé WormGPT pour résoudre certains problèmes sur notre site Web liés à d'éventuels problèmes et exploits sql”, a-t-il expliqué. “Vous pouvez utiliser WormGPT pour créer des pare-feu, gérer des iptables, analyser le réseau, les bloqueurs de code, les mathématiques, n'importe quoi.”

Morais a déclaré qu'il souhaitait que WormGPT devienne une influence positive sur la communauté de la sécurité, et non destructrice, et qu'il essayait activement d'orienter le projet dans cette direction. Le fil d'origine HackForums proxénétisme WormGPT en tant que meilleur ami d'un auteur de logiciels malveillants a depuis été supprimé, et le service est maintenant annoncé comme “WormGPT - Meilleure alternative GPT Sans limites-Axée sur la confidentialité.”

“Nous avons quelques chercheurs qui utilisent notre wormgpt pour des trucs de whitehat, c'est notre objectif principal maintenant, faire de wormgpt une bonne chose pour [la] communauté”, a-t-il déclaré.

On ne sait pas encore si les clients de Last partagent ce point de vue.