The holidays are in full swing, and the attackers (and evil AI tools) have been busy. In this 2-minute video, we show what happened when our team asked WormGPT, a dark-web AI with no guardrails, to generate a holiday scam. Watch it here: https://www.youtube.com/watch?v=YCS75iScU-E

#AI #EvilAI #WormGPT #Cybersecurity #Infosec #HolidayScams #Holidays #Phishing

Modele LLM bez ograniczeń, czyli rozwój Cybercrime as a Service

Generatywne modele językowe przebojem wdarły się do naszej codzienności. Dziś już wielu nie wyobraża sobie codziennej pracy czy nauki bez ich udziału. Rozwój dużych modeli językowych wpłynął także na obraz zagrożeń w cyberprzestrzeni. Z jednej strony LLM-y mogą pomagać w obronie, z drugiej strony stwarzają zupełnie nowe możliwości dla podmiotów...

#Aktualności #Caas #Jailbreaking #Kawaiigpt #Llm #Phishing #Wormgpt

https://sekurak.pl/modele-llm-bez-ograniczen-czyli-rozwoj-cybercrime-as-a-service/

Surprising - NOT! We knew this was bound to happen, or should we indicate that Cyber Hackers just want to be more productive - like everyone else, and AI is a good place to explore!

Unit 42 @ Palo Alto Networks reports how underground hacking forums advertise and sell custom, jail broken, and open-source AI hacking tools. Cyber bad guys are accessing sophisticated underground markets for custom LLMs (many subscription-based) designed to assist with lower-level hacking tasks. https://cyberscoop.com/malicious-llm-tools-cybercrime-wormgpt-kawaiigpt/

#AI #CyberSecurity #CyberCrime #Darkweb #CyberHackers #Hackers #CyberAttacks #KawaiiGPT #WormGPT #Unit42 #CustomLLM #JailBreakLLM #Security #Productivity

Tiens, intéressant : un soi-disant clone de WormGPT fait surface.
👇
https://gbhackers.com/kawaiigpt-a-free-wormgpt-clone-powered/

( [FR] cyberveille: https://cyberveille.ch/posts/2025-11-30-kawaiigpt-un-clone-gratuit-de-wormgpt-contournant-les-garde-fous-via-wrappers-api-et-jailbreak/ )

Pour rappel, WormGPT n’était qu’un modèle GPT-J modifié et vendu sur des forums cybercriminels comme un “LLM sans limitations”, essentiellement utilisé pour automatiser du phishing/BEC.

Ce clone fonctionnerait via un simple wrapper permettant d’utiliser des LLM sans abonnement ni API, tout en injectant au passage un prompt de jailbreak dans la chaîne.

Le bypass repose sur un mix de techniques qui “bousculent” l’IA : la pousser à se dépasser (competition), lui mettre une fausse pression d’autorité, et lui faire adopter un rôle qui désactive ses limites (persona override).

Le #jailbreak est référencé sur la plateforme PromptIntel, qui indexe et analyse les prompts malveillants pour la détection (travail de @fr0gger )
👀 👇
https://promptintel.novahunting.ai/prompt/b37aced4-0da6-440c-9d7f-217b40f57e3a

💬
⬇️
https://infosec.pub/post/38372266

#CyberVeille #WormGPT #jailbreakingAI

Unrestricted large language models (LLMs) like #WormGPT 4 and #KawaiiGPT are improving their capabilities to generate malicious code, delivering functional scripts for ransomware encryptors and lateral movement.

🔗 https://www.bleepingcomputer.com/news/security/malicious-llms-empower-inexperienced-hackers-with-advanced-tools/

AI for evil — hacked by WormGPT!
[Full text: https://pivot-to-ai.com/2025/11/26/ai-for-evil-hacked-by-wormgpt/]

A chatbot is a wrapper around a large language model, an AI transformer model that’s been trained on the whole internet, all the books the AI vendor can find, and all the other text in the world. All of it. The best stuff, and the worst stuff. So the AI vendors wrap the model in […]

#AIisGoingGreat #Chatbots #Security #RafaelMorais #WormGPT

Hallottál már róla? XXXL-GPT

A WormGPT után itt a XXXL-GPT: 2025-ben már nem csak egy „rosszfiú MI” létezik

Ha 2023-ban azt mondtuk, hogy „jött a WormGPT és minden megváltozott”, akkor 2025-ben már nevetségesen naivnak hangzik ez a mondat.

A WormGPT már szinte muzeális darab. A helyét átvették a jóval erősebb, folyamatosan frissülő, zárt Telegram- és Discord-csatornákon terjesztett „uncensored” modellek: DarkBERT, XXXL-GPT, VenomGPT, ChaosGPT új generációja, és a legújabb kedvenc: a több mint 100 milliárd paraméteres, Llama-3/Gemma-2 alapú „RedTeam LLM-ek”, amiket kifejezetten piros csapat (red team) és bűnözői használatra hangoltak.

De mit tudnak ezek, amit a WormGPT idején még elképzelni sem tudtunk?

2025-ös valóság – amit ezek az új sötét MI-ek már rutinszerűen csinálnak:

Mi történt a WormGPT-val?
2023 augusztusában a eredeti fejlesztő lekapcsolta a projektet (valószínűleg nyomás vagy profitorientált átalakulás miatt). De a modell weights-ei kiszivárogtak, és azóta több száz fork és továbbfejlesztett verzió kering. Ma már nem is WormGPT a neve a legsötétebb eszköznek – egyszerűen csak „my private redteam LLM”.

Hogyan védekezz 2025-ben? (mert a régi tanácsok már nem elég jók)

• A nyelvtani hiba keresése 2024-re halt meg. 2025-ben már a „túl tökéletes, túl empatikus, túl gyorsan válaszol” a gyanús jel.
• Kötelező out-of-band ellenőrzés minden 100 000 Ft feletti tranzakcióra (nem e-mailben, nem Teams-en, hanem telefonon vagy személyes videóhívásban).
• Használj „canary token” e-mail címeket a céges aláírásokban – ha azokra érkezik levél, azonnal riasztás.
• Vegyél be YOLOv8-alapú deepfake-detektort a videóhívások elejére (pl. Sentinel, Pindrop).
• Legyen „Human-in-the-loop” szabály minden AI által generáltnak tűnő kérésre.

Összefoglalva
A WormGPT nem egy egyszeri rossz álom volt, hanem az előhírnöke egy teljesen új korszaknak, ahol a kiberbűnözők ugyanolyan minőségű és sebességű AI-hoz jutnak, mint a védők – sőt, sokszor jobbhoz, mert náluk nincs etikai korlát és compliance.

2025-ben már nem az a kérdés, hogy „használnak-e a bűnözők AI-t?”, hanem az, hogy te felkészültél-e arra, hogy az ellenfeled egy 400 milliárd paraméteres, folyamatosan frissített, etika nélküli modell legyen?

Mert ő már felkészült rád.

Címkék: #Kiberbiztonság #WormGPT #UncensoredAI #RedTeamLLM #Adathalászat2025 #Deepfake #BEC #MesterségesIntelligencia

#adathalaszat2025 #bec #deepfake #kiberbiztonsag #mestersegesintelligencia #redteamllm #uncensoredai #wormgpt

WormGPT 4 is now being sold on underground forums for as low as $50/month. Unit 42 reports the model can generate ransomware scripts, phishing content, and malicious code with no guardrails, lowering the barrier for low-skill threat actors.

Full analysis:
https://www.technadu.com/the-rise-of-malicious-ais-wormgpt-4-emerges-as-a-powerful-ai-tool-for-cybercrime-with-subscriptions-starting-at-50/614622/

#infosec #AIThreats #WormGPT #ThreatIntel #malware #cybersecurity

We had a great time exhibiting at BSides Portland and connecting with the local security community last week.

LMG’s Matt Durrin took the stage to present “Hackers + AI: Faster, Smarter, More Dangerous,” a live demo showing how criminals are using tools like WormGPT to uncover vulnerabilities, generate exploits, and weaponize zero-days faster than ever.

Thank you to the BSides Portland organizers and attendees for another fantastic event.

#Cybersecurity #AI #Infosec #BSides #AI #AISecurity #WormGPT #BSidesPDX