WORMGPT, PoisonGPT und FraudGPT nutzen die Generative KI-Technologie nicht zum Guten

Die dunkle Seite der Macht!

Sie heißen WORMGPT, PoisonGPT und FraudGPT und nutzen die Generative KI-Technologie nicht zum Guten.

🤖 Generative KI wird von bösartigen Akteuren für beschleunigte Cyberkriminalität zweckentfremdet.

🎣 Ein neues generatives AI-Cybercrime-Tool namens WormGPT wird in Untergrundforen beworben und ermöglicht Phishing- und BEC-Angriffe.

🔒 Das Tool WormGPT nutzt das GPT-J-Modell von EleutherAI und wird als „Feind“ des bekannten ChatGPT beschrieben.

🚫 WormGPT agiert ohne ethische Grenzen und erleichtert selbst unerfahrenen Cyberkriminellen den Angriff auf eine große Anzahl von Opfern.

🌐 Die Manipulation von ChatGPT durch „Jailbreaks“ führt zur Erstellung von gefährlichem Inhalt und Offenlegung sensibler Informationen.

📧 Generative KI erleichtert die Ausführung raffinierter BEC-Angriffe, sogar für Angreifer mit begrenzten Fähigkeiten.

🦠 PoisonGPT zeigt das Risiko der LLM-Supply-Chain-Vergiftung auf, wenn modifizierte AI-Modelle in bekannten Unternehmensnamen hochgeladen werden.

🕵️Das jetzt bekannt gewordene Tool FRAUTGPT soll auch zur Erstellung von bösartigem Code, nicht erkennbarer Malware und zum Finden von Lecks und Schwachstellen verwendet werden kann. Heftig: Nach gerade mal 9 Tagen im Netz gibt es mehr als 3.000 bestätigte Verkäufe und Bewertungen im Darknet. Das Abo kostet ab 200$/Mon.

Jepp. Auch die dunkle Seite gehört ab sofort zur Welt der GEN-KI.