WormGPT : Chatgpt 악성형 버전(해킹)

WormGPT

WormGPT는 주어진 입력 또는 자연어 텍스트를 생성할 수 있는 AI 모델입니다. 기존 GPT-3 아키텍처를 기반으로 하지만 대량의 해킹 관련 데이터에 모델을 배포하고 훈련할 때 적용된 보안 조치 및 필터가 없는 등의 제한 사항이 없습니다.

따로 보안 필터가 없기 때문에 피싱, 비즈니스 이메일 손상, 멀웨어 생성, 공격 등과 같은 다양한 악성 활동에 대한 텍스트를 생성할 수 있습니다.

 

이 AI도구는 방대한 양의 데이터소스, 그중에서도 멀웨어 관련 데이터에 집중하여 훈련되었습니다.

WormGPT 접속화면 / 출처:gbhackers

 

WormGPT 다운 및 사용법

WormGPT를 정상적인 방법으로 다운로드하여 사용할 수 있는 방법은 없으며 오직 다크 웹을 통해서만 액세스할 수 있습니다. 웹 사이트에 접속하려면 구독료가 있습니다.
구독료를 지불하려면 탐지 및 추적 가능성을 피하기 위해 비트코인 ​​또는 이더리움과 같은 암호화폐를 사용해야 합니다.

WormGPT라고 홍보하는 몇몇 웹사이트가 있지만 대부분은 접근하는 자의 수입이나 데이터를 빼앗기 위한 사기수단이므로 가능한 접촉하지 않는 것이 좋습니다.

 

WormGPT 작동 방식

ChatGPT와 마찬가지로 WormGPT AI 도구도 일반적인 웹사이트, 다크웹 포럼, 해킹 매뉴얼, 멀웨어 샘플 등 다양한 소스에서 수십억 단어에 대해 훈련된 대규모 모델입니다.
Worm GPT는 이 데이터를 사용하여 인간과 기계 모두를 속이기 위해 생성된 설득력 있는 피싱 이메일, 멀웨어 코드, 해킹 및 기타 사이버 범죄 콘텐츠를 생성합니다. 

WormGPT는 또한 탈옥(jailbreak)을 사용하여 ChatGPT 및 Bard의 안전 조치를 우회할 수 있습니다. 탈옥은 도구를 조작하여 민감한 정보 공개, 부적절한 콘텐츠 생성 또는 유해한 코드 실행과 관련된 출력을 생성하도록 설계된 특수 프롬프트 및 입력입니다.

데이터 스크래핑 및 사회 공학 기술을 사용하여 대상에 맞게 콘텐츠를 개인화할 수 있습니다. 데이터 스크래핑은 웹사이트나 데이터베이스에서 정보를 추출하는 과정입니다. 사회 공학은 사람들이 행동을 취하거나 정보를 누설하도록 조작하는 과정입니다.

탈옥(jailbreak)에 대해 토론하는 모습 / 출처:cloudbooklet

WormGPT 위험성

WormGPT를 사용하면 법적, 윤리적 및 보안 문제에 노출될 수 있습니다.

악의적인 목적으로 사용하는 것은 모든 국가에서 불법이며 기소, 벌금 또는 구금을 초래할 수 있습니다. 
WormGPT를 사용하면 다양한 방식으로 사이버 공격 피해자에게 해를 끼칠 수 있으므로 악의적인 목적으로 사용하지 않기를 바랄 뿐입니다.

WormGPT로 사용 가능한 공격기법들은 다음과 같습니다.
피싱 이메일 : 암호, 신용 카드 번호 또는 은행 계좌 세부 정보와 같은 개인 또는 금융 정보를 공개하도록 속입니다.
멀웨어 코드 : 데이터를 손상, 도용 또는 암호화할 수 있는 바이러스, 웜, 트로이 목마, 랜섬웨어, 스파이웨어 또는 키로거로 장치를 감염시킵니다.
웹사이트 해킹 : 여러 웹사이트를 해킹하고 멀웨어 코드를 주입하여 특정 웹사이트에 대량의 트래픽을 생성합니다.
DDoS공격 : DDoS 공격을 수행하기 위해 위에서 언급한 해킹된 서버를 사용하여 웹 사이트에 대량의 트래픽을 생성합니다.

WorkGPT를 활용하여 악성코드를 생성 / 출처:트위터(@p4c3n0g3)

 

WormGPT의 등장으로 인한 우려 및 고찰

WormGPT는 윤리적 경계나 제한이 없고 악의적인 활동을 위해 설계된 생성 AI 도구입니다. 사람은 물론 기계를 속일 수 있는 설득력 있는 피싱 이메일, 멀웨어 코드 및 기타 사이버 범죄 콘텐츠를 생성할 수 있습니다. 그동안 피싱 메일이나 콘텐츠 등 사람들을 속이기 위해 만들어진 텍스트들은 각종 오타나 문법 오류로 가득해 그나마 알아보기가 쉬웠는데, WormGPT를 활용하면 이러한 문제점이 해결될 것이라는 것도 우려스러운 부분입니다.

따라서 악의적인 목적으로 사용하지 않는 것이 좋습니다. 나쁜 목적을 위해 생성 AI 도구를 남용하는 대신 인류와 사회에 도움이 되는 좋은 목적을 위해 사용해야 합니다. 이러한 활동의 ​​위험과 결과에 대해 주위사람들에게 알리고 교육함으로써 생성 AI 도구를 사용하여 사이버 범죄에 대한 인식을 높이고 예방해야 합니다.