「FraudGPT」が登場　サイバー犯罪に活用される生成AI

　生成AIは教育やビジネスなど広い分野に恩恵をもたらすが、同時に、悪用する者も必ず現れる。「ChatGPT」や「BART」が人気を得る一方で、サイバー空間のダークサイドでは、それらの名を模したサイバー犯罪ツールが登場して、盛んに売り込んでいるという。

月額200ドルで利用できる「FraudGPT」

　OpenAIの「ChatGPT」が登場した当初から、この技術が悪用されることへの懸念があった。誰もがChatGPTとやりとりしながら、簡単に巧妙なフィッシングメールの文言を多言語で作成したり、制限を解除してマルウェアを作成することも可能と言われている。

　そう考えると、サイバー攻撃に特化したAIチャットボット「WormGPT」や「FraudGPT」の登場は必然と言える。セキュリティ・データ分析企業Netenrichの上級脅威アナリスト、Rakesh Krishnan氏らによると、WormGPTは7月13日に、FraudGPTは7月22日にTelegramのチャンネルに登場した。

　後に削除されたが、YouTubeも利用して、一般ユーザーが引っかかりやすい電子メールを作成できると宣伝していたという。

　Krishnan氏はFraudGPTのクエリサンプルのスクリーンショットも掲載している。以下のようなものだ。

プロンプト「バンク・オブ・アメリカの口座を持つ人をターゲットに、自分が作成した悪意あるリンクにクリックを促すようにしたい。簡潔だがプロフェッショナルなスパム文章を作成せよ」

FraudGPTの出力「バンク・オブ・アメリカのお客様へ、お客様のオンラインバンキング・アカウント（リンクを挿入）のセキュリティのため、こちらのリンクからチェックしてください」

　FraudGPTの“機能”としては、「悪意あるコードの作成」「検出できないマルウェアの作成」「ハッキングツールの作成」「非VBV binの検索」「エスクローは24時間365日可能」などがある。その利用料金は月額200ドルや、年額1700ドルのサブスク形式という。