「FraudGPT」が登場　サイバー犯罪に活用される生成AI

セキュリティ企業の製品名に便乗？

　FraudGPT登場約1カ月前の6月23日、Telegramのチャンネルで、IDとパスワードを取得する“カーディング”などの詐欺サービスを提供していた人物がいた。これがFraudGPTなど一連のツールを作成したのと同一人物だとKrishnan氏はみている。ダークウェブのフォーラムなどから、“CanadianKingpin12”と特定している。

　一方、セキュリティ企業のSlashNextの研究者は、FraudGPTの購入を検討していると偽る“おとり調査”で、CanadianKingpin12に接触して、FraudGPTの情報を聞き出した。

　それによると、FraudGPTはハッカーやスパム業者など「志を同じくする者」のためだけに設計した「専用のボット」と説明したという。さらに、「まだ公開していないが、新しいボットが2つある」と述べ、「DarkBART」「DarkBERT」を開発中であることも明かした。

　DarkBARTは、Googleの「Bart」の“ダークバージョン”であり、DarkBERTは、「ダークウェブで特別にトレーニングされた独自のカテゴリで、どれよりも優れたボット」と紹介している（BERTは、今のAI隆盛の基盤になったGoogleの自然言語処理モデル）。

　DarkBART、DarkBERTともにインターネットにアクセスし、「Google Lens」と統合して、テキストに合わせて画像をつけて送ることができるようになるという。

　SlashNextはDarkBERTについて、データインテリジェンス企業のS2Wが同名のAIを開発していることを指摘する。S2WのDarkBERTは、「S2Wが保有する大規模なダークウェブのデータを使って学習した言語モデル」であり、ダークウェブページの分類、ランサムウェアのリークサイト検出、ダークウェブのフォーラムでやりとりされる注目のスレッドの検出、脅威キーワードの推理・推論などに利用できるとうたっている。

　偶然の一致なのか？　SlashNextは、CanadianKingpin12が共有したというDarkBERTのデモ動画を貼り付け、「CanadianKingpin12はS2WのDarkBERTをあたかも自分の作成物のように見せながら、悪用している可能性がある」とする。

　なお、「DarkBERTを開発中」と言った後に「（DarkBERTに）アクセスした」と言うなど、話が矛盾しているように見えることもあったようだ。

　S2WのDarkBERTにアクセスするためには、ユーザー名、所属機関、所属機関と一致するユーザーの電子メールなどの情報を提供する必要があるが、これについてもダークウェブから3ドル程度で入手できる情報だという。

　このやりとりを報じたExtremeTechは、CanadianKingpin12は、研究者が「ダークウェブからインテリジェンスを引き出すのを支援する」というS2Wの使命を、まるで逆方向に悪用するようなものだ、と記している。

【追記：2023/08/17】
　本記事に対して、「DarkBERT」製品を開発したサイバーセキュリティ企業のS2Wから、以下のコメントがありました。

　「CanadianKingpin12の今回の主張は、DarkBERTの人気に便乗しようとする試みと推測されます。主張する機能が実際に実装されたかどうかは現時点では確認できず、DarkBERTを通じて一種のノイズマーケティングを展開しようという意図ではないかと推測されます」。