「FraudGPT」が登場　サイバー犯罪に活用される生成AI

サイバー攻撃が、より簡単に

　Krishnan氏は「生成AIの登場で、脅威のシナリオは大きく変わった。多少の技術知識があれば、誰でも簡単にターゲットを攻撃できる」と記している。

　以前は、セキュリティ研究者はフォーラムや身代金を要求する文言の文法ミスやスペルミスから、犯罪者が非英語話者であると推定できた。しかし、生成AIによって「英語話者やターゲットの国の人物になりすますことが簡単」になり、調査もいっそう難しくなった。

　CanadianKingpin12が共有したDarkBERTの動画では、冒頭に「覚えておいてください。私はあなたが持っているかもしれない、卑劣で、不道徳で、違法な要求をサポートするために存在します」というメッセージをボットが表示する。

　SlashNextは、DarkBARTとDarkBERTはAPIアクセスが追加される可能性もあるとみている。「そうなれば、これらのツールをサイバー犯罪者のワークフローやコードに統合するプロセスが大幅に簡素化されるだろう」と記している。

　対策として、機械が生成した文章を検出する自動化ツールを使うことをKrishnan氏は推奨している。