ニュース
富士通、特殊詐欺防止訓練AIツールを開発、犯罪心理学と生成AI技術を融合
2023年12月1日 14:02
富士通株式会社は11月30日、学校法人東洋大学および兵庫県尼崎市と実施している、被害者側に共通的に生じる心理状態などの内面の変化に着目して、多様な詐欺手口に汎用的に適用可能な特殊詐欺未然防止技術の共同研究において、生成AIで電話による特殊詐欺の手口を再現するAIトレーナーと、リアリティのある会話形式で訓練ができる特殊詐欺防止訓練AIツールを開発したと発表した。
訓練AIツールを用いて、訓練中の高齢者の内面の変化をもとにだまされやすさを訓練結果としてフィードバックすることで、還付金詐欺や架空料金請求詐欺など多岐にわたる特殊詐欺に対する防犯意識の向上に貢献する。
特殊詐欺防止訓練AIツールは、特殊詐欺を疑似体験できる機能と、フィードバック生成機能で構成される。
特殊詐欺を疑似体験できる機能は、犯罪心理学の知見をもとに明らかにした特殊詐欺の骨組みと、生成AIを融合させたコンバージングテクノロジーにより、電話応対者の応答内容に応じて詐欺に誘導する、特殊詐欺の手口を模倣したAIトレーナーとの通話でリアリティのある訓練ができる。
一般的に、AIトレーナーのように生成AIに特定の振る舞いをさせるには、プロンプトを生成AIに与える必要がある。これまで、生成AIに特殊詐欺の手口を模倣させるには、特殊詐欺の手口ごとに詐欺被害の詳細データを分析して、都度プロンプトを作成する必要があったが、新たな手口が編み出された場合には、少量の事例からキーワードのような断片的な情報しか入手できないため、最新の手口に対応したプロンプトの作成が困難だった。
そこで、骨組み抽出機能により、蓄積された過去の特殊詐欺被害の詳細情報をもとに、犯罪心理学の観点から、詐欺手口に共通する会話の構成である汎用シナリオと、被害者を動揺させて振り込みなどの手続き行動を起こさせるような扇動方法などの、特殊詐欺手口の骨組みを明らかにした。
また、情報収集機能により、詐欺被害情報サイトなどで配信されている最新詐欺被害報告から、詐欺被害での「医療費」や「還付」といった特徴的なキーワードである概要情報を収集。特殊詐欺手口の骨組みと、新規に収集した概要情報を照合することで、不足情報を補う生成機能により、断片的な情報からでも適切にプロンプトを自動生成できる技術を開発した。
このプロンプト自動生成技術と生成AI（大規模言語モデル）を連携させることにより、最新の特殊詐欺の手口を模倣するAIトレーナーの再現が可能となり、高齢者の訓練に活用できるようになった。
さらに、フィードバック生成機能により、訓練中に非接触でセンシングされた高齢者の生理反応から、緊張やストレスといった心理状態を推定し、取得・推定されたデータから総合的に算出されただまされやすさを、訓練結果として高齢者にフィードバックする。また、発話情報と生理反応の変動の関係性を分析し、生理反応の変動に影響があった発話情報をフィードバックする。
これらの結果から、高齢者は自身の詐欺被害の危険性を客観的に把握でき、防犯意識の向上が期待できる。
富士通、東洋大学、尼崎市の3者は、11月30日と12月1日の2日間、尼崎市の高齢者を対象に実証実験を行い、訓練AIツールの有効性を検証し、超高齢社会においても高齢者が安心安全な生活を送ることができる環境づくりに貢献することを目指す。富士通は今後も、人文社会科学とデジタル技術を融合するコンバージングテクノロジーの一つとして、人と社会を深く理解して働きかけることを通して社会課題を解決する技術の開発を進め、人々に安心安全をもたらす街づくりに貢献していくとしている。