デジタルアーツ、「i-FILTER」シリーズでChatGPTなどの生成AIに対応する「AIチャットフィルター」機能を提供

　デジタルアーツ株式会社は14日、ChatGPTなどの生成AIに対応する「AIチャットフィルター」機能を開発し、8月16日からWebセキュリティ製品「i-FILTER」とクラウド版のWebセキュリティ製品「i-FILTER@Cloud」に標準搭載すると発表した。

　デジタルアーツでは、企業や行政機関においても、ChatGPTやBard、Bing AIなど生成AIの活用が広がる一方、生成AIの利用時には機密情報や個人情報の漏えいなどの課題もあり、さらに学校現場においては学習効果への影響も懸念されていると説明。また、生成AIの利用がシャドーIT化していないかなど利用実態のほか、情報漏えいの防止や効果的な活用のために、生成AIに送信したメッセージ内容を把握することも重要だとしている。

　こうした課題に対し、「AIチャットフィルター」機能では、いつ・誰が・どんなメッセージを生成AIに送信したかといった情報をログとして表示。機密情報など特定単語を含む生成AIへのメッセージ送信をブロックするフィルタリング機能もあり、ブロックした単語をログから閲覧できる。生成AI利用時には、機密情報の漏えいなどに注意が必要な旨を伝える警告画面も表示する。これらの機能により、適切な生成AI利用が行われているかを確認できる。

　また、従来のi-FILTERの機能である「Webサービス制御」では、生成AIであるChatGPTやBard、Bing AIを閲覧許可またはブロックとすること、「グループ設定」機能では任意のグループ・ユーザー単位で生成AIの利用を制御すること、「時間割」機能では就業時間や授業時間など設定した時間のみ生成AIを利用できるように設定できる。

　企業や行政機関においては、ChatGPTなど生成AIにどのようなメッセージを送信したかをログから分析できるため、より効果的に生成AIを活用するにはどうすれば良いかなどの検討が容易になる。部署や役職に適した「グループ設定」機能と組み合わせることで、特定の部署・役職には生成AIの利用を許可し、それ以外の部署・役職には許可しないという設定も行える。

　また、学校においては、学年に合わせた「グループ設定」機能と利用時間帯を制御できる「時間割」機能と組み合わせることで、必要な授業のみ生成AIの利用を許可することも可能。不適切な使い方をした場合にはレポートを送付できるため、生成AIを常に安全に利用できるとしている。