ChillStack、生成AI利用環境のセキュリティを高めるサービス「Stena AI」

　株式会社ChillStackは15日、不正利用の自動検知により生成AI活用を促進するサービス「Stena AI」を提供開始したと発表した。

　「Stena AI」は、生成AI利用時の情報漏えいをはじめとした不適切な利用を自動で検知・防止するサービス。ユーザーがリスクのあるプロンプトを送信したり企業の規定に反する利用をしようとしたりした際に、即座にその利用をブロックし、機密情報・個人情報の漏えいリスクなどを低減するという。

　具体的には、機微情報の送受信、生成AIを活用するシステム内部での情報漏えい、不正なシステム操作、大規模言語モデル（LLM）の不正利用、意図しない結果の生成など、LLM利活用に伴うさまざまなリスク・攻撃を防ぐことが可能。

　また、標準ルールをベースに、企業独自のセキュリティポリシーや利用状況に合わせて、検知する内容を詳細かつ簡単に設定できるとした。電話番号やメールアドレスなどの個人情報パターンの検知をはじめ、多言語の利用、財務情報、未公開の製品名といったさまざまなリスクに対応するルールも柔軟に組み合わせることが可能。全社共通のルール設定に加えて、部署やプロジェクトごとの異なるニーズに合わせたカスタマイズも個別に行えるとした。

　なお、ユーザーの入力内容や生成結果は保存されず、外部のLLMに送信されたデータが学習に利用されることもないとのこと。さらに、国内に設置されたLLMを活用し、生成を含むすべてのデータ処理を国内で完結するほか、企業専用のサーバーを用いて外部通信を完全に遮断することも可能としている。