デージーネット、ローカルLLMを活用した「社内AI基盤構築サービス」を提供

　株式会社デージーネットは26日、ローカルLLMを活用した「社内AI基盤構築サービス」の提供を開始した。

　同サービスでは、LLMの選定からサーバー構成、セキュリティ設計、ナレッジベースの作成、プロンプト設計、運用ルールの整備まで、顧客の業務内容やセキュリティ要件に合わせて社内AI基盤を構築する。

　サービスを利用してローカルLLMによる社内用の生成AIアプリケーション基盤を構築することで、社内文書を活用した問い合わせ対応、業務手順の検索、文書確認の支援、ワークフローによる業務効率化などにAIを活用できる。

社内AI基盤構築サービスイメージ

　LLMは単体で使用することもできるが、外部データやナレッジベースと組み合わせることで、特定の業務や分野に特化した応答や分析が可能になる。デージーネットでは、PCやサーバーなどのローカル環境でLLMを実行・管理するためのOSS「Ollama（オラマ）」と、LLMを活用した生成AIアプリケーションを開発・運用するためのOSSプラットフォーム「Dify（ディーフィー）」を利用した社内の生成AI基盤の構築を提案する。

　Ollamaは、利用したいAIモデルを選択し、コマンドラインやAPIを通じて生成AIを実行できる。Ollamaで実行するLLMや埋め込みモデルを、Difyなどの他のソフトウェアと連携することで、ブラウザー上からチャット形式でAIに質問して回答を得たり、ファイルサーバー内の文書を検索したりすることができる。

　Difyは、プロンプトの作成、チャットボットの作成、社内文書を利用したナレッジ検索、複数の処理を組み合わせたワークフローの作成などをGUIから行うことができる。

　ローカルLLMと、DifyやOllamaなどを組み合わせることで、社内に蓄積されたデータやナレッジを活用して、社内問い合わせやFAQ対応、社内文書の高速全文検索などの場面で利用できる。

　価格（税別）は、Difyの構築費用が147万円（ハードウェア別）から、保守費用が年額32万3000円から。Ollamaの構築費用が104万円（ハードウェア別）から、保守費用が年額26万2000円から。