ニュース
オラクル、インデータベースLLMなどにより生成AIアプリの構築を簡素化する「HeatWave GenAI」を提供
2024年6月28日 06:30
米Oracle(以下、オラクル)は現地時間26日、インデータベース大規模言語モデル(LLM)や自動化されたインデータベースベクトルストア、スケールアウト可能なベクトル処理、および非構造化コンテンツから情報を得た自然言語によるコンテキスト会話機能を備える「HeatWave GenAI」の提供開始を発表した。これらの新機能により、顧客はAIの専門知識や別のベクトルデータベースへのデータの移動を必要とせず、自社の企業データに生成AIの機能を導入できるとしている。
HeatWave GenAIは、開発者が組み込みのエンベディングモデルを使用して、単一のSQLコマンドで企業の非構造化コンテンツ用のベクトルストアを作成できる。ユーザーは、データベース内または外部のLLMを使用して、自然言語検索をワンステップで実行できる。
また、データはデータベースの外に出ることはなく、HeatWaveの高いスケールと性能により、GPUをプロビジョニングする必要もなく、その結果、開発者はアプリケーションの複雑さを軽減し、性能およびデータセキュリティの向上、コスト削減を実現できるとしている。
新たに自動化されたビルドイン生成AI機能のうち、インデータベースLLMは、低コストで生成AIアプリケーションの開発を簡素化し、顧客は外部LLMの選択と統合の複雑さを気にすることなく、また、さまざまなクラウドプロバイダーのデータセンターにおけるLLMの有無について心配することなく、生成AIの恩恵を受けられるとしている。
インデータベースLLMにより、顧客はHeatWaveのベクトルストアでデータを検索、コンテンツを生成または要約し、検索拡張生成(RAG)を実行できる。さらに、生成AIをAutoMLなどHeatWaveの他の組み込み機能と組み合わせることで、よりリッチなアプリケーションを構築できる。また、HeatWave GenAIは、「OCI Generative AI」サービス と連携されており、主要なLLMプロバイダーの事前トレーニング済みの基盤モデルにアクセスできる。
自動化されたインデータベースベクトルストアは、顧客がデータを別のベクトルデータベースに移動することなく、またAIの専門知識がなくても、ビジネスドキュメントで生成AIを使用できる。RAGにベクトルストアを使用することで、モデルが適切なコンテキストで独自のデータを検索し、より正確で関連性の高い回答を提供できるため、LLMのハルシネーションの課題を解決するのに役立つ。
スケールアウト可能なベクトル処理は、精度を損なうことなく、高速なセマンティック検索結果が得られる。HeatWaveは、新しいネイティブのVECTORデータ型と最適化された距離関数の実装をサポートしており、標準SQLでセマンティック検索を実行できる。また、ユーザーはセマンティック検索を他のSQL演算子と組み合わせることで、例えば、異なるドキュメントを持つ複数のテーブルを結合し、すべてのドキュメントで類似検索を実行できる。
HeatWave Chatは、MySQL Shell用のVisual Codeプラグインで、「HeatWave GenAI」のグラフィカルインターフェイスを提供し、開発者は自然言語またはSQLで質問できる。統合されたLakehouse Navigatorにより、ユーザーはオブジェクトストレージからファイルを選択し、ベクトルストアを作成できる。HeatWaveは、質問の履歴、ソース文書の引用、LLMへのプロンプトなどのコンテキストを維持するため、コンテキストに基づいた会話が容易になり、ユーザーはLLMが生成した回答の出典を確認できる。
オラクルでは、PDF、PPT、WORD、HTML形式のドキュメントのベクトルストアの作成は、Amazon BedrockのKnowledge baseを使用する場合と比較して、HeatWave GenAIを使用すると最大23倍速く、コストは4分の1になると説明。また、1.6GBから300GBのサイズのテーブルに対するさまざまな類似検索クエリを使用したサードパーティベンチマークでも実証されたように、HeatWave GenAIはSnowflakeより30倍高速でコストは25%削減され、Databricksより15倍高速でコストは85%削減され、Google BigQueryより18倍高速でコストは60%削減されるとしている。
HeatWave GenAIは、すべてのOracle Cloudリージョン、Oracle Cloud Infrastructure(OCI) Dedicated Region、およびその他のクラウド上で利用可能で、HeatWaveの既存の顧客は追加費用なしで利用できる。