New Relic、OpenAI GPTとのオブザーバビリティ連携「OpenAIオブザーバビリティ」を提供

　New Relic株式会社は29日、OpenAIが提供するGPTシリーズのAPIで構築されたアプリケーションを監視できるようになる、MLOps（機械学習オペレーション）向けクイックスタートカタログ「OpenAI Observability（OpenAIオブザーバビリティ）」を提供開始した。

　OpenAIオブザーバビリティは、New Relicアカウントに登録すると、New Relicインスタントオブザーバビリティ（Instant Observability:I/O）で、OpenAIオブザーバビリティをすばやくデプロイでき、必要最低限の設定でこの機能を利用できる。

連携を有効にすることで利用可能となる「OpenAI オブザーバビリティ」ダッシュボード

　New Relicのフルプラットフォームユーザーであれば、追加費用なしで利用が可能。最新のGPT-4を含め、現時点での全てのOpenAI GPTバージョンをサポートしており、数行のコード追加で、monitorモジュールをnr openai_monitorライブラリからインポートし、GPTのさまざまな主要パフォーマンスメトリクスを表示するダッシュボードを自動的に作成できる。

　OpenAIのDavinciモデルの使用コストはすぐに加算されていくため、大規模運用が難しいと言われるが、New RelicはGPT使用に関するリアルタイムでのコスト把握が可能。平均応答時間やその他GPTリクエスト関連の、主要パフォーマンスメトリクスに関するインサイトを可視化することで、エンジニアが使用状況を最適化し、最良のレスポンスタイムを実現できるようになる。

　この新しい連携により、OpenAIの生データを取り込めるようになり、企業がOpenAIベースのChatGPTなどの最新のAI技術の力を活用して、コストへの配慮をバランスよく行いながらイノベーションと事業目標の達成を加速させられるようになると説明。また、New Relicに統合できるデータの種類が増え、より多くの開発者にとっての利便性が向上するとしている。