ニュース
AWSジャパン、大規模言語モデルを開発する国内企業を支援する「AWS LLM 開発支援プログラム」を発表
2023年7月4日 06:15
アマゾン ウェブ サービス ジャパン合同会社（AWSジャパン）は3日、日本独自の施策として、大規模言語モデル（LLM）を開発する日本国内の企業・団体を支援する「AWS LLM 開発支援プログラム」を発表した。
7月3日から7月21日まで特設ページの応募フォームから参加申し込みを受け付け、7月中をめどに選考結果を通知する。最大10社程度を採択する予定。
7月3日にオンラインで行われた記者説明会には、経済産業省の渡辺琢也氏（商務情報政策局情報産業課 ソフトウェア・情報サービス戦略室長）も登壇。「既存のLLMを使いこなしていくことはもちろん大事だが、（モデル自体の）開発力も日本国として保持していく必要がある。将来のイノベーション喪失の問題のみならず、原理を解明し日本としてしっかり理解することによって、国内での安全安心な活用にもつながると考える」とコメントした。
AWSの支援のもとLLMのモデルを11月までに開発
AWS LLM 開発支援プログラムでは主に、「計算機リソース選定と確保のガイダンス」「技術相談やハンズオン支援」「LLM事前学習用のAWSクレジット」「ビジネスプランおよびユースケースに関する支援」の4つの支援を提供する。
「計算機リソース選定と確保のガイダンス」としては、GPUを使うかAWSのカスタムシリコン（AWS Trinum）を使うかとなどを含め、各社ごとのユースケースにあったAWSリソースの選定を、AWSのエキスパートがヒアリングとプランニングの伴走をして支援する。
「技術相談やハンズオン支援」としては、AWS上でどのように効率よく分散学習を実現するか、そこでネットワーク性能をいかに最適化するかといったことについて、知見を持ったAWSエキスパートがサポートする。
「LLM事前学習用のAWSクレジット」としては、AWSが総額で600万ドル規模を投資し、事前学習用のワークロードに必要な費用の一部を支援する。なお、各社への支援額は、ビジネスユースケースやパラメータ数などによって個別に協議のうえで決まると、AWSジャパンの塚田朗弘氏（スタートアップソリューションアーキテクト シニアマネージャー）は説明した。
「ビジネスプランおよびユースケースに関する支援」としては、モデルを開発したあとのビジネス面について支援する。例えば、AWSのマーケットプレイスでの販売や、ほかの会社とのB2Bビジネス、スタートアップのベンチャーキャピタルとのコンタクトなどを支援するという。
実施のマイルストーンとしては、7月3日に参加受付を開始し、7月中に最大10社程度を採択して、選考結果を通知する。なお選考基準としては、技術的観点、ビジネス的観点、研究開発的観点など、総合的に見て選考するという。
選考されると、8月初旬にキックオフ＆プランニングを行う。本番規模LLM開発は、8月中旬～11月。この中で、必要な企業には、オプショナルでPrototyping CampやPilot開発ハンズオンなども提供する。参加者限定の中間報告会＆ネットワーキングで知見を共有したり、成果発表の準備をしたりして、12月に成果発表会を行う。なお、成果発表会についての詳細は現在未定とのこと。
AWS LLM 開発支援プログラムの対象者は、日本に法人または拠点を持つLLMの開発を行う企業・団体。今回のプログラムでは、既存のLLMを活用している、もしくはファインチューニングのみを行う企業・団体は対象外となる。
なお、例えば国内企業の海外拠点などのケースについては、ほかの要素もあわせたケースバイケースになるのことで、「応募自体は大歓迎だし、個別に申し込みフォームに事情を記入していただければ個別に検討する」と塚田氏はコメントした。
そのほか、今年11月末までに開発成果を出すのを目指していることや、クラウドを活用して、より効率的な方法でLLMを開発したいと思っていることなども示された。
AWS自身や顧客の生成AI活用事例も紹介
説明会では、AWSジャパンの代表執行役員社長の長崎忠雄氏が、Amazon自体の生成系AIの活用についても紹介した。Amazonの検索機能では、生成AIの基盤モデルを導入し検索精度を改善したという。またAlexaの学習では、限られた入力情報からLLMによりストレスのない多言語による応答を実現したとのこと。そのほか、プログラミング中に関数名やコメントなどから推奨コードを自動生成する「Amazon CodeWhisper」についても紹介した。
そのほか、「AWS生成AIイノベーションセンター」を5月にグローバルで発表したことも長崎氏は紹介した。顧客による生成系AIを活用した新サービスの構想のプロセスから立ち上げを支援するものだ。
生成AIを使った開発におけるAWSのメリットは、AWSジャパンの宇都宮聖子氏（プリンシパル機械学習量子コンピューティングソリューションアーキテクト）が紹介した。
サービスや生成AI基盤モデルの幅広いラインアップを提供する「柔軟性」、基盤モデルをカスタマイズすることもできデータのプライバシーと機密性を保持した「セキュリティとカスタム」、独自のカスタムシリコンやNVIDIA GPUなどによる「費用対効果の高いインフラストラクチャ」、AWSの各種サービスとの連携によって「簡単に基盤モデルを使ったアプリケーションを構築」、生成AIによるコーディング支援のAmazon CodeWhisperなどの「生成系AIを用いたソリューション」の、5つが挙げられた。
顧客事例としては、まずWebブラウザベースのデザインツール「Canva」（豪州）が紹介された。Stable DiffusionのモデルをAmazon SageMakerでホストして、言葉から画像を簡単に生成できる機能を組み込んだ。さらに、生成された画像に不適切なものが含まれていないかのチェックを、Amazon Recognitionモデレーション機能により自動化した。
また、AWSでも利用できる生成AI基盤モデル「Jurassic-1 Jumbo」のAI21 Labs社のモデル開発でも、AWSが活用されていることが紹介された。PyTorchを使って1790億パラメータの言語モデルを学習するのに、Amazon EC2 P4dインスタンスで分散学習し、GPU間のネットワーク速度の恩恵も受けたという。
日本の事例としては、リコーの事例が紹介された。60億個のパラメータを持つ日本語モデルの開発において、Amazon SageMakerによる分散学習とメモリの効率化により、学習時間を30％以上短縮したと説明している。
