Infostand海外ITトピックス
オープンソースではなく「オープンモデル」 Googleの新言語モデル「Gemma」
2024年3月4日 11:23
GoogleとDeepMindが、AI分野で反転攻勢を強めている。「Bard」と「Duet AI」の「Gemini」へのリブランド、有料サービスの「Gemini Advanced」と基盤大規模言語モデル(LLM)の「Gemini Ultra 1.0」のリリース、さらに次世代LLMの「Gemini 1.5」の発表。そして、商利用も可能な軽量LLM「Gemma」をリリースした。同社は、Gemmaを“オープンモデル”と説明している。どういうことなのだろうか――。
Geminiと同じ基盤を持つ軽量・高性能LLM
Gemmaは、「Geminiモデルをベースにしたオープンモデルのファミリー」で、Geminiと同じアーキテクチャ、データ、レシピを使用して訓練したという。2B(20億パラメータ)と7B(70億パラメータ)の2サイズがあり、それぞれに「事前訓練済み」と「命令チューニング済み」のセットが用意されている。
特に2Bモデルは、高額なGPUを必要とせず、デスクトップPC、さらにはノートPCでローカルに実行可能。誰でもダウンロードして、自分なりのチューニングを施し、専用AIエンジンを開発できる。研究者や個人の開発者には大変魅力的なものだ。
また「全ての組織に対して、責任ある商業利用および配布を許可」することで、大規模な商利用もできるのが大きな特徴だ。利用に際しては、「Gemma Terms of Use(利用規約)」と「Gemma Prohibited Use Policy(使用禁止ポリシー)」の2つの許諾を求められる。
性能面では、「他のオープンモデルと比較して、そのサイズにおいてクラス最高のパフォーマンスを達成できる」とする。公表したベンチマークでは、同規模のLLMであるMetaのLlaMA-2(7B、13B)、仏Mistral AIのMistral(7B)と比較して、18のテキストベースタスクのうち11でGemma(7B)が上回ったという。
AIニュースプラットフォームのMarktechpostはGemmaについて「最先端の変換器アーキテクチャと、分散システム全体で効率的に拡張できるように設計された革新的な技術」と解説。「AI技術の民主化を支持し、世界中の開発者や研究者の参入障壁を取り除くもの」と称賛している。