ChatGPTを代替する？　大規模言語モデルの軽量ソリューション

AIのオープンソース開発が盛んに

　軽量なLLMソリューションに反応して、早速オープンソースの開発者たちが動き出している。

　オープンソースプロジェクトのNebuly AIは2月28日、LLaMAをベースにChatGPTライクなサービスを提供するライブラリ「ChatLLaMA」を発表した。バージョンはまだ「0.0.2」と初期段階だが、「超パーソナライズされたChatLLaMAアシスタントの開発」を目指している。

　ユースケースとしては「特定のタスクをこなすChatGPTのような、アシスタントの個人的に作成する」「限られた量のデータで、ローカルのハードウェアインフラで効率的なChatGPTのようなアシスタントを訓練する」「ChatGPTのようなアシスタントを自分用にカスタマイズして、コストを抑える」といったことを挙げている。

　なお、MetaはLLaMAを「研究用ユースケースに焦点を当てた非商用ライセンス」で提供するとしており、ChatLLaMAを利用するには、Metaへの申請が必要になる。

　また、「FlexGen」の登場を受けてオープンソースコミュニティが活発化している。FlexGenプロジェクトでは、今後、「BLOOM」（1760億パラメータ）などのLLMや、Macbook（M1、M2）のサポートなどをロードマップに掲げている。

　特にBloomは、非営利で、研究にも商用にも自由に使える、初めてのオープンソースのLLMとして知られる。世界の1000人のボランティア研究者たちが立ち上げたプロジェクト「BigScience」が取り組み、2022年7月に公開された。

　Bloomはこれまで、モデルの実行に8個のA100 GPUを搭載した専用PCを必要としたという。FlexGenとの組み合わせで、どんな新しいアプリケーションが生まれるのか楽しみだ。