「Pathways」とは　Googleが期待する次世代AI

関連するとみられる技術論文も

　Googleが「次世代」をうたうだけあって、画期的なPathwaysだが、いつ実現するのか、あるいは具体的な技術についての言及はない。ただ、Googleが最近発表した論文に、ヒントがみつけられる。

　Google Researchとスタンフォード大学は今年9月、「Task Affinity Groupings（TAG）」と呼ぶ技術の論文を発表している。モデルにマルチタスク学習を行わせる際、どのタスクを一緒に学習させるべきかを効率的に選ぶ手法だ。

　1つひとつのタスクがマルチタスク・ニューラルネットワークの他のタスクにどんな影響を与えるかを調べ、相互作用の情報を把握して、全体を最適化する。テストの損失を削減し、高速で動作させるという。Pathwaysを構成する要素技術の一つとみてよさそうだ。

　Dean氏は公式ブログで「AIの実証済みのアプローチと新しい研究の方向性を組み合わせる」とも述べ、Googleが昨年から今年にかけて発表した「GShard」と「Switch Transformer」などの活用も挙げている。両者は高密度でありながら「疎活性化」でエネルギー消費量の大幅削減を実現したモデルだ。

　Pathwaysは、既に、コンセプト段階から、実現に近づいているのかもしれない。研究者たちが夢に見てきた汎用AIの実現に道を開くことが期待される

　ところで、昨年末からのAI倫理を巡るGoogleと従業員との対立では、Dean氏は責任者として批判を浴びた。学習データによるAIのバイアスの問題もクローズアップされているところだ。「より洞察力に優れ、ミスやバイアスの少ないモデル」をつくれるPathwaysを一番待ち望んでいるのは、Dean氏かもしれない。