「第三の波」AIに20億ドル、DARPAが開発を加速

ディープラーニングの限界

　第二の波のディープラーニングシステムは今、大変革を起こしているが、弱点がある。DARPAによると、「大量の高品質トレーニングデータに依存する」「条件の変化に適応できない」「その結論を出した理由を説明できない」ことだ。

　このあたりを分かりやすく解説した動画を、DARPAは昨年2月にYouTubeで公開している。DARPA情報イノベーション室長（当時）John Launchbury氏が、第三の波のコンセプトを語ったものだ。

　Launchbury氏によると、第一の波と第二の波の技術を活用したAIプラットフォームは強力だが、データの質次第で、とんでもない間違いを犯すことがあるという。

　例えば、人間にはどう見てもパンダにしか見えない写真が、AIにはテナガザルの写真だと認識される例を挙げる。これは、画像データに微小なノイズを加えることで起こる現象で、AI研究の世界では、「Adversarial Example」の一つとして有名だ。要は、データ次第で簡単にだまされるということだ。

　また今のAIは、条件の変化でトレーニングのやり直しが必要になったり、推論の過程が“ブラックボックス”化して、結論を出した理由の検証ができないといった問題を抱えている。

　そこで、第三の波として「文脈適応」に期待する。「システムが自動的に、あるべきモデル（文脈モデル）の構造を学習し、それを使って現実世界を認識する」（Launchbury氏）もので、AI自身がルールや常識を学習し、状況の変化に対応し、さらに判断した理由を説明できるようにする。

　今の軍用システムは、センサーや通信システムが大量のデータを高速に生成するが、その速度に人間はついていけない。かといって、完全に判断を任せられるほどAIの信頼性は高くない。そこで次世代のAIがクローズアップされる。AIが「問題解決のためのパートナー」になる例として、発表では「パイロットをサポートする戦闘機」を挙げている。

　文脈適応のコンセプトは新しいものではないが、DARPAは今、開発のピッチを上げることを目指している。同局情報イノベーション副室長の John Everett氏は「われわれは20年分の進歩を5年に加速できると考えている」とCNNMoneyに語っている。