サイバーセキュリティはAIとAIの戦いへ　「Black Hat」「DEF CON」から

「AIをだますのは、驚くほど簡単」

　「Endgameの実験の成功は憂えるべきことだ」とTech Republicは嘆息する。セキュリティベンダーは機械学習に投資し、新しい切り札として期待してきた。しかし、同じ機械学習で、わずかな調整をすることで、それもあっさり破られてしまうことが分かったからだ。

　機械学習で安全性を高めることに期待するなら、同時に次のことを肝に命じておくべきだという。すなわち、「マルウェア検出が簡単にトレーニングできるように、それを打ち破るためのトレーンングも簡単」ということだ。

　DEF CONでは、Webアプリケーションのハッキングを行うオープンソースのAI「DeepHack」というコンセプト実証型ツールも発表された。GeekWireなどが紹介している。

　セキュリティコンサルティングのBishop Foxが開発したもので、ニューラルネットワークに、対象のシステムの弱点を探るよう指示し、新しい情報を取得するごとに報酬を与える。“ゲーム”として訓練してゆくのだという。

　TechRepublicはまた、ディープラーニングの画像認識が簡単にだまされたというGoogleの研究を紹介する。学習したニューラルネットワークを欺く「Adversarial Example」と呼ばれるサンプルデータだ。

　この実験で、「パンダの画像」（確実度57.7％）にわずかな歪みを追加しただけで、ニューラルネットワークは、「テナガザルの画像」（確実度99.3％）と誤認識した。これがHyrum Anderson氏が言う「盲点」だ。「AIをだますのは、驚くほど簡単だ」とTechRepublicは言う。

　今年のカンファレンスで、AIはセキュリティの味方にも敵にもなることが明確になった。CylanceがBlack Hatの参加者に行ったアンケートによると、「この1年で、悪意ある者がAI技術を攻撃に利用すると思うか」という質問に対して、62％が「イエス」と回答した。

　セキュリティ分野でのAIの利用は始まったばかりだ。まだ進化していくだろうが、多層防御の一部として考え、過信しないようにすることが大事だろう。

　サイバーセキュリティの攻防は、新しい技術で新しい段階に進んでゆく。