サイバーセキュリティはAIとAIの戦いへ　「Black Hat」「DEF CON」から

防御システムの反応を見ながら、亜種を作成

　「AIはだませるか？　答えはイエスだ」。セキュリティベンダーEndgameの首席データサイエンティストHyrum Anderson氏はこう言う。Anderson氏は「AIを利用して、次世代アンチウイルスを回避する」と題したDEF CONの基調講演で、攻撃者がどのように防御をすり抜けられるのかを解説した。

　ディープラーニングでマルウェアを検出できるのであれば、逆にディープラーニングで、検出されにくいマルウェアを作ることも可能、というのが根本の考え方だ。

　Anderson氏らEndgameの開発者たちは、Elon Musk氏らが創設した非営利のAI団体、OpenAIのプラットフォームを利用。学習しながら非常に小さな変更を加えることで、アンチウイルスソフトに検知されない亜種をつくり出すツールを作成した。メカニズムは簡単なものだという。

　この仕組みに基づくツールは、アンチウイルスソフトの応答を監視しながら試行錯誤し、防御を突破するマルウェアを自動生成することができる。実際にこの方法で、15時間、計10万回のトレーニングを行い、つくり出した亜種の16％がアンチウイルスソフトをすり抜けることに成功したという。

　Anderson氏は、講演で「すべての機械学習モデルには盲点がある」と強調している。