着衣写真もヌードに　AIが可能にするフェイク画像への深い懸念

対応策も開発中、法的規制も

　Guardianは、deepfakeの登場に警鐘を鳴らし、今年3月にYouTubeに投稿された米大統領の動画を紹介している。全く別人が話している動画をAIで加工して、本物と見分けがつかないように仕上げられたものだ。別人の顔の“皮膚”をアルゴリズムでかぶせ、置き換えることで実現したという。

　これ自体は、純粋に笑いを呼ぼうと作成されたものだが、政治的に悪用される可能性もある。Guardianがあわせて紹介した、Nancy Pelosi米下院議長のスピーチ動画はAIを使ってさえいない。通常より75％遅い速度で再生することで、同議長が酔っ払っているかのように見えるものだ。実際、この動画はTrump大統領がツイートして、誤解を与える効果をもたらした。

　悪意を持って加工された動画は、「フェイクニュース」の脅威に油を注ぐ。Guardianはdeepfakeの動向を「民主主義の危機」としている。

　AIの法律と倫理を専門とするOxford Internet InstituteのSandra Wachter教授は、こうした懸念は当然のことだとGuardianに答えている。「進展が速い技術は、思いがけない、予期できない結果を招く」と述べ、拡散のスピードと範囲がこれまでのレベルとは違うことも指摘した。

　一方で、deepfakeへの対策も検討されている。MIT Technology Reviewは、カリフォルニア大学バークレー校と南カリフォルニア大学の研究者らが、対抗するデジタルフォレンジックス技術を開発していると紹介する。

　機械学習を利用して個人の話し方や動きを分析することで、deepfakeなどで加工したものかを識別。実験では、deepfakeで生成されたものを92％の精度で検出できたという。

　法律面でも動きがある。バージニア州は、deepfake技術を利用して生成したポルノの共有を違法とするよう法改正した。リベンジポルノを禁じる法律を、使用する素材にも拡張して阻止しようというものだ。

　これらに加え、Guardianは、ユーザー側の「クリティカルシンキング」と「デジタルリテラシー」も重要だと記している。

　deepfakeのような技術自体を止めることはできない。どのように対抗してゆくかを考えることが求められている。DeepNudeの作者は、「世界はまだDeepNudeの準備ができていなかった」とアプリ削除を伝えるツイートで述べている。まさに、まだ準備ができていない。