家庭内の会話を勝手に録音・送信　AIアシスタントの“暴走”相次ぐ

業務アプリケーションでの危惧

　Alexaに代表される音声アシスタントは家庭に広まっており、これらのアクシデントも消費者レベルで起こっているが、セキュリティニュースのDark Readingは、業務アプリケーションでの発生を危惧する。

　外部開発者はAmazonの「Alexa Skills Kit」などを利用して、自分たちのサービスやアプリケーションを制御する「スキル」を開発できる。現在、こういったスキルの多くは消費者向けだが、今年1月時点で、業務向けのスキルは既に1000を超えるという。中には、SAP、Salesforce.com、Oracleなどの業務アプリケーションと連携できるものもある。

　Dark Readingは、人が聞き取れない周波数のコマンドでAppleのSiriを起動させて悪用する「Dolphin Attack」を中国の研究者が実証したことを挙げながら、危険性を指摘。音声による制御の導入に慎重になっている企業もあるとする。

　専門家は、この慎重さを良いことととらえているようだ。セキュリティ企業Demistoの共同創業者Rishi Bhargava氏は「セキュリティはいつも後付けになる。音声アシスタントも同じで、採用が有機的に広がり、ある時点まで来ると、やっとセキュリティチームが評価して制御することになるのだ」と警鐘を鳴らす。

　Dark Readingは、音声アシスタントを業務で利用する場合は、必要ない時にはオフにすること、従業員へのトレーニングを行うことなどを推奨している。