家庭内の会話を勝手に録音・送信　AIアシスタントの“暴走”相次ぐ

「20年～30年は、家庭で使うべきでない」

　音声アシスタントの誤作動は、Amazon Echo、Googleの「Google Home」など、マイクとスピーカーを搭載したAIアシスタントが登場したころから想定されていた。これらのデバイスは常にオンラインとなっており、会話を聞きながらアクションに備えているのだ。

　The Chronicle of Higher Educationに寄稿した言語学者のGeoffrey Pullum氏は、「人間ならば、ユーザーの夫婦が木の床について会話していて、同僚にメッセージを送ろうとしているのでないことぐらい、すぐわかる」と言う。Pullum氏自身、隣人の家でおしゃべりをしている時にそこにあったAppleの「HomePod」が起動し、何かを話し始めたという体験をしたことを明かしながら、「業界は、全く間違った領域で自然言語処理（NLP）と、AIを基盤としたバックエンドを連携させるという間違いを犯している。NLPもAIも、まだその段階には程遠いのに」と批判した。

　音声アシスタントは、まだ技術が一般商用レベルに達していない段階であるため、聞き取りに成功しなくても危険や被害が発生しない分野でのみ利用すべき、というのがPullum氏の意見だ。例としてFAQを音声に置き換えることなどを挙げている。

　Pullum氏は「Alexaは5歳児ほども賢くない」「少なくとも20年～30年は、家庭で使うべきでない、というのが私のアドバイスだ」と述べている。

　Amazon EchoなどのAI音声アシスタントは北米を中心に広がっており、comScoreの2月のデータでは普及率は20％に達している。後押ししているのは、この分野の覇権を狙う各社の売り込みと競争による価格低下だ。Pullum氏は、メーカーのマーケティングも批判。「注意喚起しようとしても、ほとんど通じない」と嘆いている。

　今回の事件を受け、Business Insiderなどは、Alexaが意図せずにメッセージを送るのを防ぐHow Toを掲載している。ユーザーは、身を守るため「正しく使う」ことを意識しなければならないようだ。