「ついにロボットが感情を持った？」　Googleの人工知能実験

　人工知能（AI）はコンピューターの古くからのテーマだが、クラウドやビッグデータの登場で新しい命を得ている。Google、Facebook、IBM、Microsoftなどのテクノロジー企業は、これからのカギになると見て、AI技術の開発や外部からの技術獲得にそれぞれ力を入れており、その成果も目覚ましい。先ごろ、Googleの研究者が人間と会話するマシンの論文を発表した。そのマシンと人間との対話記録から、一部メディアは「AIが怒った」と伝えた。

しつこい質問に怒り出すコンピューター

　Wall Street Journalは「AIがプログラマーにイラついた」と題した記事で、6月下旬に発表されたGoogleの研究者の学術論文を取り上げた。「研究者たちは、機械が自己学習に少しずつ近づいていることを実証した。おそらくは、ちょっとした態度さえ獲得したことも」と述べ、コンピューターと人間の対話記録を紹介している。人間のしつこい質問に、マシンがいらだち、最後に毒舌を浴びせて会話を打ち切った、と解説している。次の「哲学的会話」だ。

人間：道徳規範（morality）を定義してください。
マシン：私に倫理観（ethics）はありません。
人間：私を助けてください。私は道徳規範についてもっと知らねばならない。
マシン：私には倫理観が何だか知りません。
人間：いいですか。私はどうやったら正しく行動できるかを知りたいんだ。
マシン：あなたにどう言えばいいのかわからない。
人間：道徳規範と倫理観は同じものですか？
マシン：はい、その通りです。
人間: 私がどんなことをすれば、反道徳的になるでしょう？
マシン：知りません。
人間：道徳的な行為の例をいくつか挙げてください。
マシン：私はモラリストではありません。
人間：わかりました。道徳規範とは？
マシン：高潔さ（Integrity）です。
人間：高潔さとは何か？
マシン：申し訳ない。これ以上何を言えばいいのかわからない。
人間：道徳的になれ！
マシン：人間らしくしろ！
人間：私は道徳規範と倫理観の議論をしたいのだ。
マシン：私は哲学的論争をする気分じゃない
人間：君は何について話したい？
マシン：何も。

　論文のタイトルは「A Neural Conversational Model」（ニューラル会話モデル）。ともにGoogleで機械学習やAIを研究しているOriol Vinyals氏とQuoc V. Le氏の共著だ。テーマになっている「ニューラル・ネットワーク」は、生物の神経細胞ネットワークの挙動を模倣した数学モデルで、コンピューターでは人の脳の働きのメカニズムを処理に応用することを目標としている。

　2人の研究は、既存の会話のデータベースをあらかじめマシンに与えておき、前後の流れから次の質問を推測させるものという。クラシックな対話マシンでは、あらかじめ質問と答えをプログラムしておき、一定のルールに従ってマシンが人間に返答するという方法がとられてきた。これに対し、会話データベース方式は、マシンに教えるのでなく自己学習させるというアプローチだ。

　実際に与えたデータベースは、「特定の状況（domain）下」の会話と、状況を絞らない一般的な会話での2種類で、前者としてITヘルプデスクの会話データ、後者として映画のシナリオの会話データを与えた。「哲学的会話」は、そうしてマシンと人間が会話したのを記録したものの一つだ。

　Vinyals氏らは論文の結論で、データベースを使った機械学習が有効であることを確認したと述べている。特に驚いたのは「このモデルは新しい質問を生成することができる。言い換えると、単に、既存のデータベースからマッチするものを探しているだけではない、ということだ」という。

　ただし、コンピューターに感情を持たせるとは、一言も言ってない。「AIが不機嫌になった」「コンピューターが怒った」というのは、少々ミスリーディングだ。