迫るAIの脅威？　さまざまな分野の研究者が警鐘

お話を読ませて善悪を教える

　ジョージア工科大学のMark Riedl氏とBrent Harrison氏は、AIに本を読ませて「善悪」を学習させる研究を発表した。「Quixote」（キホーテ）システムと名付けているもので、「お話の主人公のように振る舞うことを教え、AIの中に新しい形で倫理的価値観を構築する大きな試みの一部」だという。つまり、子供に人間社会での振る舞いを学ばせるのと同じ方法で、コンピューターに倫理を教えるのだ。

　Riedl氏はプレスリリースのコメントで「物語を理解することで、ロボットは異常な行動をとらず、人間に害をなさないようにしながら、目的を達成できるようになる、とわれわれは信じている」と説明している。

　Quixoteは、両氏が先に開発した「Scheherazade」（シェヘラザード）というシステムをベースにした。Scheherazadeは、たくさんの物語を分析してプロットを抽出し、これを基に分岐型のストーリーを生成するシステムだという。Quixoteは、これに「報酬信号」を付加することで、AIに、“いい奴”として振る舞うことを教え込むという。

　これを伝えたQuartzは「もちろん、もしロボットに“良い”行動を教えられるなら、逆に“悪い”行動を学ぶこともできるはずだ」と注記している。人間がその気になれば、AIを悪い子に育て上げることもできるのだろう。

　今、以前ならSFの中にしかありえなかったような議論と研究が行われている。実際に、2045年が来たら、どうなっているのだろうか――。