迫るAIの脅威？　さまざまな分野の研究者が警鐘

AIは人間の抹殺を考えるのか？

　映画「ターミネーター」に出てくる殺戮マシンは最悪の未来像だ。現実のハイテク兵器にも、既にAIの採用は進んでいる模様だが、まだルールはできていない。AAASのパネルディスカッションでは、これを危惧したエール大学教授のWendell Wallach氏（倫理学）が、AIによる自律型殺傷兵器への警告を発したと、Ars Technicaなどが伝えている。

　Wallach氏はこうしたマシンを「mala in se」（自然犯＝どんな基準でも当然の悪）と呼び、短期的には、政治家が倫理的、法的な側面から問題を解決しなければならないとした。AIの利用倫理を確立すべきだと主張している。

　同氏は「テクノロジーを、人のためのよき奉仕者に保ち、危険なものにしないため、皆が協調して行動を起こさねばならない」と述べ、「強力で、意味のある、人間によるコントロールが必要だ」と訴えた。

　長期的にはどうだろう。先週開かれた「アメリカ人工知能学会」（AAAI）の年次総会では、哲学者でオックスフォード大学教授のNick Bostrom氏が基調講演を行い、AIの未来を問わねばならないと訴えた。

　TechRepublicによると、Bostrom氏は「超知性を持ったエージェント」が実現したら、それが人間の価値観を採用するとは考えにくく、（おそらく）独自の価値観に立って人類に脅威をもたらすことになるだろうとした上で、「もし、ロボットが十分にパワフルなら、自らの判断に従ってコントロールを掌握しようとするだろう」と述べた。

　これはAI自身の倫理観の問題となってくる。。AAAI年次総会では、そうした対策の研究成果も披露された。