EUで「AI Act」が成立　各国レベルでもAI規制の取り組み進む

AI企業には「大きな変化」、使う側のリテラシーも必要に

　AI Actで、注意すべきポイントは何だろう。MIT Technology Reviewは、以下の4項目を挙げている。

1）一部のAIは今年後半に禁止となる
2）AIシステムを使用していることがユーザーに明確になる
3）ユーザーはAIによる被害に苦情申し立てできる
4）AI企業は透明性を高めるよう迫られる

　1）は、医療、教育、警察など、人間の基本的権利に高いリスクをもたらすAI利用に制限を設けており、一部は年内に非合法化されるというものだ。

　2）の「AIシステムの使用」では、AI生成コンテンツにラベル付けして、AIの手になるものであることがユーザーに分からなければならない。ディープフェイクもAI生成であることを検出できるようにする。

　MIT Technology Reviewは、「誤った情報への対策という点で良い知らせ」と評価しながら、C2PAなど現在の電子透かしの取り組みは「規制が求めるレベルにはなお遠い」と指摘している。

　3）の「苦情申し立て」では、EUは窓口のAI Officeを域内に設置する予定だ。消費者がAIの行動についての説明を受けられるようになる。「重要な第一歩」だが、利用者側が“AIリテラシー”を持ち、「アルゴリズムによる危害がどのように起こるかを認識している必要がある」とMIT Technology Reviewは前提条件を付ける。

　総じて、ほとんどのAI利用では特に法順守を求められることはなく、重要インフラや医療といった高リスク分野で技術開発するAI企業だけが、新たな義務を負うことになるという。