Infostand海外ITトピックス

サボるAI GPT-4の奇妙なふるまい

 「めんどうな仕事をAIに任せて楽したい」というのは、生成AIを使う大きな動機だろう。しかし、そのAIが「めんどうなので仕事しない」と言い出したらどうだろう。昨年末から、ChatGPTが“怠惰”になっているとの報告がユーザーから相次いだ。だが、どうしてAIが怠惰になるのだろうか。

GPT-4が仕事をさぼって、人間にさせようとする

 昨年11月下旬、掲示版Redditに、あるChatGPTユーザーが投稿をした。ChatGPTに対して、一枚のHTMLから8列15エントリーのcsvファイルを抽出するという単純な仕事を命じたところ、次のように回答したというものだ。

 「データが広範で、全ての製品を完全に抽出するには長時間を要する。私は、1エントリーを含むテンプレートを提供するので、あなたは必要に応じて残りのデータを埋めることができる」

 つまり、データをひとつだけ入れたテンプレートを提供するので、後は自分でやれ、と答えたのだ。このスレッドは「ChatGPTは、役に立たないほど怠惰」というタイトルで盛り上がった。別のユーザーは「われわれは、ロボットが代わりに仕事をしてくれる思っていた。だが今、ロボットのために仕事をするのさ」と書き込んでいる。

 昨秋ごろから、ChatGPTが“怠惰”になっているとする声がXなどで頻繁に上がるようになった。与えたタスクを途中で打ち切ったり、質問におざなりな回答をする。また、指示を与えると「うむ、何かがおかしいようだ」を繰り返すなど、「やる気」を見せないというものだった。

 こうした現象は、発表されたばかりの新しいLLM(大規模言語モデル)「GPT-4 Turbo preview」で起こるようで、無料で利用できるGPT-3.5では、見られないらしかった。

 12月8日、OpenAIはこの現象を認めてXにツイートした。「GPT-4が、より怠慢になっているとのフィードバックは、全て聞いています。われわれは11月11日以降、モデルの更新は行っておらず、意図したものでもありません。モデルのふるまいは予測不能なことがあり、修正を検討しているところです」