サボるAI　GPT-4の奇妙なふるまい

　「めんどうな仕事をAIに任せて楽したい」というのは、生成AIを使う大きな動機だろう。しかし、そのAIが「めんどうなので仕事しない」と言い出したらどうだろう。昨年末から、ChatGPTが“怠惰”になっているとの報告がユーザーから相次いだ。だが、どうしてAIが怠惰になるのだろうか。

GPT-4が仕事をさぼって、人間にさせようとする

　昨年11月下旬、掲示版Redditに、あるChatGPTユーザーが投稿をした。ChatGPTに対して、一枚のHTMLから8列15エントリーのcsvファイルを抽出するという単純な仕事を命じたところ、次のように回答したというものだ。

　「データが広範で、全ての製品を完全に抽出するには長時間を要する。私は、1エントリーを含むテンプレートを提供するので、あなたは必要に応じて残りのデータを埋めることができる」

　つまり、データをひとつだけ入れたテンプレートを提供するので、後は自分でやれ、と答えたのだ。このスレッドは「ChatGPTは、役に立たないほど怠惰」というタイトルで盛り上がった。別のユーザーは「われわれは、ロボットが代わりに仕事をしてくれる思っていた。だが今、ロボットのために仕事をするのさ」と書き込んでいる。

　昨秋ごろから、ChatGPTが“怠惰”になっているとする声がXなどで頻繁に上がるようになった。与えたタスクを途中で打ち切ったり、質問におざなりな回答をする。また、指示を与えると「うむ、何かがおかしいようだ」を繰り返すなど、「やる気」を見せないというものだった。

　こうした現象は、発表されたばかりの新しいLLM（大規模言語モデル）「GPT-4 Turbo preview」で起こるようで、無料で利用できるGPT-3.5では、見られないらしかった。

　12月8日、OpenAIはこの現象を認めてXにツイートした。「GPT-4が、より怠慢になっているとのフィードバックは、全て聞いています。われわれは11月11日以降、モデルの更新は行っておらず、意図したものでもありません。モデルのふるまいは予測不能なことがあり、修正を検討しているところです」