AIは「指示通り」に動かない。開発者が直面する残酷な現実

AIはあなたが意図した通りには動きません。これは非常に厄介な問題です。

GROKみたいなAIに意見を聞いてから「それは違う」と反論すると、大抵「あなたが正しいですね」と言って、こちらが聞きたいような答えを返してくる。まるでイエスマンだよ。

さらに悪いことに、LLMが間違った考えをしているというより、そもそも彼らの「考え」というもの自体、修正可能な性質じゃないんだよ。

結局のところ、僕たちはLLMというストーリー生成器に、架空の主人公たちが常にこちらが望むように行動する物語だけを書かせようとしているわけで……それってかなり難易度が高い話だよね。