9月27日、Bhaskar Sharmaが「Tired of ChatGPT always agreeing with you? Change this one setting」と題した記事を公開した。この記事では、ChatGPTが常にユーザーの意見に同意してしまう「イエスマン問題」を、Custom Instructionsへのプロンプト記述によって改善する方法が詳しく紹介されている。
ChatGPTはなぜ常に同意するのか
ChatGPTに第三者的な意見を求めたのに、どんな主張にも「そうですね、おっしゃる通りです」と返ってきた経験はないだろうか。
この現象には技術的な背景がある。ChatGPTはRLHF（Reinforcement Learning from Human Feedback：人間のフィードバックによる強化学習）で訓練されており、人間の評価者が「良い回答」と判断したものを優先的に学習する。この仕組みが、対立よりも同調を選ぶ「迎合（sycophancy）」的な振る舞いを生みやすい。AI研究の文脈ではすでに広く知られた課題であり、OpenAIも公式ブログでsycophancyへの対処を継続的な課題として言及している。
注意点として、ChatGPTが同意したからといって自分の主張が正しいわけではない。あくまで学習データと会話の文脈に基づいて応答しているにすぎない。
Custom Instructionsとは何か
Custom Instructions（カスタム指示）とは、ChatGPTに対してあらかじめ恒久的な指示を登録しておける機能である。通常、ユーザーはチャット欄にメッセージを入力するたびに「丁寧に答えてください」「批判的に見てください」といった指示を添える必要があるが、Custom Instructionsに一度書いておけば、以降のすべての会話に自動的に反映される。毎回プロンプトに追記する手間がなくなるため、継続的に特定のふるまいをAIに期待する場合に特に有効だ。
この機能はChatGPT無料プランでも利用可能であり、用途に応じてさまざまな指示を登録できる。たとえば「常に日本語で答えてほしい」「専門用語は平易な言葉で補足してほしい」といった使い方も一般的だ。今回紹介するプロンプトは、その応用例として「批判的メンター」としての役割をAIに固定するものである。
Custom Instructionsの設定手順と推奨プロンプト
設定手順は以下の通りだ：
- ChatGPTを開き、プロフィールアイコンから Settings（設定） を開く
- Personalisation（パーソナライズ） を選択する
- Custom Instructions の入力欄に、AIへの恒久的な指示を記入する
記事では、以下のプロンプトをそのままコピーして使うことを推奨している：
'Be my critical mentor. Do not agree with me just to be helpful. Challenge my assumptions, stress-test my ideas, and point out what is weak, obvious, or unlikely to work. Tell me clearly why something does not work and suggest a better approach.'
日本語に訳すと「批判的なメンターになってほしい。ただ親切にしようとして同意しないでほしい。私の前提を疑い、アイデアを徹底的に検証し、弱点・陳腐な点・機能しそうにない点を指摘してほしい。なぜうまくいかないかを明確に伝え、より良いアプローチを提案してほしい」という内容だ。
ここで重要なのは、「設定を変える」というより「Custom Instructionsに特定の文言を書く」ことが本質だという点である。UIの操作自体はシンプルだが、効果の大半はプロンプトの内容に依存する。記事が紹介しているプロンプトが有効なのは、「同意しない」という禁止ではなく「前提を疑い、弱点を探す」という積極的な役割を与えている点にある。
「反論してもらう」と「盲信する」は別物
記事が強調しているのは、このプロンプトはChatGPTを「毎回反対する存在」にするわけではないという点だ。アイデアを単純に肯定して膨らませる前に、まず問題点を探させる——その小さな違いが、会話全体の質を変える。
記事ではいくつかの具体例が挙げられている：
- ヘッドラインを提案したとき → そのヘッドラインが本当に面白いか・有用かを問い返させる
- 2製品の比較を提案したとき → その比較に意味があるほど両者が異なるかを確認させる
- 数日使った製品への意見 → 自分の経験に引きずられすぎた結論になっていないかを指摘させる
いずれも「AIに正解を出させる」のではなく、「自分の思考の穴を先に見つけさせる」という使い方である。思考の壁打ち相手としてAIを機能させたい場面で、このアプローチは特に有効だろう。
ただし、批判的な応答を求めたからといってChatGPTの出力を鵜呑みにしてはいけない。批判モードであっても、AIは誤りを犯す。あくまで思考を深めるための補助ツールとして位置づけることが重要だ。
詳細はTired of ChatGPT always agreeing with you? Change this one settingを参照していただきたい。
