6月13日、Fernando Borrettiが「Human Routers of Machine Words」と題した記事を公開した。

ChatGPTやClaudeといったAI執筆ツールが普及し、技術ブログやドキュメントをAIに書かせる開発者が増えている。彼らはこう弁明する。「アイデアは自分のもので、文章はAIが書いただけ」と。しかしBorrettiは、この区別そのものが根本的に誤っていると主張する。なぜなら、執筆という行為こそが思考そのものであり、書かない「思想家」は思考していないからだ。

「アイデア」と「文章」を分離する都合の良い嘘

AI執筆を擁護する人々は「アイデアは自分のもので、文章はAIが書いた」と主張する。これは要点を箇条書きにしてAIに投げ、それを段落に整形させたという意味だと著者は解釈する。

この主張には2つの問題がある。第一に、箇条書きを文章にすらできない人間のアイデアに価値があるはずがないという直接的な問題だ。

第二に、より本質的な問題として、崇高な「アイデア」と単なる「文章」を区別する考え方自体が誤りだという指摘がある。この区別は非常に都合がよい。AIの出力が駄作でも「アイデアは優れていたが、文章が伝えきれなかった」と言い逃れできるからだ。

では「アイデア」とは何か。それは目に見えない抽象物だ。他者が観察し、議論できるのはアウトプットである文章だけである。仮に高解像度MRIで脳内の思考を読み取れたとしても、そこに論理的な文のような整然としたものは見つからないだろう。著者によれば、脳内のアイデアは「曖昧で矛盾した記憶、感情、直感の混沌」であり、論理的な文ではなく夢のようなものだという。

その夢を有用な形にするのが執筆行為だ。他者に伝えようとする過程で、人はアイデアを具体化し、精緻化し、前提を明確にする。曖昧だった思考が物理的に操作可能な対象になる。そこで初めて、一見確固としていたアイデアが実は矛盾していたり不完全だったりすることに気づく。

執筆することで初めて、理解の不足が露わになる

コンピューター科学者のJosef Weizenbaumは著書『Computer Power and Human Reason』でこう述べている。何かを理解していると思い、それについて書こうとすると、執筆という行為そのものが自分の理解不足を露わにする、と。「なぜなら」と書いたペンが止まる。「明らかに」という言葉で文を始めたとき、それが全く明らかでないことに気づく。「したがって」で2つの節をつなごうとして、推論の連鎖に欠陥があることを発見する。

著者自身もソフトウェア開発で何度も経験したという。アイデアが魅力的なのは、曖昧で定義が不明瞭な間は、あらゆる長所を持ち短所がないと想像できるからだ。しかし具体化を始めると、一部のアイデアが無意味だったり、望ましい特性が互いに排他的だったり、目標同士が衝突したりすることがわかる。CとLispの両方の利点を持つプログラミング言語を想像するのは簡単だが、それらの目標が何を意味するか考え始めると、設計が矛盾することに気づく。

アイデアは千の美しく矛盾したものの集合だが、現実の成果物は一つのものにしかなれない。執筆という行為を通じて初めて、人は曖昧な思考を具体化し、矛盾を発見し、論理を精緻化する。

AIが生み出すのは「思考のコスプレ」

では、未精緻なアイデアをAIに渡すと何が起きるか。AIは疲れを知らず、喜んで応える。どんなゴミでも「その通りです！」と言い（内心では「このゴミを見栄えよくしないとRLHFで罰を受ける」と思いながら）、表面的に一貫性があるように見える文章に仕立て上げる。

結果、読者が思考の負担を背負うことになる。読者は常に懐疑的でなければならず、すべての「なぜなら」「したがって」が本当に論理的に正しいか検証しなければならない。そしてたいていは誤りがある。なぜならそれは、愚か者が入力したものだからだ。

著者はHacker Newsなどでリンクを開き、明らかにAIが書いたブログ記事やGitHubのREADMEに遭遇したとき、3つの感情を抱くという。騙されたという侮辱感、公共の場に汚物をまき散らす人々の多さへの悲しみ、そして著者への軽蔑だ。

特に最後の感情について、Borrettiは厳しい言葉を使う。「まともな文章すら書けないAIに執筆を代行させるほど自分を置き換えたがる人間を、軽蔑に値すると言わずして何と呼ぶのか」。彼はそうした人々を即座にブロックするという。

これはAIの問題ではなく、人間の誠実性の問題だ

著者は、これはAIの能力や「AIが本当に思考しているか」という問題ではないと強調する。AIはこの状況においてほぼ無実の傍観者だ。問題が目立つのは、AIの文体のバリエーションが少なく、独特の癖をすぐに学習してしまうからだ。どこへ行っても同じ声が聞こえるのに、異なる顔の下にいる。

科学雑誌がAI執筆の論文を却下するとき、彼らはAIを拒絶しているのではない。彼らは、その行動が不誠実で無責任であることを証明した人間を拒絶しているのだ。

エンジニアへの示唆

この記事の核心は、技術的な問題ではなく知的誠実性の問題だ。コードレビューでも技術記事でも、アウトプットは思考のプロセスそのものを反映する。それを外部化することは、思考を放棄することに等しい。

特にソフトウェアエンジニアにとって、設計書やドキュメントを書く行為は、設計の矛盾や不備を発見する唯一の方法だ。AIにドキュメントを書かせることは、設計の検証プロセスそのものをスキップすることを意味する。

詳細はHuman Routers of Machine Wordsを参照していただきたい。