投稿を読んでいると、LLMが生成した文章を読んでいるのではないかと思うことがある。理由を明確に定義できるわけではないが、共通の特徴があることに気づく（エムダッシュを多用するなどの表面的なことではなく、タペストリーのように大げさな表現を使った文体のことだ）。そうしているうちに読む気が薄れ、時には嫌悪感を覚えることすらある。

LLMが書いた文章と昔ながらの「生物」が書いた文章を見分けられるというツールも存在するが、私は懐疑的である。それらは精度も疑わしいが、そもそも本質を見失っているからだ。LLMの文体に対する反応は人間的なものである。これは文章の「不気味の谷」に迷い込んだときの反応だ。したがって、いま読んでいるものが何かを教えてくれるツールを使う時点で手遅れなのである。たとえそれが「LLMは使われていない」と自信を持って教えてくれたとしても同じだ。

自分がLLMの文体を見極められるかどうかにも懐疑的である。言語は時代で変化する。若者言葉に文句を言い始めたら老いの兆候だ。「新しいセールスモーションを導入する（adopting a new sales motion）」や「ニュースのシャープなラウンドアップ（まとめ）（a sharp round-up of news）」といった表現を目にするたびに反発したくなる。だが、これらは人間の話し言葉としても使われているようだ。つまり、炭素（人間）とシリコン（AI）の違いというよりも、世代間の違いなのだろう。（移住してきたイギリス人としては、アメリカ英語の話を始めたらきりがないのでこれくらいにしておこう。「すぐに1」慣れると思う）。

文章を書く人たちに言いたい。LLMの文体には細心の注意を払うべきだ。「LLMに下書きを書かせる」という罠に陥らないようにしてほしい。あとから人間が編集したとしても、LLMの文体を排除するのは非常に困難である2。それが「不気味の谷」の反応を引き起こす。LLMから提案された言い換えを受け入れるのも危険である。LLMにアウトラインや構成を考えさせているという人もいるそうだが、アウトラインまでなら問題ないかもしれない3。だが、文章は著者自身が書くべきである。

LLMの時代では「自分の文章を声に出してみよう」がさらに重要になっている。私は頭の中にある言葉を口に出してから、それを書き留めている（その後、書いたものを編集する）。文章を通じて定期的にコミュニケーションしたいと願う人たちにとって、これは極めて重要なアドバイスである。優れた書き手になるには膨大な練習が必要だ。それは時間をかける価値のあるスキルである。だが、LLMに譲り渡してしまえば、あらゆる成長が失われてしまう。

いずれはLLMの文章を見分けられなくなる日が来るだろう。多くの意味で、そのほうが心配である。多くの書き手がそう思っているだろうが、私は書くことが思考に欠かせないツールだと考えている。私は何かを書き始めてから、ようやくそのことについて理解できることがよくある。あまり理解できていないことについてエッセイを書き始め、言葉と格闘するなかで混乱を乗り越えられることがよくある。書くことをLLMに委ねるようになると、思考や理解までもLLMに委ねるようになるだろう。私はそんなことはしたくない。それでは書く楽しみが失われてしまう。

LLMの文体は避けるべきだが、絶対的なルールではない。その重要な一例が、ジム・ハイスミスの文章である（このサイトに掲載してある）。彼はパーキンソン病の困難を乗り越えて執筆するために、LLMの活用が不可欠だと考えている。旧友の知恵を手に入れられるのならば、LLMの文体も喜んで受け入れよう。

厄介な例は翻訳だ。私の同僚の多くは英語に堪能ではなく、英語が第二言語や第四言語といった者もいる。マラーティー語（インド西部の公用語）をよく知らない私たちとのコミュニケーションにおいて、LLMを使った翻訳を重要な手段と考えている人もいる。ただし、私は流暢だが魂のこもっていないLLMの文体よりも、不格好でも本物の人間が書いた文章のほうが好きである。

英語ネイティブでもLLMに文章を書かせたほうが合理的な状況もある。たとえば、行政向けの定型文を書くときや誰も読まない報告書を書くときだ4。将来的にほとんどの文書はLLMにしか読まれなくなるだろう。LLMなら私のように「不気味の谷」を感じることもない。だが、人間とコミュニケーションしたいのであれば、人間性があふれ出す（少なくとも滲み出る）文章でなければならない。

謝辞

Alessio Ferri、Caer Sanders、Ian Cartwright、Jie Jessie Xia、Joshua Kerievsky、Michael Feathers、Michael Nygard、Scott Davies、Wei Zhangにコメントをいただいた。

本記事の執筆にあたり、AIやLLMは使用していない。

注記

  1. 訳注：momentarilyはイギリス英語とアメリカ英語で意味が違う。 ↩

  2. 非常に困難だが、不可能なことではない。初稿をLLMに書かせた文章を読んだことがあるが、完成時にはLLMの文体は感じられなかった。ただし、校正にはプロの編集者が必要だった。 ↩

  3. このサイトの方針として、執筆にAIを使用した人には、どのように使用したかを謝辞の欄に書いてもらっている。これは透明性を確保する意味もあるが、読者にAIの有用な使い方を学んでもらうためでもある。私は文章の生成や構成の補助にAIは使っていない。執筆に使うのは検索ツールとしてだけである（出典の情報は自分で確認している）。 ↩

  4. マイケル・ナイガードは以下のように述べている。「この場合、誰かの考えを伝えたいわけではない。つまり、人間ではなくプロセスとコミュニケーションしているのである。人間が封筒を開封するかもしれないが、その人間はサイバネティックな有機体のコンポーネントとして機能しているのである」 ↩