Claudeの「透かし」テキスト混入問題：AIによる執筆の冒涜か？

AnthropicがClaudeに導入した「透かし（Watermark）」機能が、生成されるテキストの品質を損なっているという批判が高まっています。これはクリエイティブな執筆活動に対する一種の冒涜ではないでしょうか？この技術的な介入が、ユーザーの文章作成体験をどのように歪めているのか、その是非を問います。

プロバイダーは利用規約で、ユーザーがウォーターマークを削除してはならないと義務付けなければならない。

それじゃあ生成されたテキストの所有権は自分にはないし、自由には使えないってことか。じゃあ一部をコピペしたり、自分の好みに書き換えたらどうなる？ウォーターマークが含まれているコードの一部を書き換えた場合は？

ただのパフォーマンスで、政府が誰かを攻撃したい時にいつでも使えるような曖昧なルールに過ぎないよ。

EU圏外のユーザーには適用されないことを願うよ。

要約：自分の文章を校正するためにClaudeを使うと、その全文が「Claude生成」というフラグを立てられるリスクを背負うことになるため、もう誰もClaudeを使えなくなる

たぶん、それこそが狙いなんだと思うよ。

自分が使うLLMには、あらゆる決定ポイントで最高かつ最も正確な言葉を選んでほしい。

残念なお知らせがある。LLMは根本的にランダム性を利用しているんだ。トークンを生成するたびに、まずは可能なトークンの確率分布を生成して、その中からランダムに一つを選んでいる。今回説明されているテクニックは、その乱数生成器を擬似乱数化するものだと考えればいい。出力される結果自体は、以前生成できたであろうものの一つに過ぎない。ただ今後はそれが決定論的になって、毎回同じ出力をするようになるというだけさ。

この記事、ちょっと話が矛盾してないか？高品質で正確な文章を求めているのに、それを生成させるためにLLMを使うの？全く正反対のことを言っている気がするんだが。

皮肉を言うつもりはないけど、Claudeが書く文章って、ほとんどがライティングの歪曲だよ。

正直、Claudeの文体は耐えられない。このウォーターマークの変更で、ますます不気味さが増した感じがする。

自分はこれで問題ないと思う。ブログ投稿前にLLMを使って議論の相手をさせて、明らかな間違いを防ぐ使い方はしてるけど、UXとしては、テキストの様々な部分についてノートを作らせて議論するという形だ。コピペしない限り生成されたテキストがブログに入ることはないし、自分で書くことが目的だからコピペなんてしない。

Claudeで膨大なテキストを生成させているような段階なら、もはや洗練された書き手を目指しているわけじゃないだろ。ランダムに関連語を選ばれるようになったからといって、何がそんなに悪いのかよく分からないな。

こんな賢い人がGumbel softmaxのテクニックを理解できていないなんて驚きだ。あれは書き込みの質には全く影響しないことが証明されている。そもそも「次にくるベストなトークン」が100%の確実性で存在するわけではないからこそ、このトリックが有効なんだ（「ハムレット」第一二つ折り版から独白を返せというようなプロンプトにはウォーターマークを入れられない、まさにこの理由でね）。

自分が使うLLMには、あらゆる決定ポイントで最高かつ最も正確な言葉を選んでほしい。

著者は自分が今、ClaudeからT=0の出力を得ていると思っているのか？それともT=0が「最高」の文章を生み出すと勘違いしているのか？

この記事全体が、LLMの仕組みの基本からあまりにもかけ離れているように見えるよ。

LLMなんてそもそもライティングの歪曲物なんだから、今さら何を驚くことがあるんだか。やれやれ、「トレンチコートを着た3つのオートコレクト」が生成した無駄に長い婉曲表現が、これのせいで少し長くなったところで、あるいは人々が機械生成された言葉のゴミを読まされているというサインとして、言葉の選び方の微妙なリズムに気づき始めたところで、それがどうしたというんだ。最高に最悪な運命だな。機械がダラダラと書き連ねた長い文章が、今より36.58%長いんじゃなくて37.05%長くなるだけじゃないか。

最初、GruberがAI生成テキストの「品質」にここまで入れ込んでいることに驚いた。自分の中ではAI生成と品質なんて矛盾語法でしかないからね。でも実際、Gruberの関心はEUにあるんだろう。これはEUがAppleに規制を順守させていることに対する、彼の一連の攻撃の一環に過ぎないんだよ。