LLM生成テキストを「古典的」な機械学習で見破る方法

最近のLLM生成テキストが溢れるWeb環境において、最新のAI検出ツールに頼らずとも、古典的な機械学習手法を用いることで、それらを驚くほど高精度に見分けることが可能です。複雑なディープラーニングモデルを構築する前に、まずはTF-IDFやロジスティック回帰といった手軽な手法を試してみる価値があります。これにより、計算コストを抑えつつ、効率的なAI判定アルゴリズムを構築できる可能性があります。

自分も何千ものデータシートの分類とブックマーク生成に同じことをやったよ。図や写真がメインのページを検出するために、かなり単純なYOLOベースの分類器も使ったな。GLM-OCRでやったんだけど、LLMからじわじわとテキストが吐き出されるのを眺めるのが苦痛で。結局ハルシネーションの問題も残るし、スキーマに従わないモデルの制御に振り回されてるよ。

分類器ってそんなに重くないみたいだし、ブラウザ拡張機能で表示される全パラグラフに対してリアルタイムで実行するようなものを作れないかな？インターネットがLLM生成テキストで溢れ返るなら、広告ブロックみたいに自動検出して時間を無駄にしないためのツールがあれば最高なんだけどね。（記事は読み応えがあって面白かった、サンキュー！）

この手法と、昔ながらの単純なSVM分類器ってどう違うんだろう？ https://x.com/rosmine/status/2056406399471558872?s=20 (https://x.com/rosmine/status/2056406399471558872?s=20)

テキストの情報密度じゃ、AIによる生成かどうかという情報を抽出するのは無理だよ。今のモデル特有の言い回しとかClaude特有の文構造みたいな「特徴」を捉えて、それっぽい確率を出すことはできるかもしれないけど、結局のところタロット占いみたいなもんだよ。画像ならAI特有のアーティファクトがあるから（今のところは）高い確度で検出できるけど、言語に関してはシグナルが希薄すぎて、今のモデルならもう検出不能なレベルに達してるし、未来のモデルなら尚更だよ。

LLM検出器で誤検知が一つでも出ると考えると問題が大きすぎるよ。必死になって書いた卒業論文が「LLMの書き方に似てる」っていう「そこそこ」な精度の検出器のせいで突き返されるとか、想像しただけで心が折れるわ。

根本的な問題は、今のSOTAモデルの学習コストが膨大すぎるってことだと思う。もし「古典的な」モデルで安価にAIを検出できるなら、モデル開発元がその検出器をフィードバックループに入れて、学習データを改善してくるでしょ。結局いたちごっこなんだよ。AIを捕まえる効果的なパターンが見つかれば、それは間違いなく再学習に使われるだろうね。

AI製かどうかを判別しようとするのは不毛な争いだと思うな。大事なのは、誰が書いたかに関わらず、そのテキストにどれだけの労力が割かれているかを測ることじゃないかな。今の時代、中身が薄い大量のテキストを生成するのは簡単。でも、読み手を惹きつけ、余計な情報を削ぎ落とし、細部を維持しつつ最短の文章にまとめるのは労力がかかる。AIを使おうが使うまいが、そこが重要だと思うよ。

間違ってるかもしれないけど、LLMの生成物を「検出」しようとするアプローチは結局うまくいかない気がする。本気で「人間が書いた」という確証が欲しいなら、何らかの「プルーフ・オブ・ワーク」的な仕組みにするしかないんじゃないかな。その実現方法は色々あるだろうしメリット・デメリットも議論の余地があるけど、真剣に解決したいならそっちにエネルギーを注ぐべきだと思う。

結局、論文は誤魔化して切り抜けた。これはかなり衝撃的な告白だね！中国語（原文かな？）の投稿を確認したら「糊弄」という単語が使われてた。ネイティブじゃないから確実じゃないけど、これは「大した中身のない論文を適当に済ませた」っていう自虐的なニュアンスが強いんじゃないかな。英語だと「詐欺」みたいな響きになっちゃうから、表現を変えた方がいいかもしれないよ！

小型のエンコーダー専用トランスフォーマーは、LLM生成テキストの分類にかなり使えるよ。RAID-benchでAUROC 99.81を叩き出すカスタムの小型エンコーダーを使って、オンデバイスで動くiOSアプリを作ったことがあるんだ。