GeminiのAI生成検知「SynthID」を徹底解析！リバースエンジニアリングで仕組みを探る

GoogleのAIモデル「Gemini」に搭載されている、AI生成コンテンツを識別するための電子透かし（ウォーターマーク）技術「SynthID」。その検知メカニズムをリバースエンジニアリングによって解明しようとする試みについてまとめました。AIが生成したテキストや画像をどのように識別しているのか、その技術的な裏側に迫ります。

ダウンスケールしてからアップスケールすれば、ウォーターマークは消えるよ。

READMEドキュメントで表の枠線がズレてるあたり、明らかにClaudeを使った形跡が見えるのが皮肉だね。

まあ、いつか誰かがやるだろうとは思ってたけど、画像がAI生成かどうかを判別する数少ない手段の一つを、わざわざ消したくなる理由って何だろうね…？

生成物によってはSynthIDが見えちゃうことがあるよね（エッジが多い部分とかテキストとか）。これで見た目が良くなるのか気になるな。

なんでそんなに大騒ぎしてるのか分からん。AI生成画像からSynthIDを消すのがこんなに簡単なら、そもそも良い解決策じゃなかったってことでしょ。

なるほどね…これ、自前の検知器に対してウォーターマークの除去機能をテストしてるだけじゃん。GeminiのSynthIDアプリでテストしてない。だから何の意味もないよ…。

AIに手伝わせた質の低いリサーチ用リポジトリって感じだし、Google自身のSynthID検知器でちゃんとテストすらしてない。ブラウザやGeminiへのアクセスなしでSynthID検知ができるように、ネットワークリクエストをリバースエンジニアリングするのは（LLMの助けがあれば）全然難しくないし、そうすれば正解データが得られるはずなのに。

数百万画素の画像に検出不可能な1ビットのウォーターマークを埋め込むのは、別にそんなに難しくない。Googleが有能だと仮定するなら、おそらく2種類のウォーターマークを用意してるはず。オンラインの判定用ツールとして公開してる雑なやつと、自分たち（と法執行機関からの要請）のために予備として持ってるやつ。それに相手はGoogleだし、生成された全画像（少なくともそのニューラルハッシュ）を保存して、データベースでアカウントに紐づけてるだろうね。

見た目ほど難しくはないよ。 https://deepwalker.xyz/blog/bypassing-synthid-in-gemini-photos