OpenAIが画像生成AIに「SynthID」透かしを採用！偽造画像を見抜く検証ツールも公開

OpenAIが、同社の画像生成モデルで作成されたコンテンツを識別しやすくするため、Googleが開発したAI透かし技術「SynthID」を導入しました。あわせて、生成画像にこの透かしが含まれているかを確認できる検証ツールもリリース。AIによるフェイク画像や情報の拡散を防ぐ、待望のセキュリティ強化策といえます。

こういう透かしって、簡単に消したり歪めたりできるんじゃないの？結局、みんながそれほど気にせず使っているうちはいいけど、わざわざ回避する手間をかけるほどの価値がないってだけな気がするな。もしSNSのプラットフォームが透かし入りの画像を排除し始めたら、一晩で消え去りそうだけど。

それでいいと思う。みんな「すぐに消される」って言ってるけど、実際にそれができることを証明するリポジトリなんて見たことないし。

アップロードせずにこれを行う方法ってないの？

Googleがこれをクローズドソースのままにして、一部のパートナーにしか公開していないのが腹立たしい。画像への透かし技術をオープンソースにして、誰でも自由に利用したり独立して検証したりできるようにすることに何か悪い影響でもあるの？もしないのなら、私が作ったオープンソースの、改ざん耐性のある不可視の透かし技術のコードを公開しようかな。機能は十分揃ってるし。

メタデータやSynthIDにはどんな情報が含まれているの？SynthIDには何ビットくらい埋め込めるんだろう？合成コンテンツのための「栄養成分表示」みたいなものを作ることはできないかな？例えば「合成テキスト10%、合成画像30%」とか。「今日のあなたの現実は15%が合成（75%が巨大テック企業、25%がオープンウェイトのネオクラウド）でした」なんてね。

すごく良い技術なのはわかるけど、悪意のある人間がそもそもSynthIDを使わないシステムを作るのが問題なんじゃないの？

これ、単なるパフォーマンスのためのナンセンスだよ。

いろんなメディアのツールを使ってモノ作りをしてる身としては、勝手に余計なメタデータを付与してくるようなツールは断固として避けるね。

ビデオゲーム用のテクスチャを作るのに、こんな気味の悪いDRMの塊をわざわざ組み込むなんてあり得ないだろ？

Photoshopなんてどれだけ歴史があるんだよ。なんでそれだけ例外なんだ？

一度印刷してスキャンしたり、スマホで写真を撮ったりするような高度な回避テクニックを使われたらどうするの？

最初は画像がOpenAI製かどうかを検証して、そのうち登録者のデータや位置情報まで含めるようになるんだろうな。結局、AIが生成した画像やテキストなんて誰も見たくないってことがバレるだけだよ。それが分かった時点で、このツールは一般向けには失敗して、政府の監視用ツールとしてしか機能しなくなるんじゃないかな。

AI画像を黒い背景で生成するように指示して、ちゃんとしたモニターで見ればSynthIDを視覚的に確認できるよ。ただの繰り返しのぼやけたパターンで、大したもんじゃない。自分は2ピクセルごとにマスクをかけて、欠けたピクセルを再生成し、次に1ピクセルずらしてまたマスクをかけるという方法で綺麗に除去できた。市販のモデルで補完しただけだけど、あらかじめデプス（深度）マップを書き出しておいてノイズ除去もしておけば、元のコンテンツに合わせて違和感なくマスク部分を埋められる。完璧とは言わないけど、時間をかけてこの用途に特化したモデルをファインチューニングすれば、AIの透かしなんて簡単に消せると思うよ。