要注意!Windowsのペイントとフォトが知らない間に画像へGUIDを埋め込んでいる件
MS Paint and Photos inivisibly watermark even locally generated output with GUID
MS Paint and Photos inivisibly watermark even locally generated output with GUID
Windowsに標準搭載されている「ペイント」と「フォト」アプリが、ローカルで保存した画像ファイルに対して、ユーザーに無断でGUID(グローバル一意識別子)を隠し透かし(ステガノグラフィ)として埋め込んでいることが判明しました。一見するとただの画像ファイルですが、メタデータレベルで追跡可能な情報が仕込まれている可能性があるため、プライバシーを重視するユーザーは注意が必要です。
AI生成テキスト注意(投稿したのは自分だが書いたのは私ではない)。MS PaintやMS Photosは、ローカルモデルで画像をAI加工した場合でも、写真に可視(オフにできる)かつ不可視(無効化不可で、通知なしにバックグラウンドで静かに実行される)の透かしを埋め込んでいるようだ。AI補正による背景削除などにも適用されるかは不明だが、不可視の透かしは画像ピクセルとメタデータの両方に埋め込まれており、そのGUIDによって、使用されたプロンプトや元のデバイス/ユーザー(Microsoft側で)を特定できる可能性がある。
次の当然のステップは、watermarker.dllを(署名済みの)無効なshimに置き換えるか、APIコールをMITM(中間者攻撃)して、少なくともデバイスやアカウントと紐付いていない自分自身の(空の?)GUIDを使わせる方法を探ることだろう。
念のため言っておくが、私がより懸念しているのは「この画像がAIで作られたと判別できる」こと自体よりも、「デジタルな黄色いプリンタードットが強制的に押し付けられている」という点だ。それどころか、ユーザー/デバイス/時間/場所/ドキュメントなどの詳細まで特定・抽出できてしまうため、残されたプライバシーの幻想が完全に打ち砕かれている。
先日これが誤検知されて、Paint.netをインストールする羽目になった。撮ったスクリーンショットを貼り付けてサイズ調整をしただけなのに、『AIで作られた』というバナーが出て、それを反映して更新すると言われたんだ。
プライバシーへの懸念はわかるし、Microsoftがツールで何をしているかを公表するよう求めるのは当然。だけど、いつか私たちが振り返ったときに『なぜ人間の真正性を証明し保存するための努力をもっとしなかったのか』と悔やむ日が来るんじゃないかと恐れてる。AIで加工されたというスタンプは、デジタルな系譜を記録するツールの一部としてあるべきだよ。
このAIの話は論点をそらすためのもの(red herring)だね。本当の問題は、作成するすべての画像にユニークな識別子をこっそり追加していること。誰かが君のミームを気に入らなければ、Microsoftに著作権侵害の召喚状を送るだけで、君のフルネーム、住所、メールアドレス、電話番号、その他Microsoftアカウントに紐付くあらゆるデータが即座に手に入ってしまう。年齢確認と同じで、これもインターネットの匿名性に対する戦争の新たな武器なんだ。
これには注意しておいたほうがいい。
数ヶ月前、MSはLLMが関与していたかどうかにかかわらず、あらゆるAzure DevOpsのコミットに対してCopilotの「透かし」(自動追加されるメモのようなもの)を誤って付けようとしたことがあった。結局、問題の元凶であるVS CodeのCopilot拡張機能に対して多数のGitHub issueが立てられたことで削除されたんだけどね。
MSの実装はかなり雑だよ。その結果、PaintやLLM対応アプリを使うのは控えたほうがいいかもしれない。誤ってスタンプを押されてしまう可能性があるから。
ググればわかるけど、透かしのソースコードはここで確認できるよ https://github.com/microsoft/InvisMark
Linuxファンとしては、Microsoftが導入してくるこうした変更のすべてが最高に好きだよ(皮肉)
少し厳しい言い方になるけど、外から見るとMicrosoftはユーザーを劣化させ、屈辱を与える新しい方法を積極的に探しているようにしか見えない。(そして、それを探すのに全く苦労していないようだ!)
Windowsを使わなくなって久しいけど、MS Paintがただのクリックして色を塗るピクセルアプリじゃなくなったなんて聞くとショックだよ。純粋な「ペイント」アプリとして残して、凝った機能は新しい画像エディタか何かに搭載すればよかったのに。
結局のところ、良いソフトを作ることよりも、変更を加え続けることで昇進できるように社内の労働力を最適化しちゃってるんだろうな。
つまり、「ローカルで生成」が「処理全体がローカルで行われる」ことを意味するわけではない。
これってプライバシー侵害じゃないのか?データ保護機関(DPA)が調査すべき案件だね。
追記:どこかで開示はされているらしい。それでも、ローカル生成の意味が全くなくなってるんだが…