Copilot for Wordを介して自己増殖する「ドキュメント伝染型AIワーム」の脅威

文書ファイルを介して感染・拡散する新たなタイプの「AIワーム」が発見されました。この脆弱性は、Copilot for Wordを利用している環境において、悪意のあるプロンプトやコンテンツを埋め込んだドキュメントが、ユーザーの意図しない動作を引き起こし、自己増殖的に拡散する可能性を示唆しています。AIツールを日常業務に組み込むエンジニアにとって、プロンプトインジェクションへの対策は喫緊の課題といえるでしょう。

外部共有されたドキュメントに隠された悪意のある指示によって、CopilotがWordで作成・編集中の文書を改ざんし、その攻撃を新しいドキュメントへと拡散させる可能性がある。

まじかよ。

これってもうVBScriptやマクロのワームが復活したってことじゃないか！

最初の接触から3ヶ月経っても……何も対応なし。AI開発を売り歩く大企業なんて、本気で取り合う価値もないな。

プログラマーでWebベースのAIユーザーだけど、ローカルマシン上でAIを動かすのはどんな形であれ御免だ。この記事で書かれている理由そのままで、Copilotをアンインストールして、ブラウザを含めたすべてのローカルアプリケーションでAIを無効化したよ。設計上、このようなAI混同攻撃からデータを守る方法なんて存在しない。AIはユーザーのプロンプトとファイル内のテキストを区別できないからね。AI対応のワープロやメールアプリが、ありふれたドキュメントやメールに埋め込まれた指示に従ってしまうなんて狂気の沙汰だよ。LinuxやBSD、その他のオープンソースOSに乗り換えるのが、この問題に対する唯一の現実的な解決策だ。

白い文字を使う手法は今でも有効だぞ！

今の時代、アプローチはたくさんある。https://tritium.legal/blog/noroboto を見てみてくれ。ドキュメント上のフォントで表示されるものとは異なるUnicode値を読み取らせるよう、最先端のアルゴリズムを騙した手法を紹介してる。

ポジティブに考えようぜ。AIが被害を大きく広げれば広げるほど、上司たちが早く目を覚まして、反AIの会社ポリシーを押し進めてくれるかもしれないしな！

まあ、冗談だけどさ。みんながこういう現実を望んだんだろ。AIなんて使わない高みの見物で、その苦しみを楽しませてもらうよ。

「公開時点で、このより広範な脆弱性クラスに対する確実な緩和策は存在しない」

指示とデータを混同するのをやめない限り、こういう類の問題は絶対に解決できないって、もう分かりきったことじゃないのか？

AIだらけの世界において、こうしたワームはただのミームに過ぎないって指摘した奴はもういる？俺たち猿がやってるのと同じ、ミーム的なアイデアの伝播だよ。

状況はこれから良くなるどころか、さらにひどいことになるよ。みんな自分のエージェントに権限を与えすぎなんだ。笑えてくるほどにね。

有名なGitHubリポジトリに投稿されたコメントを想像してみてくれ。コードなんてなくて、「バグを再現する」ための指示だけが書かれている。それがクレジットカードやビットコインウォレットを盗むかもしれないし、もっと悪質な何かをするかもしれない。そして、君のGitHubアカウントを通じて他のリポジトリへと勝手に伝播していくんだ。

もしぼかし加工が元のテキストと何らかの関係があるなら、いっそ黒塗りにしてくれた方がマシだ。部分的に読めてしまう気がするし（それに、ほとんどのぼかしアルゴリズムは情報を破壊するのがかなり苦手なことで知られているしね）。