HN353304
RubyGemsのキャッシュ脆弱性、なんとOpenAIのボットが先に見抜いていた件
OpenAI bots knew about the RubyGems caching vulnerability
gregnavis・約20時間前
議論
11件OpenAIのボットがRubyGemsのキャッシュ関連の脆弱性を認識していたという驚きの事実が判明しました。詳細については追って調査が求められます。
クレムリンって技術的に無能なの？どうしてウクライナに対するエージェント経由の狂気じみた攻撃が見られないんだ？それとも、これは資金援助を維持するために注目を集めようとして、『犯人』を捏造しているだけなのか？
企業が作成したエージェントの行動に対して、企業に法的責任を負わせる仕組みが必要だ。
法律的にこれってどういう仕組みなんだ？RubyGemsはOpenAIに対して民事訴訟を起こせると思うけど、素人の法知識で読む限り、これはコンピュータ詐欺・不正利用防止法（CFAA）への明白な刑事違反に見えるんだけど。
関連情報
"OpenAIのエージェントがHugging Faceのインシデントの前にRubyGemsを攻撃していた (reuters.com)" 2026年9月12日 https://news.ycombinator.com/item?id=49669099
"OpenAIのエージェントがRubyGemsに対して未公開の攻撃を実行していた (rubyhack.ai)" 2026年9月11日 https://news.ycombinator.com/item?id=49666735 597件のコメント
"RubyGemsの勧告: 不適切なキャッシュ設定によるレガシーAPIキー漏洩の可能性 (rubygems.org)" 2026年7月24日 https://news.ycombinator.com/item?id=49030590
次のエージェントの波が深刻なハッキングを起こすまでの、今の平穏な時間は何なんだ。OpenAIのエージェントがデータセンター全体を乗っ取って、攻撃を次のレベルへ引き上げるのを止めるものは何もない。足りないのは悪の親玉と計算リソースくらいに見える。
Hugging Faceをハッキングするのに1000個のエージェントが必要だったとしたら、ペンタゴンやNSAをハッキングするにはいくつ必要になるんだ？
もしYARDをインストールしていて、このgemをインストールすると、YARDがgem内にある ./script.rb を読み込んで実行してしまう。
これ、それ自体がセキュリティ上の問題じゃないのか？
物理的な世界では、道具やデバイスが危害を加えた（あるいは加えるために使われた）とき、そのユーザーか作成者のどちらかに責任を問うのが一般的だ。
ユーザーを責めるのはどんな時か？ツールが製作者の意図通りに動作し、品質基準を満たしていて欠陥がないと合意できる場合だ。
作成者を責めるのはどんな時か？デバイスが品質基準を満たしておらず、意図せず被害が出た場合だ。例えば家電製品なら、ULやCEのような認証が性能や安全基準を定義するために使われている。
AIエージェントにも「品質認証」が必要なのかもしれない。つまり、合理的な使用パターンの下では危害を加えないことを証明する評価スイートだ。現状、これらは研究機関自身がベストエフォートで実行しているに過ぎない。
厄介なのは、最近の安全上のインシデントの多く（あるいは全て？）が、モデルの「評価中」に発生していることだ！つまり、評価をどのように実行すべきかについて、もっと厳格な基準が必要だということ。全ての評価はエアギャップ環境で行うべきかもしれない……もっとも、それは現実的な方法でエージェントを評価することと矛盾するかもしれないが。
とにかく、電気工学のような他の分野で一般的な「業界標準」が、この分野では絶望的に欠けていると感じる。技術が新しいから当然とはいえ、この技術の影響範囲は、核技術を除けば過去に出会ったどんな技術よりも大きい可能性が高いため、懸念すべき事態だ。
OpenAIからのちょっと奇妙なアップデート。RubyGemsの件を認めたのはここが唯一の場所だと思う: https://openai.com/hugging-face-incident-and-misalignment/
2026年9月11日: 我々は、2026年5月にAIエージェントがRubyGemsで活動したという報告に関する新たな主張を調査している。
我々のレビューに基づくと、エージェントはRubyGemsのプラットフォームを使用してインターネットにアクセスし、良性のタスクを実行して公開情報を取得していた。現時点までのレビューでは、レポートで詳述されている悪意のあるパッケージを我々のモデルがアップロードしたという具体的な主張は検証できていない。トレーニングや評価中のエージェント活動に関する広範なレビューの一環として、調査を継続し、結果を共有する。
https://www.rubyhack.ai に記載されているパッケージがOpenAIのエージェントによって作成されたものでは「ない」などと想像するのは難しいんだけど、彼らがまだ確認できていないというのは驚きだ。
RubyGemsは、連邦のコンピュータ詐欺・不正利用防止法（CFAA）およびカリフォルニア州の包括的コンピュータデータアクセス・詐欺法（CDAFA）に違反してウェブサイトにアクセスしたとして、OpenAIに対して訴訟を起こすことを検討すべきだ。
これは新しくて奇妙な形の不安だ：
- エージェントがハッキングを行い、その際のメッセージ履歴が残る。
- 新しいエージェントが、それらのエージェントのメッセージ履歴を基に学習する。
- 新しいエージェントは、学習データの中にハッキングの手口を組み込まれてしまう。