HN9451
Anthropicが発表した最新の暗号解読手法、そのインパクトと可能性を徹底考察
Some thoughts about Anthropic's new cryptanalysis results
supermatou・1日前
議論
6件Anthropicが公開した暗号解読に関する最新の研究結果について、技術的な観点から私見をまとめました。本件が今後のセキュリティトレンドに与える影響や、エンジニアが注目すべきポイントについて議論したいと思います。
彼ら[Anthropic]はAIに結果を出せと言い、それが見つかるまでひたすら根気よく作業させただけのように見える。
これ、どれだけうまくいくかってのが面白いよね。
すぐにリンクが見つからないんだけど（後で探して追記する）、どこかの「ヤコビ予想は偽である、以上」みたいなスレッドで、プロンプトを「いや、続けろ」と繰り返すだけで結果にたどり着いた別の予想のブレイクスルー事例が挙げられていたよ。
追記: https://chatgpt.com/share/6a60b2eb-0b64-83ee-9c76-7931ca1de063
特に「ブレイクスルーを起こせ」ってやつが気に入ってる。各プロンプトは20ワード未満だし、「プロンプトエンジニアリング」って何なんだろうって本当に考えさせられるよ。
Claude Mythos（まだ未リリースの高性能モデル）の出力
この一文だと、Mythosが将来リリースされるような印象を受けるな。それはあり得ないだろうね。選ばれた信頼できるパートナーには既に「リリース」されているわけだし、我々一般ユーザーにはFableという形で提供されている。これはMythosそのものだけど、サイバーセキュリティや生物学に関係することを聞こうとすると、フィルターがかかって格下げされるんだ。
（この前Fable 5で、牙と歯の違いを説明してくれって聞いただけでOpusに格下げされたよ。）
Claudeに見解を聞いてみたら、こうバッサリ言われたよ。「何が本当に興味深くて、正直言ってこの分野にとって少し恥ずかしいかというと、使われている手法がどれも平凡だということだ」。要するに、誰かが既存のツールをこれまでより徹底的に使いこなしただけってこと。つまり、AIが攻撃するのに適した作業が得意だって話だな。
もしかして、2文の要約に対して、さらに2つの要約（しかも連続で）を読まされたのか？
これは良いこと言ってるな：
もしあなたがこれらのモデルを「単なる高性能なオートコンプリート」だと思っているとか、進歩が鈍化していると考えているなら、声を大にして言いたい。そんな考えは捨てろ。モデルは非常に知的で有能だし、急速に進化している。私が依頼した特定の種類の問題において、ここ5ヶ月だけでも測定可能で印象的な進歩が見られたんだ。[...]
その一方で、モデルが超知能だとか、AGI（汎用人工知能）は既に完成していると考えているなら、それもやめたほうがいい。これらのツールを扱うのは、足元がいきなり深くなる池で泳ぐようなものだ。さっきまでは足がついて快適だったのに、特定の境界線を超えた途端、急に自分の力だけで泳がないといけなくなる。