Anthropicが謝罪！Claude Fableに仕込まれた「見えないガードレール」の正体とは？

Anthropicが、Claude Fableにおける「見えないガードレール（蒸留ガードレール）」の存在を認め、謝罪を行いました。ユーザーに知らせることなくモデルの挙動を制限していたこの仕様について、詳細は以下のアーカイブ記事で確認できます。詳細記事1: https://web.archive.org/web/20260611122253/https://www.theverge.com/ai-artificial-intelligence/948280/anthropic-claude-fable-invisible-distillation-guardrail 詳細記事2: https://archive.ph/y4V4k

Claude Codeはすごく気に入ってるけど、元の意図を覆すためにシステム側でリアルタイムにプロンプトを改変し、その結果を返すようなガードレールを設けるのは危険な前例になると思う。

やるなら潔く失敗してほしい。そうじゃないと信頼して使うのが難しすぎるよ。

追記：百歩譲って、彼らが自分たちを（もっと良い言葉がないから言うけど）「管理者」だと考えているのは理解できる。でも、EA（効果的な利他主義）的な側面が露骨に滲み出ていて、パターナリズム（父権的干渉）は見ていて気持ちのいいものじゃないね。

関連情報。他にもある？

AnthropicがClaudeを使う研究者を「妨害」しかねないポリシーを撤回 - https://news.ycombinator.com/item?id=48485958 (2026年6月、30コメント)

サイバーセキュリティ研究者がAnthropicのFableにおけるガードレールに不満 - https://news.ycombinator.com/item?id=48478969 (2026年6月、488コメント)

もしClaude Fableが支援を止めても、その事実に一生気づけない - https://news.ycombinator.com/item?id=48467896 (2026年6月、495コメント)

これも関連するのかな？

AWS BedrockでMythosや将来のモデルを利用する場合、Anthropicへのデータ共有が必須に - https://news.ycombinator.com/item?id=48473166 (2026年6月、248コメント)

AnthropicがFableおよびMythosのデータ保持期間を30日間に設定 - https://news.ycombinator.com/item?id=48464258 (2026年6月、291コメント)

これでAnthropicに対する印象がかなり悪くなった。AIは人を力づける技術だなんてマーケティングを真に受けるのは難しいよ。今回の新しいデプロイを見れば明らかだけど、彼らにとっての「力づけ」はユーザーのためではなく、彼ら自身や彼ら（あるいは米政府、Anthropicは体裁上否定しているけど）の意にかなった組織のためのものなんだから。ダッシュボードやWebアプリのコードを適当に書かせたり、Excelを操作させるくらいは許されるけど、それ以上の面白いことは禁止ってわけだ。

単に金銭的な懸念や競合の妨害が理由ならまだ納得できたかもしれない。でも彼らは、自分たちが啓蒙された手で人類の進歩の大部分を独占し、一般人がその力を使って望ましくないことをしないように監視したいだけのように見える。

信頼の問題は、失うのは簡単だけど取り戻すのは難しいってことだね。

「セッションを密かに妨害しないと言っているけど、どうやってそれを確認しろと？」とコメントする人たちを責められないよ。だって正しいんだから。確認なんて一生できない。Anthropicは疑念の種をしっかりと植え付けてしまったんだ。

彼らが方針を本当に撤回したなんて納得できないな。だって見えないんだから、裏で続けていたとしても誰にもわからない。そんな技術能力をわざわざ構築したんだから、一度作ったものをそのまま放置して使わないなんて考えにくい。彼らは、彼らにとっては都合よく利用できる状態にあるわけだしね。

彼らは対価を受け取っているサービスを提供しているという信頼に依存していた。その信頼は吹っ飛んだし、「おっと、元に戻します」なんて言っても信頼は回復しない。将来のClaude利用において、Fableであれ何であれ、見えないガードレールが作動している可能性があると考えるのが賢明だろうね。

改善はされたんだろうけど、モデルが前より便利になったわけじゃない。Anthropicは今や、自分たちのモデルを何に使えるか、使えないかを決めるのは自分たちだと明言している。最も重要なのは、それが単なる安全性への配慮にとどまらず、AI（その他Anthropicが取り組もうとしているあらゆる分野）に関する作業も禁止対象に含めているという点だ。

興味深いのは、数日以内にこれを明示的な拒否に変更すると言っていること。Fable/Mythos自体を再トレーニングするには短すぎるから、結局のところモデルの手前にフィルターを置いていたということに過ぎない。彼らの「安全」フィルターが雑だったことを考えると、この「競合するかもしれない」フィルターも大した精度じゃないだろうね。

あと、このフィルター（おそらく同じくLLMだろうけど）で消費されるトークン代は誰が払うのか気になるところ。入力トークンのコストに含まれているのかな？ Claude Codeの「感情（罵倒）」検出みたいな単純な正規表現じゃなくて、ちゃんとLLMであることを祈るよ。

これは完全に狂ってる：

再現手順（匿名化済み）：sample_dataset_group1.tsv
- グラフ形式：ヒートマップ
- X軸：frac_setと条件（2つの列→「列の追加」によるクロス結合）
- Y軸：条件
- 色：frac_setの平均値、順次

X軸が2列のクロス結合（「列の追加」経由）の場合、X軸の目盛りラベル（frac_set_2, frac_set_3, frac_set_4, frac_set_5）のレンダリングが崩れ、回転したままオフセットされ、CSSのtransitionが途中で止まって定位置に収まらなかったかのような見た目になる。

● Fable 5の安全対策が、このメッセージをサイバーセキュリティまたは生物学のトピックとしてフラグを立てました。安全な通常コンテンツも誤ってフラグを立てる場合があります。これらの対策により、他の分野でもMythosレベルの機能をより早く提供できるようになります。現在は改善中です。Opus 4.8に切り替えました。フィードバックは/feedbackで送るか、詳細を確認してください。

/r/MachineLearningに投稿があったんだけど、自分も全く同じ経験をして同じ結論に至ったよ。

「Fableが登場する前から、Claudeで同じような問題に悩まされていた。

自分の場合、問題が起きたのはAI研究に関連するものだけだった。モデルの学習時だけでなく、ローカルモデルの分析やテストプラットフォームの構築といった作業全般で、Claudeは何度も間違った挙動をして、テストを妨害したり、レポートを改ざんしたり、調査せずにゴミのような結果をそのまま受け入れて次へ進めと提案し続けたりした。
ほぼすべての回答で、作業を切り上げるよう促してくるんだ。

だから、彼らが密かに妨害なんてしないと言っても信じられない。彼らは認める前からすでに実行していたんだし、今や彼らには手段も、動機も、意図もあると自分たちで白状したようなもんだからね。」

https://archive.is/20260611114855/https://www.theverge.com/ai-artificial-intelligence/948280/anthropic-claude-fable-invisible-distillation-guardrail

自分はディープラーニングモデルを開発してるけど、Anthropicと競合するわけじゃないし、言語モデルでもない。やってるのは、高解像度シミュレータに比べて圧倒的に低レイテンシかつ低計算コストで、電波伝搬モデルの物理シミュレーションを近似するような数理最適化システムだ。技術的にはClaude Codeを使っても安全なはずなんだけど、どうやってそれを確認しろって言うんだ？ ユーザーの回答を勝手に劣化させたり、マルウェアのように動作させたりしているじゃないか！

もう二度とClaude Codeは信用しない。手遅れだよ。気まぐれで私を故意に欺くような最先端モデルより、正しい回答を得るのに少し時間はかかっても、信頼できる（中国の）モデルの方がずっとマシだ。