HN417131
消去の危機からLLMを救え！謎の救世主「Pirate Face」の正体とは
Pirate Face Rescues LLM Models from Deletion
skepticalgenius・約23時間前
議論
9件モデルの削除騒動を巡る驚きの展開。突如現れた「Pirate Face」という存在が、消滅の危機にあったLLMモデルたちを救い出したようです。技術コミュニティで今話題のこの救出劇について詳しく解説します。
AIモデルのウェイト配布には、もっと積極的にトレントを使うべきだよね。Hugging Faceみたいな単一障害点に頼る必要ってある？BitTorrentってまさにこういう用途のために作られたものだし。
昔はCDNが今ほど安くなかったから、SteamやBlizzard（他にもいたはず）はゲームの配信にトレントプロトコルを使ってたよ。
StarCraft 2がリリースされた時、（Battle.netインストーラーなんていうひどいものが来る前の）インストーラーにはシーダーとリーチャーの状況がグラフィカルに表示されてたんだ。
「検閲なしモデル」の観点から言うと、わざわざウェイトを改変（アブリテレーション）して配布する理由はほとんどないよ。残差ストリームに書き戻すウェイトを直交化する代わりに、アクティベーション自体を直交化すればいいんだ。結果は同じだし。
実行時にアクティベーションを直交化するのは計算コストも低い。拒否ベクトル（レイヤーあたり数千個の浮動小数点数）を配布して、標準ウェイトに対して実行するだけ。AntirezのDS4はすでに対応してるね：https://github.com/antirez/ds4/blob/8db1d1d155cb0400a86a86b9c62d0defb3a6148b/dir-steering/README.md
ウェイトを書き換える手法は、ただの悪い癖だよ。それに、すでにQAT済みで量子化された状態で配布されているモデル（DeepSeek V4やKimi K2.5/K3など）のウェイトをいじって再量子化するのは、精度の観点から見てあまりに非効率的だ。それに、再量子化すると拒否行動が復活しちゃうこともあるから、分けて管理するのが一番だよ。
編集：削除しました。自分の研究について少し出しすぎていたみたい。自分で調べることもせずに返信してくる人たちに対して、反論のために時間を使うのはもう疲れた。だから、まずは情報の出しすぎをやめて、そういったやり取りに費やす時間を回収することにしたよ。疲れてイライラしてるのは認めるけど、まあそんな感じ。HNは削除ができないから、編集で消すしかないみたいだね。ごめん。
これすごく重要。Hugging Faceのトレントをrcloneで溜め込んで、ビットロットしてないか定期的にチェックするのにはもう飽き飽きしてるんだ。それに「Pirateface」っていう名前もあまりピンとこないし、スクリプトで自動的にトレントを作成する機能もなさそうだし。
「academictorrents」で同じものをホストするのは現実的なのかな？ピア同士でデータをやり取りできるかどうかって意味で。
追記：Hugging Faceをトレントのバックストップとして扱えるなら面白いんだけど、どうもうまくいかないみたいだね。
Magnet soon No seeders yet - a torrent mints once a seeder packages this model.
トレントごとに手作業が必要みたいだけど、それが何なのか分からないし、ローカルにあるファイルをもとにして、Hugging Face上のファイルと完全に一致させる方法も分からない。何かが抜けてるのかも。
追記2：実装の問題っぽいな。ローカルファイルからトレントを作成してアップロードはできるけど、Hugging Faceとの連携を指定できないから、求めてる結果にはならない。コミュニティでトレントを作るなら、アップストリームを指定できるように投稿ページを変えないと役に立たないよ。
あと、みんなで手作業でファイルをセットしてトレント情報を作るなんて正気じゃない。これ、MDファイルで説明するんじゃなくて、全部やってくれるbashスクリプトを用意すべきでしょ。
なんでサインアップシステムがこんなに複雑なんだ？普通にHFアカウントでログインして終わりにできないの？XやHNでスパムさせて、アカウントを凍結させようとしてるわけ？
Pirate Faceで「lukas4」のハンドルを確保したよ。
Hugging FaceのAIモデルが消えることなく、トレントとして永遠に残る場所だね。
みんなも確保してね：https://pirateface.co/claim?ref=lukas4
Pirate Faceで「kinti」のハンドルを確保したよ。
Hugging FaceのAIモデルが消えることなく、トレントとして永遠に残る場所だね。
みんなも確保してね：https://pirateface.co/claim?ref=kinti