技術の最前線を走り抜ける：開発のペース配分を極める方法

常に進化し続けるテクノロジーの荒波。常に最新技術を追いかけることだけが正解なのでしょうか？時には立ち止まり、地に足をつけてペースを調整することも、長期的なエンジニアとしてのキャリアには不可欠です。本記事では、流行に振り回されずに技術の最前線と上手く付き合っていくためのヒントを考察します。

AI開発の最前線のスピードを意図的に抑えるために必要な、技術的およびガバナンス上のツールを開発する国際的な取り組みを、米国政府が支援することを要請する。

正直、かなり曖昧な表現だと思うんだけど、具体的には何を言ってるの？

みんな気づいてないみたいだけど、AIのリリースと導入のペース調整は、実はもう始まってるんだよね。

トークンあたりのコストが、AIを活用するタスクの経済的な採算性を決めている。ガソリンスタンドの店員の仕事を全部自動化するのに、何トークンかかると思う？たぶん時給より高くつくよ。だから仕事は安泰だ。

少し話が飛躍するけど、多くの人が利益率のせいだと思っている（実際、研究機関に利益率なんてない。彼らには無限の投資資本があって、短期的なリターンなんて求めてないからね）コード関連製品の定額料金プランについても同じことが言える。なぜAnthropicは50倍や100倍のMaxプランを用意しないんだろう？無理だからじゃなくて、そうすると労働市場に投入されるトークンの量が増えすぎるからだ（ちなみに、これらのサービスのほとんどには時間、日、週ごとの制限があることにも注目してほしい）。

仮説の域を出ないけど、論理的には筋が通ってると思う。もし「計算資源」が変数として推論可能なら、これも意図的な（冗長な）変数として組み込むことを支持するよ。

これがAIの進歩をどれだけ加速させるかを正確に予測するのは難しいが、能力開発が結果として生じるシステムを我々が理解・制御する能力を急速に上回ってしまうという現実的なリスクがある。

これは典型的なAI「終末論者」の言い分だね。AIの危険性という言葉が、ただの「褒め言葉のサンドイッチ（持ち上げて落とす手法）」に使われてるだけ。「AIは最高にクールで素晴らしい、だからこそブレーキをかけなきゃいけないんだ」ってね。

本当のリスクはもっと退屈で、あまり議論されていないところにある。例を一つ挙げるよ。

AIはソフトウェア開発業界を完全にひっくり返そうとしている。アメリカにはソフトウェア開発者が100万〜300万人いる（定義によるけど）。そのうち数十万人はビザ保持者だ。

AIがテック系の雇用を大幅に削減しようとしている中、彼らビザ保持者はどうなると思う？……トランプ政権は、出生地主義による市民権を遡及的に取り消すことまで公言していて、決して甘い対応はしないだろう。

AIやテック企業は、自分たちのAIがいかに注意しないとすべてをハッキングしてしまうか、といった話をしたがる。でも、こうした倫理的な懸念については一言も触れないよね。

たとえ（読者の）あなたが、仕事が減るならビザ保持者を国外追放するのが倫理的だと考えていたとしても、そんなの何の準備もなしに突然やるべきことじゃないだろ。

これを本気で考えてるなら、みんな仕事を辞めて、問題のある進歩に加担しないようにするのが一番じゃないかな。自分で変革を起こそうぜ！

まあ、そうならないのが不思議なんだけどね。

この件に関するHNの議論は、本当にガッカリさせられるよ。建設的な意見がまったくない。

俺はAI開発のスピードを真剣に捉えているし、AIラボで働いている友人もみんな真剣だ。DarioやDemis、Samのようなリーダーたちが純粋に利己的な動機で動いているなんて、安易で浅はかな否定をするのは簡単だよ。

もしAIが生物学的なリスクをもたらしたり、地政学を不安定にしたり、あるいは経済的なリスクがあるのだとしたら、今回のような共同声明は良いことじゃないか？AIラボ同士が安全に、かつゆっくり進むという拘束力のある合意を結ぶことを望むべきで、非効率なゲーム理論上の競争で無理な開発をさせられるべきじゃない。国レベルで拘束力のある合意を結べることを期待すべきだよ。ここでの議論は、そうした合意が具体的にどうあるべきか、そしてどうやって実効性を持たせるか、という実質的な話であるべきだ。

俺、完全に中国のAI開発を応援する側（chinapilled）になったわ。

Anthropicは人類の敵である邪悪な会社だ。成功させるわけにはいかない。

歴史上、世界中で一斉に、単に「みんなが望んだから」という理由だけでテクノロジーの進歩が止まった事例なんてあったか？

こういう人たちは、とてつもなく世間知らずか、さもなくば不誠実な動機で動いているんだろう。

彼らが求めているのは、他の分野の連中が求めているのと同じものだよ。つまり、AIを単なるツールとして使いたいということ。もちろん、署名した人の中にはそれに気づいていない人もいるだろうし、署名しなかった人たちは、そんな均衡状態に抗って積極的に動いているわけだ。

AIに最も当てはまる歴史的な例えは「武器」だろうね。武器開発や監視、個人の支配、そして行動の制限において、企業や政府に優位性をもたらすものだ。だから、これは兵器規制の法則に従うことになる。制限が課されると脅されれば脅されるほど、小さなアクターでさえ、より多くの力を得ようと必死に戦うようになる。何を手に入れようとしているのか分かっていなくても、ライバルが持っているなら自分も欲しがるだろう。政府にとって究極の顧客は政府自身だ。彼らにはお金もエネルギーもあるし、対外的な競争のためにAIを無限に消費する意欲もある。唯一の近似解は、使用制限を一切設けないこと――まるで修正第2条みたいに（これの利点はAIが未来に向けて進化し、政府の利益にもかなうことだ）。現代の巨大モデルは圧縮可能みたいだから、今後はどんどん小さく特化したモデルが増えていくだろう。でも、兵器の最前線を遅らせようとする動きは、結局いつも逆の結果を招くんだ。

署名者リストをざっと見てみたけど、Anthropic（もちろんDarioも）、OpenAI、Microsoft、Google、Amazon、Metaがいたよ。

Moonshot.AIやDeepSeek、Z.ai、Mistralとか、アメリカ以外の企業は（少なくとも自分が見た限りでは）ほとんど見当たらなかった。MetaはMoonshotほど「最先端AI企業」だとは思わないから、それが問題だとは思わないけど。

このリストに載っている多くの社員は、このメッセージを信じていて、潜在的な結末を本当に恐れているんだろう。公平に見て、かつてGoogleの社員がGPT-3.xレベルのLLMを「意識がある」と本気で思い込んだこともあるから、彼らが正しくなくても誠実であることはあり得る。でも個人的には、これはOpenAIやAnthropicが毎年続く数十億ドルの赤字を止めるための、これといって他に道がないからやっていることのように見える。軍拡競争で最初に止まったら負けだけど、全員が走り続けたら全員が負ける。それにIPOが近づいてる今、財務状況をずっと隠し通すわけにもいかないしね。

リストに載っている全企業に共通しているのは、AIバブル（AIはバブルじゃないとされてるけど）が弾けるのを防ぐことに既得権益があるということだ。もしトレーニングコストが上がり続けたら、いつか破綻するのは明らかだろう。