HN8543
ついに実現！ハイエンドな「フロンティアAI」を自前のPC環境で爆速運用する方法
Frontier AI on Your Own Hardware
pretext・1日前
議論
11件現在の最先端AIモデル、いわゆる「フロンティアAI」を、クラウドサービスに頼らず自分自身のハードウェア環境でフル活用するための手法について紹介します。
証拠がない以上、これはAIによる精神疾患のような文章に読める。
「wee」って誰のこと？システムの名前？
「ある授業で、聞くのが怖かったけれど答えを知る必要があった質問をしてみた。『卒業後に就職できないことを恐れている人は？』。教室にいた150人のうち約8割が手を挙げた。つまり約120人の学生が、将来自分たちの居場所はないと考えているということを一斉に表明したわけだ。」
「卒業後の就職が不安」から「将来自分たちの居場所はない」へと飛躍しすぎじゃないかな。過去10年のコンピュータサイエンス専攻ではそうではなかったかもしれないけれど、大学卒業後に就職できるか心配するのは普通のことだよね。たとえ大多数が卒業後に就職できると知っていてもさ。
この記事がLLMによって書かれたものだと明らかになった時点で、読むのをやめてしまったよ。
もう一つの話はメールで届いた。卒業を待ちきれない博士課程の学生たちがいる。彼らは最先端の研究室に行きたがっていて、学術研究は無意味だと結論づけている。彼らは卒業までの年数を数えている。
私はどちらの話も間違っていると思うし、理由は同じだ。どちらも研究の未来がGPUを最も多く持っている者に属していると仮定しているからだ。
現在mlsysのラボで大学院生をやっている身として、この感覚は間違いなく正しい。ただ、根本的な原因が「学界にGPUが足りないこと」だとは到底思えない。少なくともそれだけが理由じゃない。問題は、現在最も重要なイノベーションが業界から生まれているという点だ。LLMの推論サービングに取り組みたいなら、TPOTを1%改善するだけで膨大なコスト削減になるから、それを解決するインセンティブが最も大きいのは最先端のラボやハイパースケーラーなんだ。それに、業界にいれば多くのインサイダーと話ができるので、急速に成長する分野に追いつくのもずっと簡単だ（少なくとも夏休みのインターン期間中はそう感じた）。
論文がこの問題を悪化させているのもある。伝統的に、学界は業界が手を出したがらない急進的なアイデアに取り組むべきものだった。近年、トップカンファレンスでの査読の質がひどすぎて、そうしたアイデアが論文として採用されるのが難しくなっている。
研究論文に含まれるAIスロップ（質の低い生成物）や、そのアーティファクトの話はするまでもないね。なんで今、仕事もせずにHNに書き込んでいるか分かるだろ？
最後に、トップスクールの教授がLLMが作成した文章の編集をこれほど雑に扱っているのは非常に残念だ。忙しいのかもしれないけど、LLM特有の文章スタイルにがっかりする人が多いことは、彼が推進しようとしているオープンソースウィークの目的を損なうことになる。どうやら業界の人間の方がその辺のセンスは良かったみたいだね [1]。これも、最近の人が学界より業界を選ぶ理由の一例だ。
「ソフトウェアエンジニアが真っ先に職を失うと予測されていたが、最近のトレンドは逆で、需要はかつてないほど高まっている」
こんなナンセンスな主張をしている著者の言葉を真に受けるのは難しい。ソフトウェアエンジニアの求人市場は、あらゆる指標において2022年以降毎年悪化している。これは特にエントリーレベルやミドルレベルで顕著だ。例えば、コンピュータエンジニアリングやCS専攻は、今や卒業生の中で失業率がそれぞれ2位と4位になっている [1]。
学生たちが将来に対して慎重になるのは賢明なことだし、当事者意識のない大人が、何のデータも示さずにこうした懸念を軽々しく否定するのは腹立たしいね。
AIの最大の効果の一つは、高所得の専門職でさえ職を失う可能性があると人々に気づかせたことだと思う。
これは現在のLLMの仕組みからしても当然だ。実際、自分が既に理解している領域で使えば非常に質の高い結果を出してくれる。でも、よく知らない領域だと結果は低品質になりがちで、さらに困ったことに、それがどれほどひどいのかすら自分では判断できないこともある。
結論として、AIは仕事の数を減らすが、人の必要性そのものをなくすことはないだろう。
教育において、暗記の価値はAI時代には下がるかもしれない。その分、ドメインモデリングや問題のフレーミング、あるいはツールを効果的に選択して活用する能力が重視されるようになるはずだ。しかし、より根本的な問題は、IT業界そのものが以前のような人数の雇用を維持できなくなるかもしれないということだ。
もっと正確に言うと、ホワイトカラーの労働力について言っている。
より深い原因は、低所得者層と中間層が貧しくなるK字型の経済にあると思う。普通の消費者が貧しくなると、最初に削るのは裁量的支出、つまり多くの種類のITサービスへの支出になる。
コアインフラ層は別だ。MicrosoftやGoogleのような巨大企業が既に市場を支配しており、これらはより強靭だろう。検索や動画視聴、その他の必須デジタルサービスも堅調だ。しかし、他の多くのITサービスは実質的に嗜好品に過ぎない。消費者の購買力が落ちれば、そうした企業はより深刻な打撃を受ける可能性がある。
最近は生産性の話ばかりされているけど、AIが登場する前から私たちは既に過剰生産の時代を生きていたんだ。AIは私たちを過剰生産から、爆発的生産の時代へと押し上げている。問題は、生産能力が人々の消費能力よりもはるかに速く拡大してしまうことだ。
サイクルは本来「製品→収益→雇用」という形であるはずだけど、その収益を支えるはずの消費者が貧しくなれば、サイクルは弱まる。生産性の向上だけでは解決できない。
論文を評価の主要単位として扱うことから脱却すべきだという著者の主張には賛成する。記事の議論の多くは理にかなっている。
ただ、困難な点もある。ほとんどの学者は論文を通じて名声を得てきた。その名声を使って講演の機会やコンサルタントの仕事、助成金などの収入とステータスを確保しているんだ。一人が論文中心のシステムから抜け出そうとしても、より大きなインセンティブ構造が変わらない限り、変化させるのは難しい。
個人的には、IT労働者はある意味、AI以前からずっと自分の仕事を減らすために働いてきたんだと思う。インフラが中央集権化されるほど、末端の小規模企業が真っ先に追い詰められる。AIはそのプロセスの新たな一例に過ぎない。
少し前まで、ITの高度な専門職は代替が難しいとよく言われていた。AIはその認識を変えた。ナレッジワーカーを完全に代替しなくても、専門知識に対する賃金のプレミアムを大きく押し下げる可能性がある。
AIが生産性を高めるのは確かだと思う。でも企業もそれに応じて人員を削減するだろう。そして購買力が少数の人々に集中すればするほど、製品開発自体がその少数の消費者の嗜好に偏るようになる。それがまた新たな負のスパイラルを生む可能性がある。
大学が検証コストの安い重要な課題を選べばいいという主張も、言うほど簡単じゃない。
もし検証自体がAIに依存し、大学が十分なGPUを所有する余裕がないなら、結局AI大手に依存せざるを得ない。その依存関係は、どの研究課題が実践的かという判断に必然的に影響を与える。
どんな研究プログラムも、その研究を可能にする機関と資金源に縛られるものだよ。常にね。
一方で、大学が重要性を増すという点については著者と同意見だ。
人々はよく「スキル」を純粋で独立した量のように語るけど、私の経験上、採用がそんなふうに機能することはめったにない。学位がないが非常に優秀な候補者と、同程度に優秀な学位保有者がいれば、雇用主はたいてい資格のある方を選ぶ。
より広く言えば、人は自分と文化的親和性や信頼感を感じる相手を雇いたがるものだ。大学のネットワークはまさにそれを提供する。卒業生は直接的・間接的に他の卒業生を助けるものだ。
だから、大学は社会制度であると同時に、より強力なエリート養成クラブになっていくのではないかと思う。
私のように、貧しい国から来て資金もあまりない人間にとっては、そのシステムの中での選択肢はそもそも多くないかもしれないけれど。
それにしても、著者の主張はあまりに楽観的すぎると思う。
まずスキルや基礎知識を習得してから問題解決に取り組むという考えは捨てなければならない。順序が逆なんだ。
^ これ
これはスロップ（ゴミ記事）か、単に出来の悪い作品のどちらかだな。
耳障りのいい主張が並んでいるだけで、中身がない。
変えなければならないのは、成果の単位として数えられ比較される『論文』というものだ。もし研究の単位が『エコシステム』であるなら、他の人が積み上げられるような何かを構築することの方が、次の一歩（インクリメント）よりも重要視されるべきだ。
『ものづくり』を達成の尺度とする姿勢は、数十年前にCMUにいた頃に私が楽しんでいた理由の一つだから、新世代の教員からも同じような考えが示されているのを見てとても嬉しいよ。