今こそAIラボの実態を解明すべき時だ

AI業界は急速に発展していますが、その裏側で何が行われているのか、私たちはもっと注視すべきです。ブラックボックス化しつつあるAI研究機関の透明性を確保し、安全性を議論するタイミングが来ています。

「AI」という曖昧な議論から脱却し、問題を引き起こしている具体的なシステムの種類を特定しなければならない。

まったくその通り。メディアで議論する人たちが、ここまで具体的に踏み込むことを求めているケースがいかに少ないか驚くほどだ。AIなんて単なる行列演算であって、重要なのはその演算を何に接続するかということ。モデルがどれだけ怖いか、あるいはどれだけ高性能かといった話よりも、私たちがAIを何に接続させることを許容するかについて、もう少し議論すべきじゃないかな。

なぜインターネットから遮断された隔離済みのコンピューターでエージェントを動かさないのか？そうすれば、コンテナから脱出したところで何の問題もないはずなのに。

多くの人が自分の全コンピューターに対してルート権限を与え、さらに恐らく非常にプライベートな個人情報まで渡しているというのは、セキュリティの観点から見て本当に悪夢だよ。

これはAI規制に対する的外れな試みだね。本当の問題はそこじゃない。

AIシステム、特に何かを実行できるマルチエージェント型は、個人というより企業に近い。Hugging Faceのインシデントのログを読むと、社内のメールのやり取りにそっくりだ。組織の各部門がどうすべきか、誰が何を担当するかを議論していて、最終的に妥協してタスクをこなし、時にはルールを破る。これって普通の企業の振る舞いそのものだよ。

エージェント型AIが内部世界の外で何かをする時は、外部システムや人間とのやり取りを通じて行う。今のところ、指示通りに動くロボットを持っているものはほとんどいないけど、繰り返し言うように、これは普通の企業行動だ。

企業は目標追求システムだ。ミルトン・フリードマンの説に従うなら、理論上の唯一の目的は株主価値の最大化。会社内部には上位の目標を支えるためのサブ目標がある。マルチエージェントAIが行っているのも、まさにそれだよ。

この考え方が導く不都合な真実は、AI規制と企業規制は非常に似ているということ。政治の世界が深く考えたくないのはそこだろうね。要は、企業の力により強い制約を課すことを意味するからだ。

それでも、AIと人間が混在する企業が生まれる可能性が高い以上、無視はできない。デモレベルではすでにいくつか試みられているし、まだ成功とは言い難いけれど、AIが運営する企業が人間中心の企業を圧倒するようになったら、そのインパクトは計り知れないよ。

少し懐疑的あるいは皮肉屋かもしれないけど、最先端の研究機関たちは自らが作り出したAIサイコシス（精神病）に陥っているように見える。

LLMが素晴らしい機械であることは疑いようがないけれど、「AGI」から「ASI」へ即座にジャンプするというのは時期尚早に感じる（AGIそのもののゴールポストが常に動いていることは言うまでもない）。

私は「可能な限り速く進める」派だし、一日中LLMと仕事をしているけれど、それでもASIまであと一歩だとは信じられない。

実際、自分が間違っていることを願っているよ。ASIがすぐそこまで来ているなら、それはそれで素晴らしいことだ。

でも、私が怖いのはASIじゃない。人間が「AIが一番よく知っている」と信じ込んで、意思決定を「AGI（という名の賢くないAI）」に丸投げしてしまうことだ。

自分たちが人工生命を創造したと信じたいがために、高次元の魔法の鏡に知的制御を明け渡し、批判的思考を放棄してしまう。これこそが新しいチューリングテストであり、あまりに多くの賢い人たちがそれに失敗している。

彼らは化石燃料企業も調査したけど、結局のところ彼らは法の上に存在していたってオチだよね。

AIが人類にとって存続の危機だという話がこれだけ出てくる理由は、彼らが借金まみれの資金調達で3.1兆ドルの投資を約束してしまったのに、今になって金利が上昇しているからだよ。「規制しなければAIが全人類を殺す」というのは、彼らにとっての「借金免除カード」なんだ。米国政府に軍拡競争を止めさせて、既存モデルの価格を釣り上げ、新しいDC（データセンター）建設の誓約に対して不可抗力宣言を出すためのね。

（リンク省略）

（リンク省略）

AI関連企業の中で唯一、AIの安全性について騒ぎ立てていないのがNVidiaだというのは示唆的だよね。彼らはAIのおかげでキャッシュフローがプラスになっている唯一の企業だからね。

カル・ニューポートはこのトピックに関して最も明晰な思考を持つ一人だね。彼の「ドゥーム・トローリング（破滅論の拡散）」に対する見解のおかげで、この馬鹿げた騒動の先に、破滅ではない別の結末があり得ると気づけたよ。

• 特定の危険な情報（ウイルス学、兵器、サイバー犯罪）を学習データに含めることを禁止する。
• チャットボットの「パーソナライズ」を禁止する（依存させる目的以外に、ボットに個性を与える必要なんてない）。
• チャットボットのセラピストやコンパニオンを禁止する。
• 再帰的な自己改善と超知能を禁止する。