OpenAIの倫理部門責任者がわずか1年で退任。何が起きているのか？

OpenAIの倫理部門を率いていたChloe Bakalar氏が、就任から1年も経たずに同社を去りました。この動きの背景や詳細については、以下のリンクから当時の報道やアーカイブをご確認ください。詳細はアーカイブ記事(https://archive.ph/W48UV) およびAI Magazineの解説(https://aimagazine.com/news/why-did-openai-head-of-ethics-chloe-bakalar-leave) をご覧ください。

この記事、彼女が辞めた理由について何の説明もなし。

AI企業は「倫理チームがある」と言いたいがために倫理チームを雇うんだよ。そのチームには何の権限も影響力もなくて、ビジネスを動かすなんて一生無理。彼らは頑張ってまともな提言をしようとするけど、会社側は「それ、金がかかるだろ……」と言って聞く耳を持たないのがオチ。

記事には彼女の退職理由を説明するような詳細は載っていないけど、HuggingFaceのハッキング騒動の後に辞めたことには触れているね。モデルの整合性（アライメント）が軽視されているという示唆かもしれないけど、HuggingFaceとOpenAIの間で結託があって、宣伝目的のパフォーマンスとして仕組まれた可能性も十分にあるんじゃないかな。

断っておくけど、フロンティアモデルのサイバーセキュリティ能力を疑っているわけじゃないよ。ハッキング自体がモデルによって実行されたのではないと考える理由もない。ただ、企業側が事件を説明する際にLARPing（なりきり）じみた表現を使って、まるでモデルに主体性があるかのように語っているのには、どうしても疑念を抱いてしまう。特に、何年も前から「危険すぎて公開できない」と言い続けているモデルをリリースしてきた実績を考えるとね。

AI倫理が提起するような問いは、何世紀にもわたって人々が問い続けてきたことと同じものだ - Chloé Bakalar（元OpenAI AI倫理リード）

これこそが、彼女を追い出した理由かもしれないね。OpenAIやAnthropicは、LLMが人類に無限の利益をもたらすか、あるいは壊滅的な損害を与えるかという、極めて特別な技術であるという前提でビジネスプランや哲学を構築している。だからこそ、誰が制御するかによって人類の運命が決まるという論理になり、他の競合に先んじてASI（人工超知能）に到達し、他者の試みを阻止せざるを得なくなる。AIと古典的な問いを紐付けるのは、AIなんてそんなに特別じゃないことを露呈させてしまうから、彼らの主張を台無しにしてしまうんだよ。

もう一つ考えられるのは、彼女が営利企業に支配されたAI構築の社会的影響や、AIシステムが意識を持っている可能性について、都合の悪い質問をしていたということかな。

以前はMetaのチーフ・エシシストだった。

彼女はMetaで6年も過ごしているんだよね。「倫理部門なんてただのPR（広報）目的」なんてこと、本人だって百も承知のはずだし、それ以外の要因が絡んでいる気がする。残念ながら、この記事にはそこら辺の詳細は書かれていないけどね。

COOも辞任したみたいだね。これって偶然かな？

https://xcancel.com/bradlightcap/status/2087211567012032862

みんな物語が大好きなんだね。人が会社を辞める理由なんて山ほどあるよ。たとえ平時や普通の状況であってもね。今のフロンティアAIラボの重要ポストなんて、どちらの条件にも当てはまらないし。

5年後、AI倫理の歴史に関する本を読んでみたいね。ヴォルテールの著作みたいな内容になる気がする。

私の感覚では、単なる飾りのマーケティング部門から、開発に有意義に貢献してその価値を証明することを求められる部門へと、根本的に変わりつつあるんじゃないかと思う。倫理チームには、何億円もかけて数ヶ月間トレーニングしたモデルが、会社が選んだ倫理的スタンスに沿うように、評価や学習をサポートするフレームワークを作ることが期待されているんだろうね。それができなきゃ、倫理的な理由で再学習が必要になったとき、時間と金の無駄が莫大なものになる。ロコのバジリスク（Roko's basilisk）について悩んだり、AIに意識があるかを考えるのとは全く別の仕事だ。

これまでマーケティングや思索的な記事を書くのが仕事だと思っていたAI倫理の人たちは、素早く適応するか、さもなくばこの分野から去るか、迫られているのかもね。

船長が倫理という名の船が沈むことを気にしていないから、ネズミたちが逃げ出している……というのが私の見方だけど、本当はもっとずっと前に船は沈んでいて、みんながまだ気にかけているフリをしているだけなのかもね。

正直に言おう。AIが文字通り手足を得て、世界征服を宣言する動画を自分で録画して、冷たい機械の手で実際に人間を殺すようなことがない限り、私たちはAIの安全性や倫理なんて本気で気にしないだろうし、行動も起こさないだろう。

みんなSkynetみたいなのはどうやって起きるんだろうって考えてきたけど、誰も予想しないようなところから突然やってくるんだよね……。でも本音を言えば、もし私が「Skynet Corp」という新しいAIラボを立ち上げて、Google出身のAI研究者の友達を数人雇えば、数億ドルの資金調達は簡単にできると思う。

ストックオプションもあっただろうに辞めたのは驚きだね。

でも彼女はMeta出身だから、信条の問題というよりは、個人的な理由と見るのが妥当かな。