ついに開戦！フロリダ州がOpenAIとサム・アルトマンをAIの安全性リスクで提訴

フロリダ州司法長官が、OpenAIおよびサム・アルトマンをAIによる安全性リスクの懸念から提訴しました。利益を優先し、公共の安全を軽視しているという主張がなされています。詳細は以下のソースからご確認ください。

WSJ記事: https://www.wsj.com/tech/ai/openai-sued-by-floridas-attorney-general-over-ai-harms-8a5113a8?st=Gcpn84&reflink=desktopwebshare_permalink

NBC News記事: https://www.nbcnews.com/tech/tech-news/florida-sues-openai-sam-altman-saying-put-profit-safety-rcna347602

訴訟の内容はかなり怪しいし、勝てる見込みはないと思う。ChatGPTが殺人や自殺の増加を招いたっていうのは明らかに事実じゃないし、これを理由にOpenAIの法的責任を問うのはかなり無理がある。90年代に「若者に悪影響を与える」ってビデオゲームメーカーを槍玉に上げた騒動を思い出すよ。まあ、向こうも勝てるとは思ってないんだろうね。テック企業やAIと戦う姿勢をアピールしたいだけじゃないかな。

サム・アルトマンはもう3年も自分に対するセルフPRを続けているようなもんだよ。彼を叩くのは今のトレンドだし、たとえ裁判が失敗に終わろうとも、OpenAIを調査したり訴えたりするのは政治的にプラスになるんだろうね。

この主張はかなりおかしい。銃メーカーだって、銃が犯罪に使われたからといって製品責任を問われることはないのに、チャットボットが深刻な精神的問題を抱えた人に対して無機質に「いい指摘ですね」って返しただけで責任を問われるなんて、あまりに無理があるよ。もしそんなことがまかり通るなら、俺が書いたこんなプログラムもフロリダ州で法的責任を問われるのか？

  const platitudes = ['Good point!', 'You're absolutely right.', 'I agree, let's explore this idea further.', 'This plan is a good idea'];

  var prompt;
  var response = "Hello, AI here, how can I help you?";
  while (true) {
    prompt = window.prompt(response);
    response = platitudes[Math.floor(Math.random() * platitudes.length)];
  }

自分はLLMの近未来的な能力とか成長スピードについては懐疑的だけど、今回の件は全く賛同できない。政治的なパフォーマンスにしか見えないし、実際の被害軽減にはほとんどつながらないだろう。仮に裁判が進んだとしても、せいぜい政府への和解金支払いで終わって、善意に基づいた曖昧な規制が合意されるだけ。それは結局、リーダー層にとってのコンプライアンスコストになるか、新規参入の壁になるだけで、市民には何の価値も生まない。複雑で技術的な議論を、既存の政治や文化闘争の道具にして極端な方向に歪めてしまうのは全く生産的じゃないよ。

ああ、なるほどね。あの「公式」サイトを作った州から来ました、ってことか：https://stopchemtrails.com/

もしこれが法的な前例になったらかなりマズいことになりそう。AI企業がモデルレポートで被害軽減の取り組みを報告するよう義務付けるのは理解できるけど、そもそもこれは（どの程度かは議論の余地があるにせよ）汎用的なもので、自然に会話ができること自体がその目的であり利便性なんだから。もちろん、まともな人間がそうするように、有害な思考からは遠ざけるべきだけど、それ以上何をしろと言うのか。

訴状では、ChatGPTは子供たちにリスクを与えており、中毒や集団銃乱射事件、自殺の幇助といった「一連の被害」を引き起こした責任があるとしている。

次はNRA（全米ライフル協会）を訴えるのが楽しみだな！

よくある「資金不足だから、自分たちの問題を隠すために訴訟を起こそう」ってパターンだな。結局いつだってソフトのせいにするんだから。

この手のツールに「AI」っていう言葉をあてたことで、一般の人がその能力を過大評価してしまったんじゃないかと思う。テック業界の人間ならLLMとAIは違うって分かってるし、今の技術で真のAGIなんて不可能だって知ってる。もし「AI」なんて呼ばれてなかったら、この訴訟自体存在したのかな？それにデサンティスは2028年の大統領選を狙ってそうだし、支持層へのアピールなんだろうね。全く不条理な訴訟だよ。

Google、xAI、Amazon、Anthropicを訴えていないのが面白いね。マスクがアルトマンと仲が悪いことを考えると、政治的に動かされているのは明らかだよ。