「ChatGPTに丸投げ」は本当に正解？コードやデータをアップロードする際のリスクと注意点

最近、「とりあえずコードやデータをChatGPTに放り込んでおけばいいでしょ？」と考えている人をよく見かけます。確かに便利ですが、技術者としてセキュリティやプライバシーの観点から無視できないリスクがあります。機密情報やAPIキー、顧客データの取り扱いには十分注意が必要です。ツールを使いこなすためにも、安全な運用ルールをしっかり理解しておきましょう。

興味深い視点だと思う。というのも、翻訳という仕事は（a）AIによって真っ先に仕事が奪われると耳にするし、（b）LLMやAI生成アートに懐疑的な人たちから、「許容できる」AIの例としてよく挙げられるからね。

その書き手がAIよりも翻訳が上手いことに疑いの余地はないけれど、AI翻訳があまりに高性能になった今、翻訳の仕事がいつまで残るのか、あるいは翻訳という仕事自体が「監査」にシフトしていくんじゃないかと思わされる。

例えば、ローレンス・エルズワースによる『三銃士』の翻訳を読んで、すごく楽しめたんだ。自分はフランス語が読めないけれど、エルズワースの翻訳は作品の翻訳としてかなり正確なものとされているらしい。

興味本位で、『三銃士』のフランス語原文をClaude Fableに突っ込んで、正確に翻訳しつつ、原文の陽気なトーンを維持して、決して検閲はするなと指示してみたんだ。終わった後、全文を読んだわけじゃないけど、エルズワース版とFable版のいくつかの章を比較してみた。

正直、驚くほど似ていたよ。私が分かぎりでは、エルズワース版とFable版で決定的な違いはなかった。エルズワース版の方が文章の質は少し上だと思うけれど、Fable版も十分に読みやすいものだった。繰り返しになるけど、フランス語が分からないから断言はできないけれど、もしエルズワース版ではなくFable版を読んでいたとしても、そこまで大きな体験の差は感じなかったと思う。

ただ、これはある意味自己成就的な結果かもしれないね。Fableはエルズワースの翻訳を学習データとして使っていて、そこから直接情報を引き出している可能性があるから。悲しいかな、英語以外の言語が分からない人間にとって、これは「袋小路」のようなものだ。翻訳の正確さを比較するには他の翻訳と突き合わせるしかないけれど、既存の翻訳が存在すればそれが結果に影響を与えてしまうし、そもそも翻訳が存在しなければ監査のしようがないからね。

それでも続きの物語についてはエルズワース版を読み続けるつもりだよ。そっちの方が正典（カノニカル）って感じがするし、言ったように文章も少し洗練されているから。

AI生成ではなく、人間が自然な文章の流れを作れずに、その場しのぎでダッシュ（―）を多用した記事か。心底驚いたよ。思わず涙が出そうになったわ。

最後の結論はかなり核心を突いているね。多くの人がどうやら次の2点で合意しているみたいだ。

1. AIは、自分たちにスキルのない作業や専門分野にとって素晴らしい恩恵である。これは理解できる。なぜなら（A）専門外だから出力の欠陥を見抜くスキルが足りないし、（B）AIを信じれば人間を雇ったり待ったりするコストを削減できるという大きなメリットがあるからだ。

2. AIは自分自身の代替としては最悪である。私のスキルは高度すぎて、仕事の9割において私を代替できるほどAIが優秀になるのは理論上の話に過ぎない。せいぜいAIはツール止まりだ。

これが、私が医療的な疑問をAIに聞き、医者がソフトウェア作成にAIを使っている理由だよ。お互い、相手がAIから引き出している品質を見てニヤリとしているのさ。

興味本位で、このスレッドに来る数分前に読んでいたフランス語の記事をChatGPTに貼り付けて翻訳させてみた。機能的な側面から言えば十分通じるレベルだし、読めない言語の記事を翻訳するのに使うのは躊躇しないだろうね。でも、プロ品質とは言えない。フランス語の文法が誤訳されている箇所がいくつかあったし、文章も事務的で、元の文章が英語で書かれていたかのように自然な流れを作る工夫が感じられなかった。ただ文を直訳しただけという印象。こんな文章の記事を読むかって？短いものならいいけど、小説だったら絶対無理だな。

2024年の今、ChatGPTが大学院レベルの数学の助けになると言えば笑われるかもしれないが、今年、AIモデルは単純なプロンプトだけで、これまで未解決だったエルデシュの問題を解いているんだ。

人間の知能とAIの間に根源的な障壁があって、AIが人間のできる多くのことを決して行えないと考えるのは滑稽に思える。意図の推論、感情の測定、文化的価値観の考慮など、人間にはできるがAIにはできないと言われることも、十分な文脈があれば今のAIには可能だ。もっと重要なのは、それらのことが人間の頭蓋骨の中だけで起こる魔法のようなタスクではなく、情報処理の産物だということだ。これまでコンピュータに習得させるのが難しかった情報処理というだけで、現時点ではAIは向上し続けている。

有用な仕事をする能力とは別の、人間固有の価値を認めることには賛成だよ。しかし、AIモデルの能力を否定するのは多くの人が犯している共通の誤りであり、悲しいことに、現実が彼らに追いつくのは、心の準備をするよりも早いだろう。

翻訳へのちょっとした脱線だけど。

『巨匠とマルガリータ』の翻訳書を2冊読んだことがある。最初に読んだ方は退屈すぎて、第1章を読み終える前に挫折した。手元にないし翻訳者の名前も分からないけど、ロシア語のニックネームがすべて翻訳されていたんだ。「ホームレス」と呼ばれている男の話ばかりで、これはひどい本だと思って何年も無視していた。なぜこの本がこれほど騒がれているのか理解できなかったんだ。

でも、Diana BurginとKatherine Tiernan O'Connorによる翻訳に出会ったんだ。ロシア語は分からないけれど、これ以上の翻訳はないと思う。彼女たちの仕事は驚異的だったよ。

エフゲニー・ザミャーチンの『われら』の機械翻訳でも同じ現象が見られる。政府が「United State」と訳されていて、「United States（米国）」と混同しやすいんだ。それを「One State（単一国家）」と訳した版は、ずっと優れていた。

「ジムウェアを着るとみんな大体同じに見える」

著者と脳の働きが違うのかもしれないけど、この発言には驚いた。自分にとってジムウェアで認識が変わることはないし、顔、体格、姿勢といったもので判断していて、服はあまり関係ない。私にとっては疑わしくなるほどナンセンスな主張だね。

人間中心の視点で言えば、誰かを見分けられないのは悲しいことだ。二度と会わないだろうから関わる価値がないという認識が、コミュニティの欠如を生んでいる。人間同士のコミュニティや対人関係は、私たちが今でも大切にしているものなのだから。

結局は単純な価値提案の問題だよ。

いくつか例を挙げよう。

オーディオブックのナレーション。人間のナレーターには、本を読み上げるだけで莫大な金額が支払われている。それを置き換える技術はすでにあるし、かなり高品質でコンピュータを使えば圧倒的に安上がりだ。精度だってかなり高い。しかし、オーディオブック業界では、真剣に本を届けるなら本物の人間に読んでもらう。自分が気に入る最高の人を探すんだ。読者は優れたナレーターの声を楽しむし、一人のナレーターが生み出す価値は、スケーラビリティがあるため非常に高い。

スケールしにくいもう一つの実例として、コールセンターがある。顧客は人間を求めるが、経営陣は可能な限りあらゆる方法で自動化に置き換えようとしてきた。この場合、人間の触れ合いという価値はスケールしにくいから、ビジネスの利益率は圧迫されていく。

翻訳はその中間にある。ChatGPTで十分だという人もいるだろう。地元の本格的なイタリアンレストランで、何を注文しているのかを知る必要があるのなら、十分役立つはずだ。もし重度の食物アレルギーがあるなら？多分無理だね。人間がもたらす「正確さ」に対してお金を払う価値があるからさ。

だから、記事で提示された「ChatGPTにアップロードすればいいんじゃないか？」という問いへの答えは、イエスかもしれないし、ノーかもしれない、ということだ。

最近、フランスのマクドナルドの端末で、フランス語からドイツ語への翻訳がひどい動画を見たよ。昔のGoogle翻訳みたいに笑えるレベルでひどかった。

マクドナルドほどの規模なら評判なんて気にしないのか、あるいは馬鹿にされて話題になるのを喜んでいるのかもしれないけど、翻訳をケチったのは確かだね。