機械学習の必須知識：Jensen–Shannonダイバージェンスを徹底解説

Jensen–Shannonダイバージェンス（JSD）は、2つの確率分布の類似度を測るための指標で、機械学習や情報理論の分野で非常に重要です。カルバック・ライブラー（KL）ダイバージェンスをベースにしていますが、対称性があり、常に有限の値をとるため、GAN（敵対的生成ネットワーク）の学習などで広く活用されています。数学的な性質やメリットについて詳しく見ていきましょう。

面白そう。なんで今日フロントページに載ってるのか、何か背景を知ってる人がいたら教えてほしい。

Hacker Newsの集団心理ってマジであるんだな！ちょうど先日、KLダイバージェンスについて読んでた流れでJSDについても調べてたとこだった…ロボットのSim-to-Real評価とかで便利な測定指標になりそう（これを知ったきっかけもそこなんだけど）。KLそのものよりJSDの方が優れてると思うのは、シミュレーションと現実の分布が完璧に重ならないときでも扱いやすいからかな…現実世界じゃ、ほぼ常にそうだしね！

強化学習でKLの代わりにこれを使わない理由って何？

JSDの面白い活用例を見つけた。隠れた「面白さ」を可視化するのに使えるみたい。

https://www.mdpi.com/2076-3417/15/19/10395 (https://www.mdpi.com/2076-3417/15/19/10395)

Collective Dynamics in the Awakening of Sleeping Beauty Patents: A BERTopic Approach

（JSDと反事実性について調べてたら出てきた）

分からないことが多すぎる