JS散度

JS Divergence，衡量两个概率分布的参考值

$$JS(P_1||P_2)=\frac{1}{2}KL(P_1||\frac{P_1+P_2}{2})+\frac{1}{2}KL(P_2||\frac{P_1+P_2}{2})$$

特性：

• 对称性：P1 对 P2 的值和 P2 对 P1 的值相等
• 归一性：最终的值在 0-1 之间

JS散度是KL散度的优化，对称且满足三角不等性。