似然

Likelyhood，似然，可以理解为：“当前这一系列观测，到底能在多大程度上支持该参数？”

在给定参数的情况下，得到某个观测的概率。

表示在指定参数 $\theta$ 下，对一系列观测，在概率密度函数 $f(x|\theta )$ 的乘积。

$$L(\theta \mid x_1,x_2,\dots ,x_n)=\prod _{i=1}^{n}f(x_i\mid \theta )$$

例子：考虑一个硬币抛掷实验。假设硬币正面朝上的概率是θ。我们抛硬币 10 次，得到 7 次正面。那么在θ已知的情况下，得到这个结果的概率就是似然。似然函数关注的是在已知参数θ时，产生这个数据的可能性。

MLE 就是一个优化任务，通过调整参数 $\theta$ 的值，使得似然最大化。