似然函数是什么意思

来源:趣味百科馆 3.07W

统计学中,似然函数是一种关于统计模型参数的函数。给定输出x时,关于参数θ的似然函数L(θ|x)(在数值上)等于给定参数θ后变量X的概率:L(θ|x)=P(X=x|θ)。

似然函数在推断统计学(Statistical inference)中扮演重要角色,尤其是在参数估计方法中。在教科书中,似然常常被用作“概率”的同义词。但是在统计学中,二者有截然不同的用法。概率描述了已知参数时的随机变量的输出结果;似然则用来描述已知随机变量输出结果时,未知参数的可能取值。例如,对于“一枚正反对称的硬币上抛十次”这种事件,我们可以问硬币落地时十次都是正面向上的“概率”是多少;而对于“一枚硬币上抛十次”,我们则可以问,这枚硬币正反面对称的“似然”程度是多少。

似然函数是什么意思

分布类型

离散型概率分布

假定一个关于参数θ、具有离散型概率分布P的随机变量X,则在给定X的输出x时,参数θ的似然函数可表示为

似然函数是什么意思 第2张

其中,

似然函数是什么意思 第3张

表示X取x时的概率。上式常常写为

似然函数是什么意思 第4张

或者

似然函数是什么意思 第5张

。需要注意的是,此处并非条件概率,因为θ不(总)是随机变量。

连续型概率分布

假定一个关于参数θ、具有连续概率密度函数f的随机变量X,则在给定X的输出x时,参数θ的似然函数可表示为

似然函数是什么意思 第6张

上式常常写为

似然函数是什么意思 第7张

,同样需要注意的是,此处并非条件概率密度函数。

似然函数的主要用法在于比较它相对取值,虽然这个数值本身不具备任何含义。例如,考虑一组样本,当其输出固定时,这组样本的某个未知参数往往会倾向于等于某个特定值,而不是随便的其他数,此时,似然函数是最大化的。

似然函数乘以一个正的常数之后仍然是似然函数,其取值并不需要满足归一化条件

似然函数是什么意思 第8张

似然函数的这种特性还允许我们叠加计算一组具备相同含义的参数的独立同分布样本的似然函数。

关于利用似然函数进行统计推断的应用,可以参考最大似然估计(Maximum likelihood estimation)方法和似然比检验(Likelihood-ratio testing)方法。

热门标签