Life sucks, but you're gonna love it.

0%

Esitimation and Detection | Hypothesis testing

Intro

之前我们讨论了贝叶斯决策理论,也就是我们在已知随机变量在不同分类的先验概率时,如何对新的变量做出分类。之后我们讨论了,当已知随机变量的分布,但是不知道分布的具体参数的时候,如何从已知的数据来估算参数值。这部分我们进行更普遍的讨论:假定检验。

假定检验

在讨论贝叶斯决策理论的时候,我们讨论的大环境是,对随机变量进行分类,分类可能是 $w_1$ 或是 $w_2$ 类。

在假定检验的时候,我们将这两个条件换一下,设为 $\mathcal{H_0}$ 和 $\mathcal{H_1}$, $\mathcal{H_0}$ 代表 零假设,$\mathcal{H_1}$ 则表示零假设的对立假设。

贝叶斯决策论是假定检验的一个子问题,在贝叶斯决策论中, $w_1$ 表示 $\mathcal{H_0}$ 而与之相对的第二类 $w_2$ 则表示 $\mathcal{H_1}$。 在假定 两种分类的先验概率相同时,我们可以得出 $\frac{p({\bf x} | \mathcal{H_0})}{p({\bf x} | \mathcal{H_1})}$ 若大于1, 则属于 $\mathcal{H_0}$类,反之则属于 $\mathcal{H_1}$ 类。经过简化之后,我们都知道,左边的部分可以化简为一个和 $\bf x$ 相关的方程,右边则为一个实数。若我们将左边的线性方程表示为 $T({\bf x})$, 右侧则为 Bayes decision rule 的阈值 $\mathcal{K_B}$。 我们定义了两类error,都是分类错误的error:

  • 一类是: $p(T({\bf x})>\mathcal{K_B} | \mathcal{H_0}) = \alpha_B$ , 表示 给定