之前依据常识建立了一系列数学工具, 现在再通过常识做一些筛选
对于有效的数据, 哪一个模型是最好的?
假设检验
首先还是从 Bayes 定理开始
P ( H ∣ D I ) = P ( D ∣ H I ) P ( H ∣ I ) P ( D ∣ I ) P(H\mid DI)=\frac{P(D\mid HI)P(H\mid I)}{P(D\mid I)} P ( H ∣ D I ) = P ( D ∣ I ) P ( D ∣ H I ) P ( H ∣ I ) 考虑一个二元的假设检验情形: 两个互补的假设 H , H ‾ H,\overline{H} H , H
当比较两个假设的后验时: 证据自然消失了, 此时后验比
O H = P ( H ∣ D I ) P ( H ‾ ∣ D I ) = P ( D ∣ H I ) P ( D ∣ H ‾ I ) ⋅ P ( H ∣ I ) P ( H ‾ ∣ I ) = P ( H ∣ D I ) 1 − P ( H ‾ ∣ I ) O_H =\frac{P(H\mid DI)}{P(\overline{H}\mid DI)}=\frac{P(D\mid HI)}{P(D\mid \overline{H}I)}\cdot \frac{P(H\mid I)}{P(\overline{H}\mid I)}=\frac{P(H\mid DI)}{1-P(\overline{H}\mid I)} O H = P ( H ∣ D I ) P ( H ∣ D I ) = P ( D ∣ H I ) P ( D ∣ H I ) ⋅ P ( H ∣ I ) P ( H ∣ I ) = 1 − P ( H ∣ I ) P ( H ∣ D I ) 则, 我们认为
O H ≫ 1 O_H \gg 1 O H ≫ 1 H H H O H ≪ 1 O_H\ll 1 O H ≪ 1 H H H O H ≃ 1 O_H\simeq 1 O H ≃ 1
对多模型 { H i } \{H_i\} { H i }
O i j = P ( H i ∣ D I ) P ( H j ∣ D I ) O_{ij}=\frac{P(H_i\mid DI)}{P(H_j\mid DI)} O ij = P ( H j ∣ D I ) P ( H i ∣ D I )
如何解释后验比?
对于后验比选择的值, 一般没有一个黄金原则, 这和决策过程也有关系, 取决于你如何做出决策确定最佳的模型, 这不仅仅是概率的问题
但一般有些经验准则, 会用 log O H \log O_H log O H
Weber - Fechner law 感知的对数性
视星等的划分也基本是按照对数划分的
再次回到抛硬币的例子:
考虑一个公平的硬币和不公平的硬币, 现在无法区分这两块硬币, 我们需要做实验判断拿出的硬币是哪块硬币
则现在需要测试的就是一个二元的假设检验问题: 是 or 不是
公平的硬币抛出正面的概率是 1/2 , 而不公平的硬币抛出正面的概率是 1/4 .
我们通过假设检验, 做实验判断这两枚硬币:
假设 H H H H ‾ \overline{H} H
先验: 显然我们什么都不知道, 所以概率是 1/2 , 则后验比即为似然比
并且由于每次实验独立, 似然为
P ( D ∣ H I ) = P ( { d i } ∣ H I ) = ∏ i P ( d i ∣ H I ) P(D\mid HI)=P(\{d_i\}\mid HI)=\prod_i P(d_i\mid HI) P ( D ∣ H I ) = P ({ d i } ∣ H I ) = i ∏ P ( d i ∣ H I ) 则对数后验比的形式为
ln O H = ∑ i ( ln P ( d i ∣ A I ) − ln ( d i ∣ B I ) ) \ln O_H =\sum_i (\ln P(d_i\mid AI)-\ln(d_i\mid B I)) ln O H = i ∑ ( ln P ( d i ∣ A I ) − ln ( d i ∣ B I ))
可以看到实验给后验比的对数线性的贡献:每次做一次抛硬币实验: 出现正面后, 后验比增加
而后验比越大, 表明 A A A A A A B B B
而如果加入不同的先验, 可以发现这仅仅是改变了零点: 需要更多的正面数据支持一个结果
但是这显然有问题! 这个比不能无限制地线性增大!
假设前50次都是正面, 后验比表明 A A A
一个简单的方法是引入一个 “死”假设 C C C ∼ 10 − 6 \sim 10^{-6} ∼ 1 0 − 6
注意到假设 A , B , C A,B,C A , B , C A + B = C ‾ A+B =\overline{C} A + B = C C C C
O C = P ( C ∣ D I ) P ( C ‾ ∣ D I ) = P ( C ∣ D I ) P ( A ∣ D I ) + P ( B ∣ D I ) O_C =\frac{P(C\mid DI)}{P(\overline{C}\mid DI)}=\frac{P(C\mid DI)}{P(A\mid DI)+P(B\mid DI)} O C = P ( C ∣ D I ) P ( C ∣ D I ) = P ( A ∣ D I ) + P ( B ∣ D I ) P ( C ∣ D I ) 可以取一个全为正面的样本 D ^ \hat{D} D ^
阶段 1 : A v.s. B A \,\text{v.s.}\, B A v.s. B
阶段 2 : A v.s. C A\,\text{v.s.}\, C A v.s. C C C C B B B
阶段 3 : C v.s. A C\,\text{v.s.}\,A C v.s. A C C C
最后由于有大量极端数据. 死假设 C C C
总结
二元情形: 后验比 = 似然比 × \times ×
决策通常在对数尺度进行
极端数据可以”复活”死假设
多模型分析: 后验之间相互耦合, 配对原则并不普适
可以做局部的二元推断: 识别两种占主导的模型
备选假设
再次回到抛硬币的问题
如何测试一个硬币是不是公平的?
f f f f = 1 2 f=\frac{1}{2} f = 2 1 0 0 0
Ω = { f ∈ [ 0 , 1 ] ∣ ∣ f − 1 / 2 ∣ ≤ ϵ } \Omega =\{f\in [0,1]\mid |f-1/2|\leq \epsilon\} Ω = { f ∈ [ 0 , 1 ] ∣ ∣ f − 1/2∣ ≤ ϵ } 而他互补的假设为
H ‾ = { f ∈ Ω c } \overline{H}=\{f\in\Omega^c\} H = { f ∈ Ω c } 现在问题变成了一个区间, 实际的 f f f
从而后验比
O H = P ( D ∣ H I ) P ( H ∣ I ) P ( D ∣ H ‾ I ) P ( H ‾ ∣ I ) = ∫ Ω p ( D ∣ f , I ) p ( f ∣ I ) d f ∫ Ω c p ( D ∣ f , I ) p ( f ∣ I ) d f O_H=\frac{P(D\mid HI)P(H\mid I)}{P(D\mid\overline{H}I)P(\overline{H}\mid I)}=\frac{\int_\Omega p(D\mid f,I)p(f\mid I)\mathrm{d}f}{\int_{\Omega^c} p(D\mid f,I)p(f\mid I)\mathrm{d}f} O H = P ( D ∣ H I ) P ( H ∣ I ) P ( D ∣ H I ) P ( H ∣ I ) = ∫ Ω c p ( D ∣ f , I ) p ( f ∣ I ) d f ∫ Ω p ( D ∣ f , I ) p ( f ∣ I ) d f
在现实世界, 备选假设 H ‾ \overline{H} H
一个假设的反面难以被表达: 假设: 一条直线 的反面是什么意思?
为了计算后验比, 常常会找出一个备选假设
这个合适的假设叫零假设 null hypothesis
当然, 忽视或错误地选择空假设会导致严重的问题
一个有趣的例子: 上世纪的特异功能的流行
英国叫 stewart 的女士声称自己有心灵感应的能力, 实验是这样的:
实验员给代理人翻牌, 然后翻, stewart 在另一个房间翻牌, 同时另一位实验员来记录
进行了近 3万次实验, stewart 猜对了 9k 次左右
用伯努利分布 p ≃ 0.2 p\simeq 0.2 p ≃ 0.2 ⟨ n ⟩ ≃ 7420 ± 77 \langle n\rangle \simeq 7420 \pm 77 ⟨ n ⟩ ≃ 7420 ± 77
现在来描述这个问题 假设 H t H_t H t H 0 H_0 H 0 f f f
不妨设先验是一个正态分布
p ( f ∣ I ) ∝ exp [ − ( f − 0.2 ) 2 2 × 0.004 2 ] f ∈ [ 0 , 1 ] p(f\mid I)\propto \exp \left[-\frac{(f-0.2)^2}{2\times 0.004^2}\right]\quad f\in[0,1] p ( f ∣ I ) ∝ exp [ − 2 × 0.00 4 2 ( f − 0.2 ) 2 ] f ∈ [ 0 , 1 ] 我们用高于 5 σ 5\sigma 5 σ f f f H t H_t H t
H t = { f > 0.22 } H 0 = { f ≤ 0.22 } H_t =\{f>0.22\}\quad H_0=\{f\leq 0.22\} H t = { f > 0.22 } H 0 = { f ≤ 0.22 } 先验比
P ( H t ∣ I ) P ( H o ∣ I ) ≃ 2.9 × 10 − 7 \frac{P(H_t\mid I)}{P(H_o\mid I)}\simeq 2.9\times 10^{-7} P ( H o ∣ I ) P ( H t ∣ I ) ≃ 2.9 × 1 0 − 7 可以发现: 先验极其拒绝这件事情
似然为二项分布:
p ( D ∣ f , I ) = ∝ f n ( 1 − f ) N − n p(D\mid f,I)=\propto f^n(1-f)^{N-n} p ( D ∣ f , I ) =∝ f n ( 1 − f ) N − n 对实验的数据计算得到
后验比
O t 0 ≃ 10 28 O_{t0}\simeq 10^{28} O t 0 ≃ 1 0 28 这是一个非常大的后验比, 表明:
极强的证据支持 stewart 有心灵感应的能力
这对吗?
注意到一件事 H 0 ≠ H 1 ‾ H_0 \neq \overline{H_1} H 0 = H 1
H 1 H_1 H 1 H 2 H_2 H 2 H 3 H_3 H 3 …
原则上你可以对任意一个死假设, 然后计算先验比
对于一个很怀疑这个假设的人: 他可以设立先验, 对任意死假设 H i H_i H i
P ( H i ∣ I ) > P ( H t ∣ I ) P(H_i\mid I)> P(H_t\mid I) P ( H i ∣ I ) > P ( H t ∣ I ) 并且他们的似然是可比的, 则对任意 i i i
O i t = P ( D ∣ H i I ) P ( D ∣ H t I ) ⋅ P ( H i ∣ I ) P ( H t ∣ I ) > 1 O_{it}=\frac{P(D\mid H_i I)}{P(D\mid H_t I)}\cdot\frac{P(H_i\mid I)}{P(H_t\mid I)}>1 O i t = P ( D ∣ H t I ) P ( D ∣ H i I ) ⋅ P ( H t ∣ I ) P ( H i ∣ I ) > 1 并且这个后验比随着极端数据的增多而增大, 这表明这些死假设比待测假设都更可信!
如果实验者想作弊说明这件事情: 他们不会成功
反而是增加了死假设的后验比
即使 P ( H t ∣ I ) > 0 P(H_t\mid I)>0 P ( H t ∣ I ) > 0 H t H_t H t
问题是: 上面是一个不相信超能力的人设置的先验, 如果是一个相信的人就会从同一个数据中能获得不同的结论
那么
数据到底告诉了我们什么?
再看一个例子
药物的安全性:
一个叫 Oscar 的人公开宣称某种药物不安全 (即数据)
现在我们尝试去计算这件事对药物是否安全, 在不同人下得出的结论
现在有持不同观点 (先验) 的人
Alice/Carol 相信药物是安全的 P ( S ∣ I ) = 0.9 P(S\mid I) =0.9 P ( S ∣ I ) = 0.9 P ( S ∣ I ) = 0.1 P(S\mid I)=0.1 P ( S ∣ I ) = 0.1
而似然
P ( D ∣ S I ) P ( D ∣ S ‾ I ) P(D\mid SI)\quad P(D\mid \overline{S}I) P ( D ∣ S I ) P ( D ∣ S I ) 实际上似然反映了这四个人对 Oscar 这个人对可信度:
Alice: Oscar 这个人很正义, 且很少犯错 P ( D ∣ S I ) = 0.01 P ( D ∣ S ‾ I ) = 1 P(D\mid SI)=0.01\quad P(D\mid \overline{S}I)=1 P ( D ∣ S I ) = 0.01 P ( D ∣ S I ) = 1 P ( D ∣ S I ) = 0.1 P ( D ∣ S ‾ I ) = 1 P(D\mid SI)=0.1\quad P(D\mid \overline{S}I)=1 P ( D ∣ S I ) = 0.1 P ( D ∣ S I ) = 1 P ( D ∣ S I ) = 0.9 P ( D ∣ S ‾ I ) = 1 P(D\mid SI)=0.9\quad P(D\mid \overline{S}I)=1 P ( D ∣ S I ) = 0.9 P ( D ∣ S I ) = 1 P ( D ∣ S I ) = 0.99 P ( D ∣ S ‾ I ) = 0.01 P(D\mid SI)=0.99\quad P(D\mid \overline{S}I)=0.01 P ( D ∣ S I ) = 0.99 P ( D ∣ S I ) = 0.01
现在来计算后验:
计算证据(边缘化)
P ( D ∣ I ) = P ( D S ∣ I ) + P ( D S ‾ ∣ I ) = P ( D ∣ S I ) P ( S ∣ I ) + P ( D ∣ S ‾ I ) P ( S ‾ ∣ I ) P(D\mid I)=P(DS\mid I)+P(D\overline{S}\mid I)=P(D\mid SI)P(S\mid I)+P(D\mid \overline{S}I)P(\overline{S}\mid I) P ( D ∣ I ) = P ( D S ∣ I ) + P ( D S ∣ I ) = P ( D ∣ S I ) P ( S ∣ I ) + P ( D ∣ S I ) P ( S ∣ I ) 最后的结果
Alice: P ( S ∣ D I ) = 0.083 P(S\mid DI) =0.083 P ( S ∣ D I ) = 0.083 P ( S ∣ D I ) = 0.011 P(S\mid DI) =0.011 P ( S ∣ D I ) = 0.011 P ( S ∣ D I ) = 0.890 P(S\mid DI) =0.890 P ( S ∣ D I ) = 0.890 P ( S ∣ D I ) = 0.917 P(S\mid DI) =0.917 P ( S ∣ D I ) = 0.917
即使是拥有着相同先验的两个人, 在不同的似然下也会得到及其不同的结果!!!
对相同的数据, 不同的先验和似然都会导致结论不同
模型比较
上面模型的比较都是一个单一的模型, 实际上模型还带着一些参数
实际上的模型为 H = { M , θ } H =\{M,\theta\} H = { M , θ }
p ( θ M ∣ D I ) = p ( D ∣ M I θ ) p ( θ M ∣ I ) P ( D ∣ I ) p(\theta M\mid DI)=\frac{p(D\mid MI\theta)p(\theta M\mid I)}{P(D\mid I)} p ( θ M ∣ D I ) = P ( D ∣ I ) p ( D ∣ M I θ ) p ( θ M ∣ I ) 但此时发现: 后验比会更复杂
如果定义: 即模型下的证据
E ( M ) = p ( D ∣ M I ) = ∫ p ( θ D ∣ M I ) d θ = ∫ p ( D ∣ θ M I ) p ( θ ∣ M I ) d θ E(M) =p(D\mid MI)=\int p(\theta D\mid MI)\mathrm{d}\theta=\int p(D\mid \theta MI)p(\theta\mid MI)\mathrm{d}\theta E ( M ) = p ( D ∣ M I ) = ∫ p ( θ D ∣ M I ) d θ = ∫ p ( D ∣ θ M I ) p ( θ ∣ M I ) d θ 再对参数做边缘化得到模型的后验
P ( M ∣ D I ) = ∫ p ( θ M ∣ D I ) d θ = ∫ p ( D ∣ M I θ ) p ( θ M ∣ I ) P ( D ∣ I ) d θ P(M\mid DI)=\int p(\theta M\mid DI)\mathrm{d}\theta=\int \frac{p(D\mid MI\theta)p(\theta M\mid I)}{P(D\mid I)}\mathrm{d}\theta P ( M ∣ D I ) = ∫ p ( θ M ∣ D I ) d θ = ∫ P ( D ∣ I ) p ( D ∣ M I θ ) p ( θ M ∣ I ) d θ 注意到
p ( θ M ∣ I ) = p ( θ ∣ M I ) P ( M ∣ I ) p(\theta M\mid I)=p(\theta\mid MI)P(M\mid I) p ( θ M ∣ I ) = p ( θ ∣ M I ) P ( M ∣ I ) 从而后验
P ( M ∣ D I ) = P ( M ∣ I ) P ( D ∣ I ) E ( M ) P(M\mid DI)=\frac{P(M\mid I)}{P(D\mid I)}E(M) P ( M ∣ D I ) = P ( D ∣ I ) P ( M ∣ I ) E ( M ) 从而有模型的后验比
O i j = E ( M i ) E ( M j ) ⋅ P ( M i ∣ I ) P ( M j ∣ I ) = B i j P ( M i ∣ I ) P ( M j ∣ I ) O_{ij}=\frac{E(M_i)}{E(M_j)}\cdot\frac{P(M_i\mid I)}{P(M_j\mid I)}=B_{ij}\frac{P(M_i\mid I)}{P(M_j\mid I)} O ij = E ( M j ) E ( M i ) ⋅ P ( M j ∣ I ) P ( M i ∣ I ) = B ij P ( M j ∣ I ) P ( M i ∣ I ) 可以看到模型下的证据比 B i j B_{ij} B ij
再次回到抛硬币:
现在比较两个模型
M 1 M_1 M 1 f f f M 2 M_2 M 2
假设两个模型的先验相同, 则后验比即位证据比
参数的先验:
p ( f ∣ M 1 I ) = δ ( f − f ^ ) p(f\mid M_1 I)=\delta(f-\hat{f}) p ( f ∣ M 1 I ) = δ ( f − f ^ ) p ( f ∣ M 2 I ) = { 1 0 ≤ f ≤ 1 0 else p(f\mid M_2 I)=\begin{cases}1\quad 0\leq f\leq 1 \\ 0\quad \text{else}\end{cases} p ( f ∣ M 2 I ) = { 1 0 ≤ f ≤ 1 0 else
后验比
O 21 = ∫ 0 1 f n ( 1 − f ) N − n d f f ^ n ( 1 − f ^ ) N − n = n ! ( N − n ) ! ( N + 1 ) ! f ^ − n ( 1 − f ^ ) − N + n O_{21}=\frac{\int_0^1 f^n(1-f)^{N-n}\mathrm{d}f}{\hat{f}^n(1-\hat{f})^{N-n}}=\frac{n!(N-n)!}{(N+1)!}\hat{f}^{-n}(1-\hat{f})^{-N+n} O 21 = f ^ n ( 1 − f ^ ) N − n ∫ 0 1 f n ( 1 − f ) N − n d f = ( N + 1 )! n ! ( N − n )! f ^ − n ( 1 − f ^ ) − N + n 这是一个二项分布的倒数, 即
O 21 = [ ( N + 1 ) Binomial ( n , N , f ^ ) ] − 1 O_{21}=\left[(N+1)\text{Binomial}(n,N,\hat{f})\right]^{-1} O 21 = [ ( N + 1 ) Binomial ( n , N , f ^ ) ] − 1 进行模拟, 可以发现后验比是这样的行为:
当 f ^ \hat{f} f ^ n / N n/N n / N M 1 M_1 M 1
这实际上是一个原则的体现: Occam’s razor
Occam’s razor
The simplest explanation is usually the best one Entities are not to be multiplied without necessity
在大样本的极限下, 后验比为
O 21 ∼ 2 π f 0 ( 1 − f 0 ) N ( f 0 f ^ ) n ( 1 − f 0 1 − f ^ ) N − n f 0 = n N O_{21}\sim \sqrt{\frac{2\pi f_0(1-f_0)}{N}}(\frac{f_0}{\hat{f}})^n(\frac{1-f_0}{1-\hat{f}})^{N-n}\quad f_0=\frac{n}{N} O 21 ∼ N 2 π f 0 ( 1 − f 0 ) ( f ^ f 0 ) n ( 1 − f ^ 1 − f 0 ) N − n f 0 = N n 对 f ^ ∼ n / N \hat{f}\sim n/N f ^ ∼ n / N
O 21 ∝ 1 N O_{21} \propto \frac{1}{\sqrt{N}} O 21 ∝ N 1 又遇见了根号分之一
Occam‘s razor 来源于哪里?
考虑一个更简化但普遍的情况:
M 1 M_1 M 1 M 2 M_2 M 2 θ \theta θ 对两种模型的选择没有先验的偏好
不妨假设, 模型参数是均匀分布的, 似然是 Gauss 的
即
p ( θ ∣ M 2 I ) = 1 θ max − θ min p ( D ∣ M 2 θ I ) = p ( D ∣ θ 0 M 2 I ) exp [ − ( θ − θ 0 ) 2 2 σ θ 2 ] p(\theta\mid M_2 I)=\frac{1}{\theta_{\max}-\theta_{\min}}\quad \quad p(D\mid M_2\theta I) = p(D\mid \theta_0 M_2 I) \exp\left[-\frac{(\theta-\theta_0)^2}{2\sigma_{\theta}^2}\right] p ( θ ∣ M 2 I ) = θ m a x − θ m i n 1 p ( D ∣ M 2 θ I ) = p ( D ∣ θ 0 M 2 I ) exp [ − 2 σ θ 2 ( θ − θ 0 ) 2 ] 这样, 模型参数的证据为
E ( M 2 ) = ∫ p ( D ∣ M 2 θ I ) p ( θ ∣ M 2 I ) d θ = p ( D ∣ θ 0 M 2 I ) ⋅ 2 π σ θ θ max − θ min E(M_2) =\int p(D\mid M_2\theta I)p(\theta\mid M_2I)\mathrm{d}\theta=\frac{p(D\mid \theta_0M_2I)\cdot \sqrt{2\pi}\sigma_{\theta}}{\theta_{\max}-\theta_{\min}} E ( M 2 ) = ∫ p ( D ∣ M 2 θ I ) p ( θ ∣ M 2 I ) d θ = θ m a x − θ m i n p ( D ∣ θ 0 M 2 I ) ⋅ 2 π σ θ M 1 M_1 M 1 E ( M 1 ) = P ( D ∣ M 1 I ) E(M_1) =P(D\mid M_1 I) E ( M 1 ) = P ( D ∣ M 1 I )
后验比
O 21 = p ( D ∣ θ 0 M 2 I ) P ( D ∣ M 1 I ) ⋅ 2 π σ θ θ max − θ min O_{21}=\frac{p(D\mid \theta_0M_2 I)}{P(D\mid M_1 I)}\cdot \frac{\sqrt{2\pi}\sigma_{\theta}}{\theta_{\max}-\theta_{\min}} O 21 = P ( D ∣ M 1 I ) p ( D ∣ θ 0 M 2 I ) ⋅ θ m a x − θ m i n 2 π σ θ 一般来说, 由于 θ \theta θ M 2 M_2 M 2 M 1 M_1 M 1
2 π σ θ θ max − θ min \frac{\sqrt{2\pi}\sigma_{\theta}}{\theta_{\max}-\theta_{\min}} θ m a x − θ m i n 2 π σ θ 称为 Occam 因子