统计决策论及贝叶斯分析 统计决策论及贝叶斯分析 统计决策论及贝叶斯分析 统计决策论及贝叶斯分析4·1导论(130)4.2后验分布身●■●■●●·阜●●最◆@·即(13942.1定义和确定139)4.22共轭族■會■●●●p●●●■看·D看血鲁看(143)423不正常先验……………(15)43贝叶斯推断…(146)431估计………………………………………………(147)43.2可信集……………………………………………(154)4.3.3假设检验…………………………………………(159)4.3.4预测推断………………………………(172)4-4贝叶斯决策论……s(174)44.1后验决策分析(174)442估计…………………………………………………(176)44·3有限行为问题和假设检验…s(179)44.4考虑推断损失………………………………………(183)4·5经验贝叶斯分析………………………………………(184)4.5.1导论…………………………(184)4.5.2正态均值的PEB一可交换情形…………………(186)45·3正态均值的PEB—一般情形…s(190)4.54非参数经验贝叶斯分析(196)4.6多层贝叶斯分析…(198)46.1导论(198)462正态均值一可交换的情形…◆即ψ·鲁自●●D最●暑(201)4.63正态均值一一般情形……………………………(209)与经验贝叶斯分析的比较……………………(212)47贝叶斯的稳健性…………………………………………(215)4·7.1导论争●●·鲁●唱t·●●啁鲁鲁自鲁●●●血●鲁自自自。鲁b(215)4.72边际分布的作用q◆·◆●●·自自p●鲁·●(220)473后验的稳健性:基本概念…………(224)7.4后验稳健性:ε代换类(2277·5贝叶斯风险的稳健性及应用频率派方法…………(235)47.6 Gamma-极小极大方法··自口··看鲁●争··曾●●會鲁督◆命●借●(238)4.7.7风险函数的应用鲁自自◆·音郾·鲁尋■鲁·■●■鲁b鲁·鲁晶白自血昌·昌血■省■晶(241)478稳健的和不稳健的一些情况四…(247)479稳健先验(252)4.7.10正态均值的稳健先验曹。●●即看·●●鲁“(261)47.11稳健性的其它问题…………………(274)48贝叶斯法则的容许性及大量重复同一过程的评价…………(280)4.8.1贝叶斯法则的容许性…………………………(281)4·8·2广义贝叶斯决策法则的容许性…………………(282)4.8.3非容许性及大量重复同…过程的评价…■■■●■鲁自自幽罪西司鲁·自(284)4.9贝叶斯派的计算……………………(290)4.9.1数值积分q●·●■p·q●··●●■●d會口●鲁●·●··●·鲁·■■旱會即鲁昂●·b@■冒(291)4.9.2蒙特卡罗积分………………………………(291)49.3解析逼近…………………………………(295)4.10贝叶斯派的信息交流…●·●●D督…(296)4·10.1导论鱼自■■■幽血鲁■备●自鲁■自··■备■自●自自●最鲁鲁■鲁自自自血备即最■●■(296)4.10.2一个实例:简单原假设的假设检验(298)4.11信息源合并及决策者为多人的决策……………(301)11.1概率源合并………………………………(302)4.11.2决策论中信息源的合并…………………………(307)4.11.3多人团体做决策…………………(308)12批评●p■■■幽自▲ψ鲁罪●●·●●●晶■鱼鲁晶画即兽鲁■●●●幽幽·自▲自鲁·●●●●▲鲁血·最●●·D●·喜命命(312)4.12.1非贝叶斯派的批评……………………(312)412.2在基本原理方面的批评…………(3i3练习●·◆·鲁…(318)5.极小极大分析………·司中……………(340)51导论··‘·→······‘·中→···-···.··命◆a萨··4·中命··a。···白4s·(340)5.2博弈论…………“………………………………………(342)5.2.1基本要素●鲁·國昏b■■■■看鲁冒·●·●●@會冒冒●·馨●●b會自●鱼冒●D●@晷●@●鲁鲁限冒号●(342)522解博弈的一般方法……………………………(352)5.2.3有限博弈●鲁●世D看·●曾售會·會(359)5.24⊙有限的博弈◆●·甲●聊q●●鲁吾■南◆◆卓D●。号●静;●自自曾●D。●●合·命命●曾聊364)52.5支撑和分离超平面定理曲曲命动●p………………(374)5·2.6极小极大定理即■舀鲁●●·●鲁自咖自■·自●舀·●●D舀自鲁自b自看血命咖鲁●。●自●●曹各D●(380)53统计的博弈●■鲁■●●●咖■●●·●·●咖·●■會彦●●■鲁會●;命鲁自●●·D●自费鲁鲁●『章。。自●●●咖(383)53.1导论…(383)5·3.2解统计博弈的一般方法…………(385)5.3.3回有限的统计博弈(391)5.4极小极大估计类………………………(397)54.1导论(397)5.4.2风险的无偏估计……………………(399)5.4.3正态均值向量的极小极大估计…(401)54.4 Poisson均值的极小极大估计…s……(409)55极小极大原理的评价…酯曲●▲自■■■●b●■画●自●■●■b自自●_●自·自曲●■鲁●●(410)5.5.1极小极大法则的容许性鲁●◆●●·●●·●●督●●督·D●冒■鲁●●●↓冒■●■冒旨●(411)5.5.2极小极大原理与合理性………(411)5.5.3与贝叶斯方法的比较…………(413)5.54行为保守的要求………………(417)5.5.5极小极大遗憾…………“…………(417)556结论…………………g……(419)练习……………………………(420)6.不变性(430)61导论………………………………………………………(430)6.2系统地闯述…433)621变换群433)6.2.2不变的决策问题p●·●d鲁b鲁鲁最●自D●(435)6.2.3不变的决策法则…………………(438)6.3位置参数问题●当●●·鲁●·會口命自昏4自自D·昏◆●。昏◆●●弹舀鲁自●阝●●命D●自◆自■自·自b自命440)64不变性的其它例子…………………………………………(4.3)65极大不变的■命最(445)6不变性与无信息先验鲁●●鲁●看b·聊■會■●冒鲁●导Q●■最●早鬈曾·司●噜督录昏督备450)6.6·1右和左不变的丑aar密度…(450)6.6.2最佳不变决策法则……………………(453)66.3量信和可信集(458)67不变性和极小极大性s(463)68不变法则的容许性…(467)6.9结论(469)练习●●●●·鲁·■●●●●●●■·◆;●●·會鲁●鲁個自鲁●·鲁鲁看b●◆●●●自自命●●鲁(471)7.预后验与序贯分析(479)7.1导论………………(479)7.2最优的固定样本量………………(482)7.3序贯分析—符号……………(489)7.4贝叶斯序贯分析■看命聊(491)7.4l导论…(491)74.2符号…………………………………………………(493)7.4.3贝叶斯决策法则鲁●。@●●看●-◆自4奇合●(495)744常量的后验贝叶斯风险…………………………(496)74.5贝叶斯截断过程…命鲁·咖■口口會■号D自咖即·晋■口即即自音P●■即冒●■即■(497)74.6向前看过程………………………………………………(506)74.7内截断D鲁··●◆自◆◆非●·●·伽●··●自晶◆●■●·冒p自·●司●鲁De鲁D看●自●●p自鲁。鲁(510)74.8近似的贝叶斯过程和贝叶斯风险…(514)74.9理论绪果●口●。■音◆自当■音命↓自D●·罪●●命◆鲁命p鲁。●●●聆b合D●鲁·b●咖(520)7410寻找贝叶斯过程的其它方法………(527)7.5序贯概率比检验………………………………………………(537)75.1将SPRT作为一个贝叶斯过程……………………(537)75.2近似的功效函数和样本量的期望值……………(541)7.5.3Wald近似的精度…………………………(553)7.5.4贝叶斯风险和容许性…………(556)75.5SPRT的其它应用……………………………(558)7.6极小极大序贯过程……………………………………………(559)7.7与停止法则真正有关的………………………………(560)7.1导论(56077.2停止法则原理……s……………(561)7.73实践所包含的启示…………………(562)7.7.4关于停止法则原理的批评…………(565)77.5具有丰富信息的停止法则(569)7.8序贯损失函数的讨论……(571)练习…oss(573)68.完备类和葚本完备类a(581)81预备内容罩會冒國●b■■●p■·●●●最p●·自鲁看●●b·●曲息ppD鲁鲁s…(581)8.2来自前几章的完备类和基本完备类5828.21基于充分统计量的决策法则…(582)8.2.2非随机化决策法则…(583)8.23有限的的●·●·曹。個鲁鲁■备■b自口▲晶命●命…(583)82.4 Neyman- Pearson引理(583)83单侧检验……………(586)8.4单调的决策问题●■■■血血晶血▲昌最4最喜●鲁●·物D…(591)841单调的多重决策问题■·自自鲁省D自·备鼻●●●●●4●如昌·●●(591)8.42单调的估计问题……………(596)85贝叶斯法则的极限…………………………(5988.6检验的其它完备类和基本完备类……………………(599)86.1双侧检验▲血品日晶品品4看●↓··●鲁·●(600)86.2高维结果…………………………(600)86.3序贯检验………………………(601)8.7在估计问题中的完备类和基本完备类…●··自自··●●自ψ咖·●D604)8.7·1广义贝叶斯估计………………………………(604)87.2识别广义贝叶斯估计…………………………………(605)8.8连续的风险函数………………………………(607)89证实容许性及非容许性………………(609)8.91容许性的 Stein的必要充分条件609)8.92证实容许性(610)8.9.3证实非容许性4(613)89.4最小(或几乎最小)完备类……………………(616)练习晕●●●●·自··●·备阜b鲁·兽鲁(618)附录I常见的统计密度●鲁●●·彰●623)I·连续的……………………(623)I.离散的q·4●····●●●·命·····白●即·●e◆····c◆(626)附录Ⅱ第4章的补充…………………(628)的定义和性质…:…628)7I.(4.121)和(4.122)的展开(629)I·公式(4.123)的证明●●自●●●最●昏·自自最命●●·b●·看D·b《●●晶合(630)附录第7章中的严格证明…………(633)I·公式(7.8)的证明……………………………(633)I·公式(7.10)的证明會會會●『音·『·动↓即D即申聊…(634)参考文献(637)符号与缩写………………………………………(684)内容索引…………………………………………(687)81基本概念l1导论决策论,顾名思义,是关于做决策的问题。统计决策论是运用统计知识来认识和处理决策问题中的某些不确定性,从而做出决策。在大多数的情况下,都假设这些不确定性可以被看作是些未知的数量,由6表示(O可能是向量或矩阵)举个例子,一个药物公司要决定是否将一种新的止痛药投放市场。影响这一决定的有许多因素,其中有两个是这样的:一个是在服此药的人中将证明此药有效的人数所占的比例(G1);另个是在市场占领中此药将会占的比例(62)。虽然用具有代表性的实验可以得到有关它们的统计信息,但01和2通常都是未知的。这个问题就是决策论的问题之一,它的最终目的是决定:是否将此药投放市场;投放多少;价格如何等。在对θ做推断时,经典统计学是直接利用样本信息(数据来自统计调查),这些经典推断大都不考虑所作的推断将被应用的领域。而决策论则试图将样本信息与问题的其它相关的性质结合起来考虑,从而可以做出一个最好的决策。除了样本信息之外,还有两类相关的信息特别重要:一是对决策带来的可能后果的认识,这种认识常被量化为定出每一个可能的决策和O各可能值所造成的损失。(想到损失似乎使统计学家们看上去是悲观论者,经济界和商界的决策理论家所用的措词是所得(效用)。由于我们的方向主要是统计的,所以就用损失函数这一术语。其实,所得就是负的损失,两者并没有实质的区别。)将损失函数加到统计分析中并对此做了深入研究的首推Abraham Wald,参看Wald(1950),此书还回顾了决策论的早期成果在药物的例中,新药是否投放市场的决定所相应的损失是a102和许多其它因素的复杂函数。较简单的情形是考虑比如在广告战中对61的估计问题,对61的偏低估计所产生的损失来源于宜传中没有充分说明产品的质量(从而影响了销售);而对a1的偏高估计所产生的损失是基于要承担由于广告与实际不符可能受到惩罚所带来的风险。我们通常要考虑的第二类非样本信息被称之为先验信息。它是关于的信息,但并非来自统计调查。先验信息一般来自类似情况包含类似的的过去的经验。例如,在药物的例中关于1和62总会有大量的、不同但类似的其它止痛药的可资利用的信息L.J. Savage(1961)提出了一个令人信服的例子,说明先验信息有时是很重要的。例中有以下三个试验:(1)一位常饮牛奶加茶的妇女声称,她能区别出是牛奶还是茶先被倒进杯子里的。对她进行了10次这样的试验,结果她都说对了。的(2)一位音乐专家说,他可以由海顿或莫扎特的一页乐谱看作者是海顿还是莫扎特。做了10次试验,每次他都正确(3)一个喝醉了的朋友说,他可以预知掷一个质地均匀的硬币哪一面朝上,在10次检验他的实验中,他每次都正确。在以上三情况中,未知量θ皆为回答正确的概率。在对他们做经典的显著性检验中,原假设H6为=0.5(即他们是猜的)。以