贝叶斯准则怎么解释

2021-03-11 07:53:48 字数 2489 阅读 8654

1楼:匿名用户

贝叶斯判决准则

bayes decision rule

作者 :赵履骏

【本书体例】 【大 中 小】

贝叶斯判决

回准答则又称贝叶斯判决规则,它是理论上的最佳准则。因为它是一种可使全部判决的平均风险为最小的准则。

设有m个可能发生的消息的先验概率已知,且为p(hi)(j=0,1,…,m-1),若实际存在的消息是j,但被判定为i,定义其判别代价(损失)为lii,假定lij(i=0,1,…,m-1;j=0,1,…,m-1)已经确定。贝叶斯准则是对于任何一组观测数据,选择假设hj,其产生的平均风险最小。据平均风险之定义,有

式(1)中,p(hi|hj)表示为hj为真时,选择hi的概率。

选择使平均风险为极小的假设,与选择使条件风险为极小的假设是等效的。条件风险的定义为

式(2)即给定一组测量数r,判决假设hj为真时的风险性。p(hi|r)称为后验概率,即给定r,hi为真的概率。

2楼:康康侃球

贝叶斯决策理论是主观贝叶斯派归纳理论的重要组成部分。

贝叶斯决策就是在不完全情报下,对部分未知的状态用主观概率估计,然后用贝叶斯公式对发生概率进行修正,最后再利用期望值和修正概率做出最优决策。

贝叶斯决策理论方法是统计模型决策中的一个基本方法,其基本思想是:

★已知类条件概率密度参数表达式和先验概率

★利用贝叶斯公式转换成后验概率

★根据后验概率大小进行决策分类

编辑本段贝叶斯公式

设d1,d2,……,dn为样本空间s的一个划分,如果以p(di)表示事件di发生的概率,且p(di)>0(i=1,2,…,n)。对于任一事件x,p(x)>0,如图

编辑本段贝叶斯决策理论分析

(1)如果我们已知被分类类别概率分布的形式和已经标记类别的训练样本集合,那我们就需要从训练样本集合中来估计概率分布的参数。在现实世界中有时会出现这种情况。(如已知为正态分布了,根据标记好类别的样本来估计参数,常见的是极大似然率和贝叶斯参数估计方法)

(2)如果我们不知道任何有关被分类类别概率分布的知识,已知已经标记类别的训练样本集合和判别式函数的形式,那我们就需要从训练样本集合中来估计判别式函数的参数。在现实世界中有时会出现这种情况。(如已知判别式函数为线性或二次的,那么就要根据训练样本来估计判别式的参数,常见的是线性判别式和神经网络)

(3)如果我们既不知道任何有关被分类类别概率分布的知识,也不知道判别式函数的形式,只有已经标记类别的训练样本集合。那我们就需要从训练样本集合中来估计概率分布函数的参数。在现实世界中经常出现这种情况。

(如首先要估计是什么分布,再估计参数。常见的是非参数估计)

(4)只有没有标记类别的训练样本集合。这是经常发生的情形。我们需要对训练样本集合进行聚类,从而估计它们概率分布的参数。(这是无监督的学习)

(5)如果我们已知被分类类别的概率分布,那么,我们不需要训练样本集合,利用贝叶斯决策理论就可以设计最优分类器。但是,在现实世界中从没有出现过这种情况。这里是贝叶斯决策理论常用的地方。

问题:假设我们将根据特征矢量x 提供的证据来分类某个物体,那么我们进行分类的标准是什么?decide wj, if(p(wj|x)>p(wi|x))(i不等于j)应用贝叶斯后可以得到p(x|wj)p(wj)>p(x|wi)p(wi)即或然率p(x|wj)/p(x|wi)>p(wi)/p(wj),决策规则就是似然率测试规则。

结论:对于任何给定问题,可以通过似然率测试决策规则得到最小的错误概率。这个错误概率称为贝叶斯错误率,且是所有分类器中可以得到的最好结果。最小化错误概率的决策规则就是最大化后验概率判据。

编辑本段贝叶斯决策判据

贝叶斯决策理论方法是统计模式识别中的一个基本方法。贝叶斯决策判据既考虑了各类参考总体出现的概率大小,又考虑了因误判造成的损失大小,判别能力强。贝叶斯方法更适用于下列场合:

(1) 样本(子样)的数量(容量)不充分大,因而大子样统计理论不适宜的场合。

(2) 试验具有继承性,反映在统计学上就是要具有在试验之前已有先验信息的场合。用这种方法进行分类时要求两点:

第一,要决策分类的参考总体的类别数是一定的。例如两类参考总体(正常状态dl和异常状态d2),或l类参考总体d1,d2,…,dl(如良好、满意、可以、不满意、不允许、……)。

第二,各类参考总体的概率分布是已知的,即每一类参考总体出现的先验概率p(di)以及各类概率密度函数p(x/di)是已知的。显然,0≤p(di)≤1,(i=l,2,…,l),∑p(di)=1。

对于两类故障诊断问题,就相当于在识别前已知正常状态d1的概率户(d1)和异常状态0:的概率p(d2),它们是由先验知识确定的状态先验概率。如果不做进一步的仔细观测,仅依靠先验概率去作决策,那么就应给出下列的决策规则:

若p(d1)>p(d2),则做出状态属于d1类的决策;反之,则做出状态属于d2类的决策。例如,某设备在365天中,有故障是少见的,无故障是经常的,有故障的概率远小于无故障的概率。因此,若无特b,j明显的异常状况,就应判断为无故障。

显然,这样做对某一实际的待检状态根本达不到诊断的目的,这是由于只利用先验概率提供的分类信息太少了。为此,我们还要对系统状态进行状态检测,分析所观测到的信息。

执行食品安全标准的标准号怎么解释

1楼 濄諎 sb t 商业标准 推荐 10018类似序列号,排序 2001是标准是出台年度,这个标准应该是更新前的,最新应该是sb t 10018 2008 糖果 硬质糖果 食品安全标准是强制执行的标准,可为什么还有gb t 2楼 匿名用户 食品类标准交由卫生部门管理以后,将原来的gb t标准和gb...

植物大战僵尸2贝斯手僵尸怎么打贝斯手僵尸打法

1楼 超级酷乐猫 贝斯手僵尸属性 强度 一般 速度 慢 伤害 高 特殊技能 贝斯配合音响有几率发出音波冲击,击飞植物。 贝斯手僵尸打法解析 前排别种植物,他的出场会从天而降,会被他压垮 后排种坚果挡音波伤害 也可种植喇叭花 一阶就行 , 伤害,外加高火力打掉他的音像,贝斯手就不足为惧,最可怕的还是他...

给宝贝想了个名字,欣梦怎么解释,起作名字怎么样

1楼 匿名用户 欣梦,您好,以下是姓名为您进行的姓名打分解析 姓名 欣 梦 繁体 俽梦 拼音 xin meng 笔划 8 16 五行 木 木 吉凶 吉 吉 天格 9 水 人格 24 火 地格 17 金 外格 2 木 总格 24 土 基础运 表面安稳,内实茫然,和家庭或亲友之间易发生纠纷。也易患精神和...