共轭分布是一种极大简化贝叶斯汾析的方法其作用是,在贝叶斯公式包括多种概率分布的情况下使这些分布的未知參数在试验前被赋予的物理意义,延续到试验后便于分析。
这里有三个重要的概念:先验分布、似然函数,以及后验分布
是先验分布,表示茬观察样本之前依照经验觉得符合某种概率分布。
比方说在抛硬币之前我们觉得正反两面出现的概率各为1/2。
是似然函数表示在给定模型參数的条件下,样本数据服从这一概率模型的相似程度
是后验分布。表示在观察一系列样本数据后模型參数服从的概率分布。
即对先验分布进行了修正。更接近真实情况
在贝叶斯公式中假设先验分布和似然函数使得後验分布具有和先验分布同样的形式,那么就称先验分布和似然函数是共轭的
Beta概率函数例如以下:
假设把Beta分布当做先验分布二项分布函数当做似然函数,那么通过贝叶斯公式计算得到的后驗分布与先验分布具有同样的形式所以,Beta分布和二项分布共轭
Beta分布扩展到多维是 Dirichlet分布(狄利克雷分布)。二项分布扩展到多维就是多項分布Dirichlet分布函数例如以下:
多项分布函数例如以下:
即。Dirichlet分布和多项分布式是共轭的
版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。