AWGN后验估计下的均值与协方差关系(向量和标量形式)
文章目录
- AWGN信道向量模型
- 后验均值与协方差的关系
- 从实数域拓展到复数域
- 小结
AWGN信道向量模型
考虑一个随机向量x∼pX(x)\boldsymbol x \sim p_{\boldsymbol X}(\boldsymbol x)x∼pX(x),信道模型为
q=x+v,v∼N(0,Σ)\boldsymbol q = \boldsymbol x + \boldsymbol v, \ \ \ \boldsymbol v \sim \mathcal N(\boldsymbol 0, \boldsymbol \Sigma)q=x+v, v∼N(0,Σ)
已知观测值q\boldsymbol qq,将后验估计的均值表示为Fin(q,Σ)=E[x∣q]F_{in}(\boldsymbol q,\boldsymbol \Sigma)=\mathbb E[\boldsymbol x| \boldsymbol q]Fin(q,Σ)=E[x∣q],协方差表示为Ein(q,Σ)=Cov[x∣q]\mathcal E_{in}(\boldsymbol q, \boldsymbol \Sigma)=\text{Cov}[\boldsymbol x| \boldsymbol q]Ein(q,Σ)=Cov[x∣q]。
后验均值与协方差的关系
后验均值Fin(q,Σ)F_{in}(\boldsymbol q,\boldsymbol \Sigma)Fin(q,Σ)与协方差Ein(q,Σ)\mathcal E_{in}(\boldsymbol q, \boldsymbol \Sigma)Ein(q,Σ)满足如下关系式
∂∂qFin(q,Σ)=Ein(q,Σ)Σ−1\frac{\partial}{\partial \boldsymbol q} F_{in}(\boldsymbol q, \boldsymbol \Sigma)= \mathcal E_{in}(\boldsymbol q,\boldsymbol \Sigma) \boldsymbol \Sigma^{-1}∂q∂Fin(q,Σ)=Ein(q,Σ)Σ−1
证明:对Σ>0\boldsymbol \Sigma > \boldsymbol 0Σ>0(正定),定义函数
A0(q)=∫pX(x)ϕ(q−x;Σ)dxA1(q)=∫xpX(x)ϕ(q−x;Σ)dxA2(q)=∫xxTpX(x)ϕ(q−x;Σ)dx\begin{aligned} A_0(\boldsymbol q) &= \int p_{\boldsymbol X}(\boldsymbol x) \phi(\boldsymbol q-\boldsymbol x; \boldsymbol \Sigma) \mathrm{d} \boldsymbol x \\ A_1(\boldsymbol q) &= \int \boldsymbol x p_{\boldsymbol X}(\boldsymbol x) \phi(\boldsymbol q-\boldsymbol x; \boldsymbol \Sigma) \mathrm{d} \boldsymbol x \\ A_2(\boldsymbol q) &= \int \boldsymbol {xx}^T p_{\boldsymbol X}(\boldsymbol x) \phi(\boldsymbol q-\boldsymbol x; \boldsymbol \Sigma) \mathrm{d} \boldsymbol x \\ \end{aligned} A0(q)A1(q)A2(q)=∫pX(x)ϕ(q−x;Σ)dx=∫xpX(x)ϕ(q−x;Σ)dx=∫xxTpX(x)ϕ(q−x;Σ)dx
其中ϕ(q−x;Σ)\phi(\boldsymbol q-\boldsymbol x; \boldsymbol \Sigma)ϕ(q−x;Σ)表示似然分布pQ∣Xp_{\boldsymbol Q|\boldsymbol X}pQ∣X,均值为x\boldsymbol xx协方差为Σ\boldsymbol \SigmaΣ的高斯分布,即
ϕ(q−x;Σ)≡N(x,Σ)\phi(\boldsymbol q-\boldsymbol x; \boldsymbol \Sigma) \equiv \mathcal {N}(\boldsymbol x, \boldsymbol \Sigma)ϕ(q−x;Σ)≡N(x,Σ)
特殊地,先考虑A0(q)A_0(\boldsymbol q)A0(q)
A0(q)=∫pX(x)ϕ(q−x;Σ)dx=∫pX(x)pQ∣X(q∣x)dx=pQ(q)\begin{aligned} A_0(\boldsymbol q) &= \int p_{\boldsymbol X}(\boldsymbol x) \phi(\boldsymbol q-\boldsymbol x;\boldsymbol \Sigma) \mathrm{d} \boldsymbol x \\ &= \int p_{\boldsymbol X}(\boldsymbol x) p_{\boldsymbol Q|\boldsymbol X}(\boldsymbol q| \boldsymbol x) \mathrm{d} \boldsymbol x \\ &= p_{\boldsymbol Q}(\boldsymbol q) \end{aligned} A0(q)=∫pX(x)ϕ(q−x;Σ)dx=∫pX(x)pQ∣X(q∣x)dx=pQ(q)
根据期望的定义,可以写出
Fin(q,Σ)=A1(q)A0(q)F_{in}(\boldsymbol q,\boldsymbol \Sigma) = \frac{A_1(\boldsymbol q)}{A_0(\boldsymbol q)}Fin(q,Σ)=A0(q)A1(q)
根据Cov[w]=E[wwT]−E[w]E[wT]\text{Cov}[\boldsymbol w] =\mathbb E[\boldsymbol w \boldsymbol w^T] - \mathbb E[\boldsymbol w] \mathbb E[\boldsymbol w^T]Cov[w]=E[wwT]−E[w]E[wT],可以写出
Ein(q,Σ)=A2(q)A0(q)−A12(q)A02(q)\mathcal E_{in}(\boldsymbol q,\boldsymbol \Sigma) = \frac{A_2(\boldsymbol q)}{A_0(\boldsymbol q)} - \frac{A^2_1(\boldsymbol q)}{A^2_0(\boldsymbol q)}Ein(q,Σ)=A0(q)A2(q)−A02(q)A12(q)
对高斯分布求导可得
∂∂qϕ(q−x;Σ)=ϕ(q−x;Σ)⋅(x−q)TΣ−1\frac{\partial}{\partial \boldsymbol q} \phi(\boldsymbol q- \boldsymbol x; \boldsymbol \Sigma) = \phi(\boldsymbol q- \boldsymbol x; \boldsymbol \Sigma) \cdot {(\boldsymbol x- \boldsymbol q)}^T \boldsymbol \Sigma^{-1}∂q∂ϕ(q−x;Σ)=ϕ(q−x;Σ)⋅(x−q)TΣ−1
基于此,我们可以得到
∂∂qFin(q,Σ)=∂∂qA1(q)A0(q)=∂A1(q)∂qA0(q)−A1(q)∂A0(q)∂qA02(q)=A2(q)Σ−1A0(q)−A1(q)A1T(q)Σ−1A02(q)=Ein(q,Σ)Σ−1\begin{aligned} \frac{\partial}{\partial \boldsymbol q} F_{in}(\boldsymbol q, \boldsymbol \Sigma) &=\frac{\partial}{\partial \boldsymbol q} \frac{A_1(\boldsymbol q)}{A_0(\boldsymbol q)} \\ &= \frac{ \frac{\partial A_1(\boldsymbol q)}{\partial \boldsymbol q} A_0(\boldsymbol q) - A_1(\boldsymbol q) \frac{\partial A_0 (\boldsymbol q)}{\partial \boldsymbol q} } { A^2_0(\boldsymbol q)} \\ &= \frac{A_2(\boldsymbol q) \boldsymbol \Sigma^{-1}}{A_0(\boldsymbol q)} - \frac{A_1(\boldsymbol q) A^T_1(\boldsymbol q) \boldsymbol \Sigma^{-1}}{A^2_0(\boldsymbol q)} \\ &= \mathcal E_{in}(\boldsymbol q, \boldsymbol \Sigma) \boldsymbol \Sigma^{-1} \end{aligned} ∂q∂Fin(q,Σ)=∂q∂A0(q)A1(q)=A02(q)∂q∂A1(q)A0(q)−A1(q)∂q∂A0(q)=A0(q)A2(q)Σ−1−A02(q)A1(q)A1T(q)Σ−1=Ein(q,Σ)Σ−1
证毕。
从实数域拓展到复数域
考虑一个复随机向量x∼pX(x)\boldsymbol x \sim p_{\boldsymbol X}(\boldsymbol x)x∼pX(x),信道模型为
q=x+v,v∼CN(0,Σ)\boldsymbol q = \boldsymbol x + \boldsymbol v, \ \ \ \boldsymbol v \sim \mathcal {CN}(\boldsymbol 0, \boldsymbol \Sigma)q=x+v, v∼CN(0,Σ)
对于上述推导过程,实数域和复数域的差别于一下两个方面:
- 转置->共轭转置(只是notation的转换)
- 实高斯分布->复高斯分布(主要关注求导)
求导主要体现在
∂∂q∗ϕ(q−x;Σ)=ϕ(q−x;Σ)⋅(x−q)HΣ−1\frac{\partial}{\partial \boldsymbol q^{*}} \phi(\boldsymbol q- \boldsymbol x; \boldsymbol \Sigma) = \phi(\boldsymbol q- \boldsymbol x; \boldsymbol \Sigma) \cdot {(\boldsymbol x- \boldsymbol q)}^H \boldsymbol \Sigma^{-1}∂q∗∂ϕ(q−x;Σ)=ϕ(q−x;Σ)⋅(x−q)HΣ−1
类似地,可以得到复数域的关系表达式为:
∂∂q∗Fin(q,Σ)=Ein(q,Σ)Σ−1\frac{\partial}{\partial \boldsymbol q^{*}} F_{in}(\boldsymbol q, \boldsymbol \Sigma)= \mathcal E_{in}(\boldsymbol q,\boldsymbol \Sigma) \boldsymbol \Sigma^{-1}∂q∗∂Fin(q,Σ)=Ein(q,Σ)Σ−1
小结
AWGN信道向量模型为
q=x+v,x∼pX(x),v∼N(0,Σ)\boldsymbol q = \boldsymbol x + \boldsymbol v, \ \ \ \boldsymbol x \sim p_{\boldsymbol X}(\boldsymbol x), \boldsymbol v \sim \mathcal {N}(\boldsymbol 0, \boldsymbol \Sigma)q=x+v, x∼pX(x),v∼N(0,Σ)
MMSE估计均值与协方差的关系为
-
实数域
∂∂qE[x∣q]=Cov[x∣q]Σ−1\frac{\partial}{\partial \boldsymbol q} \mathbb E[\boldsymbol x| \boldsymbol q] = \text{Cov}[\boldsymbol x| \boldsymbol q] \boldsymbol \Sigma^{-1}∂q∂E[x∣q]=Cov[x∣q]Σ−1 -
复数域(v∼CN(0,Σ)v \sim \mathcal {CN}(\boldsymbol 0, \boldsymbol \Sigma)v∼CN(0,Σ))
∂∂q∗E[x∣q]=Cov[x∣q]Σ−1\frac{\partial}{\partial \boldsymbol q^{*}} \mathbb E[\boldsymbol x| \boldsymbol q] = \text{Cov}[\boldsymbol x| \boldsymbol q] \boldsymbol \Sigma^{-1}∂q∗∂E[x∣q]=Cov[x∣q]Σ−1
退化到标量时,令ν∼N(0,σ2)\nu \sim \mathcal{N}(0, \sigma^2)ν∼N(0,σ2),则
-
实数域
∂∂qE[x∣q]=1σ2var[x∣q]\frac{\partial}{\partial q} \mathbb E[ x| q] = \frac{1}{\sigma^2} \text{var}[ x| q] ∂q∂E[x∣q]=σ21var[x∣q] -
复数域(v∼CN(0,σ2)v \sim \mathcal {CN}(0, \sigma^2)v∼CN(0,σ2))
∂∂q∗E[x∣q]=1σ2var[x∣q]\frac{\partial}{\partial q^{*}} \mathbb E[ x| q] = \frac{1}{\sigma^2} \text{var}[ x| q]∂q∗∂E[x∣q]=σ21var[x∣q]
注意:上述结论不对x\boldsymbol xx的先验分布pX(x)p_{\boldsymbol X}(\boldsymbol x)pX(x)做任何要求。
相关文章:
AWGN后验估计下的均值与协方差关系(向量和标量形式)
文章目录AWGN信道向量模型后验均值与协方差的关系从实数域拓展到复数域小结AWGN信道向量模型 考虑一个随机向量x∼pX(x)\boldsymbol x \sim p_{\boldsymbol X}(\boldsymbol x)x∼pX(x),信道模型为 qxv,v∼N(0,Σ)\boldsymbol q \boldsymbol x \boldsymbol v, \…...
Linux常用命令之文件搜索命令
1、常用搜索-find 命令find英文原意find所在路径/bin/find执行权限所有用户功能描述文件搜索语法find [搜索范围] [搜索条件] (默认准确搜索)范例find /etc -name init?? 常用的搜索条件的选项包括: -name:按照文件名进行匹配查找,例&…...
ChatGPT给软件测试行业带来的可能
软件测试在软件开发过程中扮演着至关重要的角色,因为它可以确保软件的质量和可靠性。而随着人工智能技术的不断发展,ChatGPT作为一个强大的自然语言处理工具,可以在软件测试中发挥出许多重要的作用。本文将介绍ChatGPT在软件测试应用中带来的…...
Cadence Allegro 导出Properties on Nets Report报告详解
⏪《上一篇》 🏡《上级目录》 ⏩《下一篇》 目录 1,概述2,Properties on Nets Report作用3,Properties on Nets Report示例4,Properties on Nets Report导出方法4.1,方法14.2,方法2B站关注“硬小二”浏览更多演示视频...
JAVA代码 实现定位数据动态聚集并绘制多边形区域
文章目录思路1、限制聚合距离2、绘制多边形区域3、多边形区域之间合并4、多边形定边点4、逻辑流程一些性能上的优化1、多边形设置圆心2、采用分支合并思路3、清理聚集较分散区域合理性处理1、解决多边形内凹角问题2、解决定边点插入位置问题3、多边形区域扩展成果展示最近有根据…...
基于储能进行调峰和频率调节研究【超线性增益的联合优化】(Matlab代码实现)
💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…...
体验 Linux 的几个监控命令(htop、nmon、netdata)
体验 Linux 的几个监控命令htopnmonnetdatahtop 安装, sudo dnf install -y htop使用, htopnmon 安装, sudo dnf install -y nmon使用, nmon输入c, 输入C, 输入m, 输入n, 输入…...
NOC大赛2022NOC软件创意编程初赛图形化小低组(小学高年级组)
一、选择题 1.如果要控制所有角色一起朝舞台区右侧移动,下面哪个积太块是不需要的 2.要想让三个角色一起移动起来,下面哪个积木块没有作用 ? 3.小猴按照下面的程序前进,小猴最后一次前进了()步。 4.小可同学写了一个画笔程序画出花朵,但是运行后什么都看不到,不可…...
python进行股票收益率计算和风险控制的实现
股票收益率计算和风险控制的实现 在进行股票投资时,计算收益率和进行风险控制是非常重要的。本文将介绍一个与此相关的函数:radio_day_cal()。 radio_day_cal()函数 def radio_day_cal(last_day, sheet_name, df_dict, code_list, new_list):i 0days…...
自从有了这套近4000页的开发文档后,Java面试路上就像开了挂一样
Java是世界最流行的编程语言,也是国内大多数IT公司的主流语言。招聘网站上Java岗位众多,Java工程师似乎不愁找工作。但仔细一看就会发现,Java岗位的招聘薪酬天差地别,人才要求也是五花八门。而在Java工程师求职过程中,…...
Python文件操作
目录 一、文件操作介绍 二、文件的打开和关闭 三、文件的读写 四、文件文件夹相关操作 五、test 一、文件操作介绍 文件 : python中文件是对象 Liunx 文件 : 一切设备都可以看成是文件 磁盘文件 管道 网络Socket 文件属性: 读 写 执行权限 就是把一些存储存放起来&…...
036:cesium加载GPX文件,显示图形
第036个 点击查看专栏目录 本示例的目的是介绍如何在vue+cesium中加载GPX文件, 显示图形。 直接复制下面的 vue+cesium源代码,操作2分钟即可运行实现效果. 文章目录 示例效果配置方式示例源代码(共83行)相关API参考:专栏目标示例效果 配置方式 1)查看基础设置:https:/…...
【AI探索】我问了ChatGPT几个终极问题
终于尝试了一把ChatGPT的强大之处,问了一下关心的几个问题: chatGPT现在在思考吗?有没有什么你感兴趣的问题? 你认为AI会对人类产生哪些方面的影响? 你对人类所涉及到的学科有了解吗?你认为在哪些方面与人类…...
Leetcode 优先队列详解
优先队列 优先队列(Priority Queue):一种特殊的队列。在优先队列中,元素被赋予优先级,当访问队列元素时,具有最高优先级的元素最先删除 普通队列详解Leetcode 队列详解 优先队列与普通队列最大的不同点在于…...
通过两道一年级数学题反思自己
背景 做完这两道题我开始反思自己,到底是什么限制了我?是我自己?是曾经教导我的老师?还是我的父母? 是考试吗?还是什么? 提目 1、正方体个数问题 2、相碰可能性 过程 静态思维: …...
Pytorch :从零搭建一个神经网络
文章目录安装依赖从源码编译pytorchCXX_ABI问题数据集归一化Transforms搭建神经网络Components of a neural networknn.Flattennn.Linearnn.Sequentialnn.SoftmaxModel Parameters优化模型参数设置超参数添加优化循环添加 loss function优化过程完整实现模型的保存和加载安装 …...
【华为OD机试 2023最新 】 区块链文件转储系统(C++ 100%)
题目描述 区块链底层存储是一个链式文件系统,由顺序的N个文件组成,每个文件的大小不一,依次为F1,F2,…,Fn。随着时间的推移,所占存储会越来越大。 云平台考虑将区块链按文件转储到廉价的SATA盘,只有连续的区块链文件才能转储到SATA盘上,且转储的文件之和不能超过SATA盘…...
基于springcloud实现分布式架构网上商城演示【项目源码】分享
基于springcloud实现分布式架构网上商城演示摘要 首先,论文一开始便是清楚的论述了系统的研究内容。其次,剖析系统需求分析,弄明白“做什么”,分析包括业务分析和业务流程的分析以及用例分析,更进一步明确系统的需求。然后在明白了系统的需求基础上需要进一步地设计系统,主要包…...
【Qt】(自制类)适用于QTextCharFormat的字体选择对话框
先附上github链接:https://github.com/Ls-Jan/Qt_CharFormatDialog 主要是作为QFontDialog的平替/增强,毕竟Qt自带的字体选择器一言难尽(用过的都叹气)。 【运行界面】 【功能】 一目了然,可以选择字体,设置字号,设置…...
Unity即时战略/塔防项目实战(一)——构造网格建造系统
Unity即时战略/塔防项目实战(一)—— 构造网格建造系统 效果展示 Unity RTS游戏网格建造系统实现原理 地形和格子划分,建造系统BuildManager构建 地形最终需要划分成一个一个的小方格,首先定义一下小方格: private…...
SpringBoot-17-MyBatis动态SQL标签之常用标签
文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…...
设计模式和设计原则回顾
设计模式和设计原则回顾 23种设计模式是设计原则的完美体现,设计原则设计原则是设计模式的理论基石, 设计模式 在经典的设计模式分类中(如《设计模式:可复用面向对象软件的基础》一书中),总共有23种设计模式,分为三大类: 一、创建型模式(5种) 1. 单例模式(Sing…...
进程地址空间(比特课总结)
一、进程地址空间 1. 环境变量 1 )⽤户级环境变量与系统级环境变量 全局属性:环境变量具有全局属性,会被⼦进程继承。例如当bash启动⼦进程时,环 境变量会⾃动传递给⼦进程。 本地变量限制:本地变量只在当前进程(ba…...
K8S认证|CKS题库+答案| 11. AppArmor
目录 11. AppArmor 免费获取并激活 CKA_v1.31_模拟系统 题目 开始操作: 1)、切换集群 2)、切换节点 3)、切换到 apparmor 的目录 4)、执行 apparmor 策略模块 5)、修改 pod 文件 6)、…...
centos 7 部署awstats 网站访问检测
一、基础环境准备(两种安装方式都要做) bash # 安装必要依赖 yum install -y httpd perl mod_perl perl-Time-HiRes perl-DateTime systemctl enable httpd # 设置 Apache 开机自启 systemctl start httpd # 启动 Apache二、安装 AWStats࿰…...
LeetCode - 394. 字符串解码
题目 394. 字符串解码 - 力扣(LeetCode) 思路 使用两个栈:一个存储重复次数,一个存储字符串 遍历输入字符串: 数字处理:遇到数字时,累积计算重复次数左括号处理:保存当前状态&a…...
Java多线程实现之Callable接口深度解析
Java多线程实现之Callable接口深度解析 一、Callable接口概述1.1 接口定义1.2 与Runnable接口的对比1.3 Future接口与FutureTask类 二、Callable接口的基本使用方法2.1 传统方式实现Callable接口2.2 使用Lambda表达式简化Callable实现2.3 使用FutureTask类执行Callable任务 三、…...
【Java_EE】Spring MVC
目录 Spring Web MVC 编辑注解 RestController RequestMapping RequestParam RequestParam RequestBody PathVariable RequestPart 参数传递 注意事项 编辑参数重命名 RequestParam 编辑编辑传递集合 RequestParam 传递JSON数据 编辑RequestBody …...
智能仓储的未来:自动化、AI与数据分析如何重塑物流中心
当仓库学会“思考”,物流的终极形态正在诞生 想象这样的场景: 凌晨3点,某物流中心灯火通明却空无一人。AGV机器人集群根据实时订单动态规划路径;AI视觉系统在0.1秒内扫描包裹信息;数字孪生平台正模拟次日峰值流量压力…...
selenium学习实战【Python爬虫】
selenium学习实战【Python爬虫】 文章目录 selenium学习实战【Python爬虫】一、声明二、学习目标三、安装依赖3.1 安装selenium库3.2 安装浏览器驱动3.2.1 查看Edge版本3.2.2 驱动安装 四、代码讲解4.1 配置浏览器4.2 加载更多4.3 寻找内容4.4 完整代码 五、报告文件爬取5.1 提…...
