具体实施方式

下面结合附图和仿真示例对本发明进行详细的描述，以证明本发明的实用性。

本发明考虑上行链路多输入多输出(MIMO)系统的符号检测问题，基站配置天线数为N_t和单天线用户数为N_r，则复信道矩阵表示为在接收端，加性噪声为其中表示均值为0和方差为的复高斯分布，ε是噪声的逆方差。接收信号可以表示为

y＝Hx+n

此处发射符号x为正交振幅调制(QAM)，那么x的每个元素属于离散星座集合M为离散星座集合中的元素总个数。同时，信号x的先验分布为且Π表示连乘符号,δ(·)表示狄拉克函数。最终，接收信号的似然函数为

同时，p(y|x,ε)的下界为

与

此处函数表示取复数的实部，需要注意的是T为对角矩阵且满足此处的表示函数f(x)二阶梯度。定义变量θ＝{x,ε}，此时松弛的证据下界(ELBO)所对应的联合概率函数有

我们采用变分贝叶斯推断来交替更新各个变量，包括E更新和M更新，更新细节如下：E更新

1)更新q_x(x)。忽略与x无关的项，则近似后验分布q_x(x)可以如下获得

此处

r＝<ε>Φ(H^Hy+Tz-H^HHz)＝z+T^-1H^H(y-Hz)

由于N(x；r,Φ)表示变量x以r为均值和以Φ为方差下的高斯分布，那么x的第i个元素的期望为

所有i

同时，的期望为

所有i

2)更新q_ε(ε)。忽略与ε无关的项，则近似后验分布q_ε(ε)可以如下获得

则ε服从伽马分布，且a,b为很小的常数，如a＝b＝10^-10。此时

此处

和

此处函数表示取复数的实部，且Σ_x表示x的协方差矩阵，忽略信号x之间的相关性，此时Σ_x为对角矩阵且第i个对角元为

所有i

最终，ε的期望为

M更新

3)更新z。通过如下优化可以获得的估计值，

将对数函数求偏导等于0，可以估计出z，即

由于<ε>>0和T≥H^HH，则z的解为

z^new＝<x>

根据以上框架，引入少量学习参数，可提出基于模型驱动下的深度学习检测器，命名为VBINet。所提出的深度网络检测器共有层数为L_layer，学习参数为对于第(t+1)层，输入包括y，H，x_t和ε_t，其中x_t和ε_t分别表示第t层对信号和噪声方差的估计。通过最小化每一层估计信号与真实信号之间的最小均方差，来更新网络参数，进而获得估计信号。第一步是线性估计器，第t层的线性估计器输出信号为

r_t＝x_t+T^-1H^H(y-Hx_t)

其中，对角矩阵T设置为此处⊙为矩阵点乘符号，Υ是一个可学习的对角矩阵，对角H_d的第i个对角元素为H_d[i,i]＝(h_i)^Hh_i，且h_i表示信道矩阵H的第i列，(h_i)^H表示h_i的共轭转置。

第二步时非线性估计器，令第t层的非线性估计器输出信号为

x_t+1＝c_tE{x；r_t,Φ_t}+(1-c_t)x_t

此处E{x；r_t,Φ_t}表示变量x以r_t为均值和以Φ_t为方差下的均值，更具体一点，信号x的第i个元素的期望为

所有i

其中N(x_i；r_i,t,Φ_i,t)表示x_i在均值r_i,t和方差Φ_i,t下的高斯分布概率，同时，r_i,t和Φ_i,t分布表示r_t和Φ_t的第i个元素，p(x_i)为x_i的先验分布。第三步是估计噪声，第t层输出信号的协方差矩阵表示为该协方差矩阵为对角矩阵且第i个对角元素可以表示为

所有i

同时，

则噪声逆方差可以更新为

其中a和b是固定的常数值，可以取10^-10。最后一步是，利用Pytorch框架下的Adam优化器来训练网络参数，且代价函数为

其中表示第t层输出信号x_t和真实信号x^true之间的平方误差，最终输出网络参数以及检测信号x_t。

以上深度网络方案针对的是独立同分布信道，接下来的方案是针对相关信道的方案。令信道矩阵的奇异值分解为H＝UΣV^H，U是矩阵H的左奇异矩阵，V是矩阵H的右奇异矩阵，Σ是矩阵H的奇异值。定义和则接收信号可以等价表示为

y＝As+n

最终，接收信号的似然函数为

同时，p(y|x,ε)的下界为

与

需要注意的是T为对角矩阵且满足T≥Σ²。定义变量δ为一个固定参数，I为单位矩阵，此时松弛的证据下界(ELBO)所对应的联合概率函数有

G(y,s,ε,z)＝F(y,s,ε,z)p(s)p(ε)

本发明采用变分贝叶斯推断来交替更新各个变量，包括E更新和M更新，更新细节如下：E更新

1)更新q_s(s)。忽略与s无关的项，则近似后验分布q_s(s)可以如下获得

此处式子(a)满足

同时，<ε>表示变量ε的期望。由于很难获得的近似后验分布q_s(s)，因此

本发明先获得x的后验分布，再通过等式x＝Vs获得s的后验分布，即

lnq_x(x)∝lnN(x；r,Φ)+lnp(x)

且有

此处忽略信号x之间的相关性，则x的第i个元素的一阶矩和二阶矩的期望为

所有i

所有i此时信号x的对角协方差矩阵Σ_x的第i个对角元为

所有i

那么信号s的期望和方差分别满足

<s>＝V^H<x>，Σ_s＝V^HΣ_xV

2)更新q_ε(ε)。忽略与ε无关的项，则近似后验分布q_ε(ε)可以如下获得

则ε服从伽马分布，且a,b为很小的常数，如a＝b＝10^-10。此时

此处

和

最终，ε的期望为

M更新

3)更新z。通过如下优化可以获得的估计值，

将对数函数求偏导等于0，可以估计出z，即

由于<ε>>0和则z的解为

z^new＝<s>

根据以上框架，针对相关信道，提出模型驱动下基于贝叶斯学习的深度网络检测器，命名为Improved-VBINet。所提出的深度学习检测器共有层数为L_layer，学习参数为对于第(t+1)层，输入包括y,A,Σ,V,s_t和ε_t，其中s_t和ε_t分别表示第t层对信号和噪声方差的估计。

通过最小化每一层估计信号与真实信号之间的最小均方差，来更新网络参数，进而获得估计信号。第一步是线性估计器，第t层的线性估计器输出信号为

其中，对角矩阵T_t设置为第二步时非线性估计器，令同时且表示矩阵V的第i行，r_i,t表示r_t的第i个元素，x_i表示x的第i个元素。定义x_i,t+1表示x_t+1的第i个元素，则第t层的非线性估计器输出信号为

x_i,t+1＝E{x_i；r_i,t,Φ_i,t},所有i

s_t+1＝c_tV^Hx_t+1+(1-c_t)s_t

此处E{x_i；r_i,t,Φ_i,t}表示变量x_i以r_i,t为均值和以Φ_i,t为方差下的均值，更具体一点，信号x_i的期望为

所有i

其中N(x_i；r_i,t,Φ_i,t)表示x_i在均值r_i,t和方差Φ_i,t下的高斯分布概率，同时，r_i,t和Φ_i,t分布表示r_t和Φ_t的第i个元素，p(x_i)为x_i的先验分布。第三步是估计噪声，第t层输出信号的协方差矩阵表示为且满足

同时，

则噪声逆方差可以更新为

其中a和b是固定的常数值，可以取10^-10。最后一步是，利用Pytorch框架下的Adam优化器来训练网络参数，第t层输出信号x_t＝Vs_t，通过最小化代价函数

其中表示第t层输出信号x_t和真实信号x^true之间的平方误差，最终输出网络参数以及检测信号x_t。

仿真中，考虑上行链路MIMO系统，本发明针对独立同分布高斯信道和相关信道提出相对应的VBINet和Improved-VBINet方案。在误符号率(SER)性能分析中，对比算法为迫零算法(ZF)、线性最小均方差(LMMSE)、正交估计信息传播(OAMP)、极大似然估计(ML)以及深度学习方法OAMPNet和MMNet-iid/MMNet。同时，将矩阵T设置为固定值时，且c_t＝0，此时的方案命名为IFVB。定义为N_iter训练批次数，N_batch为每批次样本数。

图1描述了各方法SER与网络层数(Layer number)的关系，实验条件设置N_t＝16,N_r＝32,N_batch＝500,N_iter＝10⁴。从图1可以观察出，所提出VBINet方案在10层以内收敛，同时可以获得比OMAPNet2和MMNet-iid更好的性能。

图2描述了各方法误符号率(SER)与信噪比(SNR)的关系，实验条件设置为N_t＝16,N_r＝32,N_batch＝500,N_iter＝10⁴。此处，对于IFVB中的对角矩阵T进行两种选择，即和同时给IFVB设置比较优的信号初始值，从图2可以观测出，检测性能对于对角矩阵T的选择十分敏感，这也是采用深度学习技术来训练矩阵T的原因。实验表明，所提出的VBINet有着和ML相当的性能，同时所提出的VBINet性能优于OAMPNet2以及MMNet-iid。

接下来，考虑3GPP信道模型，N_t＝16,N_r＝32，相关参数设置与MMNet基本相同，且带宽为1M，有效子载波个数为F＝128，时间序列数为2，生成多个3D信道对性能求平均。图3描述了SER与SNR的关系，训练模式为在线训练，不同时间序列之间单独训练，同时上一个子载波训练好的网络参数作为下个子载波网络参数训练的初始值。对于第一个子载波，训练批次为1000次，每个批次的样本数为500，对于随后的子载波，训练批次为10，每个批次的子载波为500。需要注意的是，对于MMNet，本实验也考虑了针对随后子载波训练批次为20的情景。从图3中可以发现，当在线训练批次增加时，MMNet的性能显著增加，这是由于MMNet的学习参数很多，需要更多的样本学习。对于本发明所提出的Improved-VBINet，有着和OAMPNet2相近的性能，同时所提出方案的计算复杂度更低。

在图4中，我们考虑相关瑞利信道场景，此时考虑离线训练，也就是说，测试信道与训练不同。设置相关参数为0.8，且N_t＝16,N_r＝32,N_batch＝500,N_iter＝10⁴。我们可以发现，MMNet在离线模式下基本无法工作，原因在于无法用一个矩阵去拟合所有的矩阵。同时可以发现，对于离线或者在线训练模式，所提出的Improved-VBINet和OAMPNet有着富有竞争力的性能。

在图5和图6中，我们考虑噪声未知对MMNet-iid以及OAMPNet2的影响。其中，定义估计噪声方差η反应了估计的精确度，因此可以定义噪声未知因子当NUF＝0dB时，表示输入噪声为真实的噪声方差。图5和图6分别考虑独立同分布高斯信道和相关瑞利信道，对于图6而言，相关系数取0.8，同时，对于图5和图6，所取参数为N_t＝16,N_r＝32,N_batch＝500,N_iter＝10⁴。从图中我们可以发现，MMNet-iid和OAMPNet2的性能会受未知噪声一定程度上的影响。对于OAMPNet2，当估计噪声与真实噪声相差越大时，相对于本发明所提出的方案的性能差距将会越大。

综上所述，本发明研究了通信系统符号检测问题，采用的方法是基于模式驱动下的贝叶斯深度网络检测器。针对独立同分布高斯信道和相关信道提出了对应方案，同时为了提升性能以及降低计算复杂度，本发明通过引入学习参数，可以获得一个松弛的证据下界(ELBO)。进而通过最大化松弛的ELBO，来优化网络参数，进而获得更优的符号检测器。仿真结果表明，本专利所提出的方案，相对于现有方案，可以在性能和计算复杂度之间达到更好的平衡，同时可以自动更新噪声方差，以及适用于离线和在线训练两种模式。