具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地详细描述。

实施例一：

本实施例提供一种毫米波大规模MIMO系统中的混合预编码设计方法，结合图1所示的混合预编码结构示意图，所述毫米波大规模MIMO系统中，包含N_s个数据流的发射信号s在发射端通过数字预编码器进行数字预编码处理后，传输至由条射频链、移相器和射频相加器构成的模拟预编码器，由模拟预编码器进行模拟预编码处理后，将数据流映射到N_t根发射天线上，并发送至加噪的波瓣分解信道进行数据传输，接收端通过N_r根接收天线接收数据，并依次经过模拟合并器及数字合并器进行处理，得到接收信号y，实现包含多个数据流的多路径数据传输。

假设所述毫米波大规模MIMO系统中，发射端有N_t根发射天线，条射频链，接收端有N_r根接收天线，条射频链，传输数据流数为N_s。为保证复用增益，实现多路经的数据流通信，收发端射频链数分别满足为发射信号向量，且满足式中，为噪声协方差矩阵；为发射信号向量，且满足F_RF表示维模拟预编码矩阵，F_BB表示维数字预编码矩阵，W_RF表示维的模拟合并器矩阵，W_BB表示维的数字合并器矩阵，F＝F_RFF_BB为混合预编码矩阵，总发送功率满足W＝W_RFW_BB表示合并器矩阵；为信道噪声矢量，σ²是噪声功率，为信道矩阵，ρ表示平均接收功率。

根据本实施例，并结合图1所示，所述混合预编码设计方法包括以下具体步骤：

步骤一：为最大化系统的频谱效率，优化数字预编码器、模拟预编码器及模拟合并器、数字合并器的设计，将包含模拟预编码矩阵、数字预编码矩阵、模拟合并器矩阵及数字合并器矩阵的混合预编码设计过程中含有非凸约束的优化问题转化为求解欧式距离最小的问题；

在波瓣分解信道模型下，接收信号为y，

将高斯信号作为发射信号s，则系统频谱效率为：

式中，为噪声协方差矩阵。以最大化频谱效率为目标，混合预编码设计的公式如下：

式中Ω是具有恒模约束的模拟预编码码本，满足

为简化设计，将公式(3)转化为如公式(4)所示的求解欧式距离最小的问题，并在模拟预编码码本Ω中搜索最优码字构成模拟预编码矩阵：

式中，F^opt是最优预编码参考矩阵，可通过信道矩阵的奇异值分解H＝U∑V^H得到，即 F_opt＝V(:，1：N_s)。

步骤二：根据波瓣之间的相互独立性，将波瓣信道分解为多个独立波瓣子信道，所述步骤一中的问题(4)可转化为基于多个独立波瓣子信道的混合预编码设计问题，并分别设计模拟预编码矩阵和数字预编码矩阵；

针对L个波瓣子信道分别设计模拟预编码矩阵和数字预编码矩阵：

式中，为第l个波瓣子信道对应的最优预编码参考矩阵，和分别为第l个子信道对应的模拟预编码矩阵和数字预编码矩阵，Ω_l表示第l个模拟预编码子码本，且本发明假定功率平均分配，G_l为第l波瓣内所有传输路径的功率之和。

步骤三：求解每个波瓣子信道对应的模拟预编码矩阵与数字预编码矩阵选择每个波瓣子信道的天线阵列响应A_tl作为预编码参考矩阵F_res，根据模拟预编码模块中移相器的硬件限制，构建模拟预编码码本。在每个子码本中搜索最佳码字所在位置，构成模拟预编码矩阵的自有支撑集Ψ_l。

为避免高复杂度的矩阵运算，选择天线阵列响应A_t作为预编码参考矩阵。信道矩阵H可简写为：

为发射端天线阵列响应，为接收端天线阵列响应。各路径复用增益为

针对每个波瓣子信道，天线阵列响应对应于L个子天线阵列响应，发送端为 A_t＝[A_t1，A_t2，...，A_tL]，接收端为A_r＝[A_r1，A_r2，...，A_rL]，A_rl与A_tl表示第l个天线阵列响应，其中，l＝1，2...L。

根据模拟预编码模块中移相器的硬件限制，构建模拟预编码码本。假设模拟预编码码本大小为N_θ＝2^b，b表示移相器的相位分辨率为b-比特，则模拟预编码码本为：

式中，

表示模拟预编码码本中第i个码字的量化方位角。模拟预编码码本可分为L个子码本

设构成模拟预编码矩阵的码字所在位置为模拟预编码矩阵的自有支撑集Ψ，由于每个波瓣子信道的模拟预编码矩阵数字预编码矩阵的设计彼此独立，对于每个波瓣对应的模拟预编码矩阵，都有相对应的自有支撑集Ψ_l，其中，l＝1，2...L。不同模拟预编码矩阵的自有支撑集之间不存在相同的支撑集，即共有支撑集为且满足Ψ＝{Ψ₁，Ψ₂，...，Ψ_L}。由于不同波瓣之间路径相互独立，在设计模拟预编码矩阵时，将对全部码本的搜索转化为对多个子码本的搜索，也就是寻找预编码参考矩阵A_tl在模拟预编码码本上投影最大的码字。则目标求解问题为：

式中，为第l个模拟预编码码本，其中，l＝1，2...L。所述参考预编码矩阵为天线阵列响应， A_tl代表第l个波瓣子信道对应的发射天线阵列响应。

步骤四：为求解步骤三中每个波瓣对应模拟预编码矩阵的自有支撑集Ψ_l，引入联合稀疏方法，利用模拟预编码矩阵和数字预编码矩阵之间的相关性，并根据数字预编码矩阵的隐性稀疏结构，计算预编码参考矩阵F_res在模拟预编码码本上的投影大小，记录具有强投影的码字所在位置，从而得到不同数据流模拟预编码矩阵之间的共有支撑集每个数据流对应的模拟预编码矩阵的自有支撑集Ψ_lp，两者构成Ψ_l。

构成模拟预编码矩阵F_RF的码字所在位置为模拟预编码F_RF的自有支撑集Ψ，由于每个波瓣子信道的模拟预编码矩阵数字预编码矩阵的设计彼此独立。同样的，对于每个波瓣对应的模拟预编码矩阵都有相对应的自有支撑集Ψ_l，不同模拟预编码矩阵的自有支撑集之间不存在相同的支撑集，即共有支撑集为且满足Ψ＝{Ψ₁，Ψ₂，...，Ψ_L}。每个数据流的模拟预编码矩阵自有支撑集为Ψ_lp，每个数据流模拟预编码矩阵之间存在共有支撑集满足第l个波瓣模拟预编码矩阵的自有支撑集其中表示与Ψ_lp的差集。实际求解过程：先求一个波瓣内每个数据流之间共有的每个数据流对应的自有Ψ_lp，两者构成每个波瓣对应的Ψ_l，最后得到所有波瓣对应的Ψ。与之对应的是先求解每个数据流模拟预编码矩阵每个波瓣子信道的模拟预编码矩阵从而得到完整的模拟预编码矩阵F_RF。

由于数字预编码矩阵具有隐含稀疏结构，因此预编码参考矩阵列向量在不同码字上投影大小不同，对于第l个波瓣第p个数据流的模拟预编码矩阵设计，考虑预编码参考矩阵列向量存在多个强投影情况。为简化设计，认为每个设计具有相同的投影数量，设为整数。若不同数据流模拟预编码矩阵之间存在共有支撑集搜索个码字，其中表示向下取整，使得至少两个预编码参考矩阵的列向量在所选码字上具有强投影，设定这些码字的所在位置作为模拟预编码矩阵的共有支撑集为进一步设计第p个数据流模拟预编码矩阵搜索个码字所在位置，与共有支撑集构成的自有支撑集Ψ_lp。因此，式(10)转化为，

其中表示集合Ψ_lp的基数，即集合内元素个数。

为解决上述问题，本发明提出了一种基于波瓣分解信道的联合稀疏混合预编码优化算法。由于每个波瓣混合预编码设计相互独立且方法相同，下面仅介绍第l个波瓣混合预编码矩阵设计。首先设计共有支撑集预编码参考矩阵F_res为第l个波瓣对应的天线阵列响应A_tl，计算参考矩阵与码本的相关矩阵，

搜索个码字，使得预编码参考矩阵F_res列向量在所选码字上具有强投影，若所选码字可作为共有支撑，需满足条件，

使预编码参考矩阵F_res除第j₀个列向量外，仍存在其他列向量在第i₀个码字上具有强投影，则第i₀个码字为共有支撑，记录码字位置i₀，更新共有支撑集第p个数据流模拟预编码矩阵的自有支撑集Ψ_lp。为设计选择单个天线阵列响应列向量A_tl(：，p)作为参考矩阵F_res，与共有支撑集类似，计算相关矩阵R_c，搜索个码字构成模拟预编码矩阵，并更新Ψ_lp与第l个波瓣模拟预编码矩阵的自有支撑集Ψ_l。

步骤五：根据每个波瓣模拟预编码矩阵的自有支撑集Ψ_l优化模拟预编码矩阵的列向量分布，得到模拟预编码矩阵同理得到模拟合并器矩阵相应的，Ψ_l体现了模拟预编码矩阵与数字预编码矩阵之间的关联性，故通过对等效子信道进行奇异值分解，得到即可获得数字预编码矩阵使数字预编码矩阵行向量与模拟预编码列向量之间一一对应，实现了混合预编码的联合优化，同理得到数字合并器矩阵

步骤六：重复上述步骤一至步骤五，设计每个波瓣子信道对应的模拟预编码矩阵的自有支撑集，得到模拟预编码矩阵F_RF的自有支撑集Ψ＝{Ψ₁，Ψ₂，...，Ψ_L}。则模拟预编码矩阵为相应的数字预编码矩阵为同理可得模拟合并器矩阵数字合并器矩阵

为使本发明的目的、技术方案和优点更加清楚，下面将利用一些经典的预编码算法与所提出的算法作对比，展现联合稀疏混合预编码优化设计方法在计算复杂度、频谱效率与误码率性能方面的优越性。

用来对比的预编码算法分别是最优预编码算法(OPT)，均匀量化正交匹配算法(UQ-OMP)、非均匀量化正交匹配算法(NUQ-OMP)、均匀量化的空间波瓣分解算法(UQ-SLD)、非均匀量化的空间波瓣分解算法(NUQ-SLD)。

其中，最优预编码算法是经典的的预编码算法，在大规模MIMO系统中，呈现出较好的频谱效率性能。UQ-OMP算法和NUQ-OMP算法中分别采用均匀量化和非均匀量化方式构建模拟预编码码本，并用OMP算法解决稀疏重构问题，UQ-SLD算法和NUQ-SLD算法利用空间波瓣内路径方位角的稀疏性，将原始问题重构为多个子信道混合预编码设计问题，分别采用均匀量化和非均匀量化方式构建模拟预编码码本，以上算法与最优预编码算法相比，未有明显的频谱效率及误码率性能损失。

图2是本发明在波瓣分解信道、毫米波频率为28GHz，带宽为100MHz的32×16、 128×32MIMO系统中，波瓣数L＝2，波瓣内路径数P＝2，发送端射频链接收端射频链数据流N_s＝LP，移相器相位分辨率b＝6的情况下，比较最优预编码、基于均匀量化码本的正交匹配追踪算法(UQ-OMP)、基于均匀量化码本的波瓣分解算法(UQ-SLD)、基于非均匀量化码本的波瓣分解算法(NUQ-SLD)以及本发明技术方法的频谱效率随信噪比变化情况示意图；

图3(a)是本发明比较了不同移相器相位分辨率情况下，采用非均匀量化码本时各个算法的频谱效率变化，其中，b＝3、4、5；图3(b)是本发明比较了采用均匀量化和非均匀量化码本时各个算法的频谱效率变化，其中，均匀量化b＝6，非均匀量化b＝4；并且系统为 32×16MIMO系统，波瓣数L＝2，波瓣内路径数P＝2，发送端射频链接收端射频链数据流N_s＝LP；

图4(a)是本发明比较了波瓣内路径数不同的情况下，采用均匀量化码本情况下，各个算法的频谱效率变化情况，其中，b＝6；图4(b)是本发明比较了波瓣内路径数不同的情况下，采用非均匀量化码本情况下，各个算法的频谱效率变化情况，其中，b＝4；并且32×16MIMO 系统中，波瓣数L＝2，波瓣内路径数P＝2，发送端射频链接收端射频链数据流N_s＝LP；

图5(a)是本发明比较了波瓣内路径数不同的情况下，采用均匀量化码本情况下，各算法的误码率变化情况，其中，b＝6；图5(b)是本发明比较了波瓣内路径数不同的情况下，采用非均匀量化码本情况下，各算法的误码率变化情况，其中，b＝4；并且，32×16MIMO系统中，波瓣数L＝2，波瓣内路径数P＝2，发送端射频链接收端射频链数据流 N_s＝LP，移相器的相位分辨率b＝6。

如图2所示，随着信噪比的不断增加，上述算法的频谱效率均随之提高。当N_t＝32、N_r＝16，

采用均匀量化码本时，与UQ-SLD算法相比，本发明频谱效率提升了0.68bps/Hz，采用非均匀量化码本时，与NUQ-SLD算法相比，本发明算法频谱效率提升了0.44bps/Hz，两种情况下，所提算法频谱效率分别达到OPT算法的89.6％、99％。同样，当N_t＝128、N_r＝32、b＝8时，本发明算法频谱效率明显提升。与OMP算法相比，本发明算法频谱效率性能仍存在差距，但本发明算法计算复杂度大幅降低，且天线数量越大，计算复杂度降低幅度越大(见3.3节)。本发明算法与SLD算法均选择天线阵列响应作为参考矩阵以避免复杂的矩阵运算，牺牲了部分系统频谱效率性能，本发明通过联合优化设计模拟预编码与数字预编码，与SLD算法相比，提升了频谱效率性能；而且，与SLD算法相比，两种量化方式情况下，本发明算法频谱效率差距缩小，表明模拟预编码码本量化方式对系统频谱效率的影响减小，从而降低了对移相器相位分辨率的要求。

图3(a)为采用非均匀量化码本时，不同移相器相位分辨率情况下，算法频谱效率变化。由图可知，随着移相器相位分辨率b的增加，几种算法的频谱效率均随之提高，且频谱效率逐渐逼近OPT算法。图3(b)为均匀量化和非均匀量化情况下，算法频谱效率对比图。由图可知，非均匀量化b＝4时频谱效率与均匀量化b＝6相近，这是因为非均匀量化的量化精度高于均匀量化(见3.1节)，当移相器相位分辨率相同时，与均匀量化相比，采用非均匀量化时算法频谱效率更高。当非均匀量化中则总量化角度是均匀量化总量化角度的故两者频谱效率相近时，非均匀量化比均匀量化少2比特。

图4(a)和图4(b)分别为均匀量化和非均匀量化，不同路径数P情况下频谱效率变化对比图。由图可知，无论采用均匀量化还是非均匀量化码本，随着路径数P的增加，各种算法的频谱效率均提高，且非均匀量化b＝4时频谱效率与均匀量化b＝6相近。

图5(a)和图5(b)分别给出均匀量化和非均匀量化时，各算法误码率随信噪比变化情况。由图可知，无论采用均匀量化还是非均匀量化，与P＝2相比，P＝1时各算法误码率更低。因为路径数P越小，波瓣内传输路径之间的干扰越小，系统误码率越低。两种量化方式下，本发明算法误码率性能均接近于OPT算法，与SLD算法相比，当误码率为6×10^-2时，P＝1情况下信噪比增益提升约2dB，与OMP算法误码率差距缩小了50％；当误码率为5×10^-1时，P＝2 情况下信噪比增益提升约3.7dB，与OMP算法之间的信噪比损失仅为0.3dB。

由图2至图5(b)的结果可知，联合稀疏混合预编码算法展现出较高的频谱效率及误码率性能优势，并且可以实现在较低移相器分辨率情况下，仍能保证大规模MIMO系统的频谱效率及误码率性能。

本发明实施例中的部分步骤，可以利用软件实现，相应的软件程序可以存储在可读取的存储介质中，如光盘或硬盘等。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。