MATLAB 2024a

1、算法描述

摘要

在高频谱效率数字通信系统中，调制方式不仅决定单位带宽内的信息承载能力，还直接影响系统在有限信噪比条件下的误码性能、接收灵敏度以及编码增益发挥空间。256QAM作为高阶正交幅度调制的典型代表，因其频谱利用率高而被广泛关注，但其星座点密集、最小欧氏距离小、对噪声与失配敏感等特点，也使其在中高阶调制应用中面临较明显的性能瓶颈。围绕这一问题，星座整形技术逐渐成为提高系统性能的重要方向。已有研究表明，广义互信息已成为高阶调制与比特交织编码调制系统中的关键性能指标，而概率整形与几何整形则分别从符号出现概率和星座点空间位置两个维度逼近更优输入分布，是近年来高频谱效率传输的重要研究主线。

本文围绕标准256QAM、几何整形256QAM以及概率整形256QAM三类方案，构建统一的发送、信道、判决与性能评价框架，对其发射星座特征、符号概率分布、误比特率变化规律、广义互信息演化趋势以及接收端星座聚集程度进行系统分析。文章认为，标准256QAM的优势在于结构规整、实现成熟、系统兼容性强；几何整形通过重构星座点空间分布改善距离结构与星座外形；概率整形则在保持基本星座框架不变的前提下，通过改变符号分布使输入更接近高斯型，从而在有限信噪比下获得更高的信息率效率。结合统一仿真结果与相关研究结论可以看出，在以误比特率和广义互信息为核心的比较体系下，概率整形通常表现出更突出的综合收益，几何整形则体现出介于标准方案与概率整形之间的改进效果，而标准256QAM则构成整个比较体系的基准参考。

关键词： 256QAM；星座整形；几何整形；概率整形；误比特率；广义互信息

1 引言

随着高速无线通信、相干光通信以及高频谱效率传输体制的持续发展，系统设计目标已经不再局限于“能传”，而是更加关注“以更少功率、更高可靠性和更优信息率去传”。在这一背景下，高阶QAM因其良好的频谱效率成为工程系统的重要候选方案，但其内在弱点也十分突出：星座点数增加后，相邻符号距离迅速缩小，噪声、相位误差、非线性失真和判决失配都会更容易引起性能退化。特别是在256QAM这类高阶格式中，单纯依靠传统方形星座已很难同时兼顾频谱效率和传输鲁棒性，因此星座整形逐步由“性能增强手段”转变为“系统设计核心环节”之一。

从研究脉络上看，星座整形主要形成了两条技术路线。其一是几何整形，即在符号概率保持均匀的前提下，通过优化星座点坐标位置，使星座外形、邻接关系及平均能量分布更加有利于判决与传输；其二是概率整形，即保持星座基本几何结构不变，而通过改变不同符号的发送概率，使系统输入更接近理想高斯分布，从而缩小与理论极限之间的差距。前者偏重几何构型设计，后者偏重统计分布设计，两者都旨在提高高阶调制在给定信道条件下的有效传输能力。近年来，围绕高阶星座设计、BICM兼容整形、端到端学习优化以及面向不同信道条件的整形自适应等问题，相关研究已经形成较为丰富的成果体系。

基于上述背景，本文选取标准256QAM、几何整形256QAM和概率整形256QAM作为比较对象，围绕统一仿真框架展开分析。相比单纯介绍某一种整形方法，三方案并行比较更有助于说明不同星座设计理念的本质差异，也更适合从系统实现与工程取舍的角度讨论各自特点。本文的研究重点不在于追求复杂推导，而在于从系统层面理清三类方案在发射星座、误码性能、信息率性能和接收聚集特征上的差异，为后续进一步开展联合整形、高阶编码匹配和端到端优化研究提供基础。

2 星座整形的基本原理与研究思路

从通信理论角度看，理想高斯输入能够在加性高斯白噪声信道中逼近容量极限，而有限点星座则不可避免地存在整形损失。传统方形QAM采用规则矩形网格，其优点是映射简单、硬件成熟、解调结构清晰，但它与高斯分布之间仍存在明显差距。星座整形的核心任务，就是在有限离散星座与理想统计分布之间寻找更有效的折中方案。相关研究指出，广义互信息能够有效表征比特度量解调体系下高阶调制的可实现信息率，因此在整形方案评估中具有重要地位。

几何整形的思想相对直观。它通过改变星座点的几何位置，使点集在二维平面上的分布从传统矩形逐步向更适合当前信道和判决方式的形状演化。对于高阶QAM而言，这种优化通常体现为边缘点、角点和中间点的相对位置重排，使星座更接近圆盘状或其他优化构型。其潜在收益在于，一方面可以改善平均能量分配，另一方面也可能在特定信道与判决条件下提高判决边界的有效性。近年来，围绕高基数几何整形、鲁棒几何整形以及基于自动编码器的星座点端到端学习，研究已经表明几何整形具有较强的结构可塑性和面向特定信道的优化潜力。

概率整形则采取了另一种思路。它不急于重画星座点，而是在既有QAM星座框架上重新分配各符号的发送概率。中心区域符号因能量较低而被赋予更高概率，边缘和角落符号因能量较高而被降低使用频度，最终使离散输入的统计分布更接近高斯型。概率整形的工程吸引力在于，它既能与现有QAM体制保持较好的兼容性，又能通过分布匹配与编码协同获得信息率增益，因此在近年来的相干光通信和高频谱效率系统中得到了广泛重视。相关文献指出，概率整形不仅能改善接收灵敏度，还能提供更细粒度的码率自适应能力，这也是其在实际系统中格外受到关注的重要原因。

在本文的研究框架中，标准256QAM用于提供基准参照，几何整形用于考察“改变点位”的收益，概率整形用于考察“改变分布”的收益。通过统一的随机比特输入、调制、加性白噪声信道、比特判决与性能统计流程，可以将差异尽可能约束在整形方式本身上，从而使比较结果更具有可解释性。

3 三类256QAM方案的结构特征

标准256QAM采用16×16规则矩形格点结构，星座点在同相与正交两个维度上对称分布。其最突出的特点是排列规整、映射清晰、硬件与算法实现成熟，因此它长期作为高阶调制的基准方案存在。在工程系统中，标准256QAM的优势主要体现为发射与接收结构直观、判决边界规则、查找表与软解调实现难度较低。但与此同时，它在有限信噪比条件下的能量利用并不充分，尤其在未整形条件下，边缘高能量符号的出现频率与中心低能量符号相同，这种统计上的“平均对待”并不符合更优输入分布的要求。

几何整形256QAM则在标准格点基础上重新设计二维位置分布。其目标并不是破坏高阶调制的点数与频谱效率，而是在保持符号总数不变的条件下，重新安排点位，使星座外形向更优几何结构演化。对于本文所讨论的二维256阶方案而言，几何整形更关注的是外围点分布、中心点稠密度以及整体外轮廓的圆盘化趋势。文献中已经出现了多种几何整形优化思路，包括高基数几何整形、面向信道不确定性的鲁棒几何整形以及与BICM兼容的标签优化策略，这说明几何整形并不是单一算法，而是一类面向目标函数优化的设计范式。

概率整形256QAM的重点不在于“点在哪里”，而在于“点出现得有多频繁”。在本文所研究的结构中，星座点的几何位置仍然保留为标准方形QAM栅格，但中心能量较低的符号具有更高发送概率，边缘符号则以更低概率出现。这会直接改变发射星座的统计密度分布，并在接收端形成“中心更密、边缘更稀”的聚集特征。对于基于比特度量的系统而言，概率整形的价值不仅体现为误码性能改善，更体现在可实现信息率提升以及更平滑的码率自适应能力上。近年来关于分布匹配、短码长概率整形以及概率整形分布近似方法的研究进一步说明，概率整形已从理论概念逐步走向可工程化实现。

4 仿真模型与评价指标

为了避免比较过程中出现因系统结构不统一而带来的偏差，本文采用统一的仿真思路。三种方案均在相同的比特源、相同的信道类型和相同的评价区间内进行测试。信道采用加性高斯白噪声模型，比较对象均为256阶星座调制，性能随信噪比逐步变化而统计。这样的建模方式虽然不能覆盖全部工程场景，但足以揭示高阶调制在整形前后最核心的相对差异，特别适用于对比发射星座结构、误比特率和广义互信息等基本指标。基于广义互信息进行整形优劣评价的做法，在已有研究中已被广泛采用。

本文主要选取五类图像与指标进行分析。第一类是发射星座图，用于观察标准、几何整形和概率整形在平面分布上的本征差异；第二类是概率整形符号概率分布图，用于展示各符号发送频度的空间变化；第三类是误比特率曲线，用于反映在不同信噪比条件下的可靠性变化；第四类是广义互信息曲线，用于衡量三种方案在信息率层面的可实现收益；第五类是接收端星座图，用于直观观察噪声作用下三类方案的点云聚集程度与判决可分性。这样的评价体系同时兼顾“看得见的星座形态”和“算得出的性能指标”，能够较完整地支撑本文讨论。

5 仿真结果与性能分析

从发射星座图可以看出，标准256QAM保持典型的矩形均匀格点结构，几何整形256QAM则表现出由方阵向圆盘化结构过渡的趋势，而概率整形256QAM在几何位置上仍保持规则方阵，但由于发送概率不同，中心区域的统计权重明显高于边缘区域。这说明三类方案虽然都属于256阶调制，但其设计逻辑存在本质差异：标准方案强调规则性，几何整形强调空间构型优化，概率整形强调统计分布优化。

从概率分布图看，概率整形方案在中心区域具有更高发送概率，而在四周边缘与角部区域明显降低概率权重。这种分布特征是概率整形区别于标准256QAM和几何整形的最直观证据，也是其性能收益的根本来源之一。由于中心符号能量更低，高频使用这些符号会降低整体平均能量需求，并提高有限信噪比下的有效输入分布效率，这也是概率整形常能获得更优广义互信息表现的重要原因。

从误比特率曲线的比较看，三类方案在低信噪比区间通常差异并不会无限放大，因为此时噪声主导作用明显，星座结构优势难以被充分释放；随着信噪比进入中高区间，整形的意义开始增强。理论和已有文献都表明，若整形设计与判决方式相匹配，概率整形通常能够获得更有优势的误码与信息率收益，几何整形则常表现为对标准QAM的中等幅度改善。对于几何整形而言，若星座点位设计、比特标签和判决方法三者匹配不佳，其收益甚至可能被削弱，因此几何整形的性能优劣较大程度上依赖于优化模型是否真正兼顾了判决边界与映射关系。

从广义互信息曲线来看，概率整形相较标准256QAM通常更容易在中高信噪比区间体现收益，这是因为概率整形所引入的非均匀输入更接近容量逼近所需的统计特性。几何整形也能提高信息率，但其收益更依赖于具体点位设计是否与当前信道和接收结构相适配。已有研究表明，在更复杂的相位噪声、非线性失真和BICM兼容约束下，几何整形的优化空间仍然存在，但其实现通常比概率整形更依赖点位—标签—解调器之间的协同设计。换言之，概率整形更像是在“统计层面提升输入质量”，而几何整形则是在“结构层面重塑判决几何”，两者提升路径不同，因此在不同系统约束下的收益侧重点也会有所差异。

从接收星座图的表现看，标准256QAM在高信噪比下仍保持良好的点云聚集，但由于各点等概率出现，其边缘区域点云分布与中心区域并无显著统计差异；几何整形在接收端保留了更明显的环状或圆盘化层次结构，这说明其几何点位的设计直接决定了接收点云的外轮廓；概率整形则在接收端表现为中心点更密集、外围点更稀疏的特征，点云在视觉上更容易体现出“中间浓、外圈淡”的分布趋势。需要指出的是，接收星座图的观感不仅取决于星座设计本身，还与展示信噪比、散点数量和是否叠加参考点有关，因此在图形分析时应将“聚集程度”和“统计权重”同时考虑，而不能仅以视觉密度作单一判断。

综合上述结果，本文认为三类方案的比较可归纳为以下逻辑：标准256QAM适合作为规则基线；几何整形适合在保持均匀概率的前提下改善星座几何结构；概率整形则更有利于在统一星座框架内提升统计分布效率。若评价重点是信息率与中高信噪比性能，则概率整形往往更具优势；若评价重点是结构可设计性、调制格式扩展性以及与特定信道的定制匹配能力，则几何整形仍具有重要研究价值。

6 工程意义与方法局限

从工程实现角度看，标准256QAM的价值在于成熟度高、兼容性强、实现链路稳定，因此在系统设计中仍然是不可替代的基线方案。几何整形的优势则在于点位设计自由度较高，可以针对信道特征、非线性效应、相位噪声或接收算法进行面向目标的定制优化；概率整形则更适合与分布匹配、编码调制协同以及码率自适应相结合，在现代高频谱效率传输系统中展现出更强的实用吸引力。已有商业应用与实验研究也表明，几何整形和概率整形并不是非此即彼的替代关系，而是在不同系统约束下各有侧重，甚至可以进一步向联合整形方向发展。

当然，本文分析仍存在一定局限。首先，采用加性高斯白噪声信道有助于突出整形收益，但对相位噪声、非线性失真、硬件量化误差及同步误差等复杂因素尚未展开；其次，本文重点放在二维256QAM整形比较，未进一步讨论联合几何—概率整形、多维整形与分布匹配器复杂度问题；再次，广义互信息虽然是高阶调制系统的重要指标，但在具体编码、具体交织和具体软解调架构下，系统最终增益仍会受到更多实现因素影响。因此，未来更具价值的工作将是把本文的二维对比研究扩展到更复杂信道、更真实DSP链路以及更完整的编码匹配系统中。

7 结论

本文围绕标准256QAM、几何整形256QAM和概率整形256QAM三类方案，建立了统一的比较框架，并从发射星座结构、符号概率分布、误比特率、广义互信息以及接收星座聚集形态等角度进行了系统分析。研究表明，标准256QAM具有结构规则、实现成熟的优势，是高阶调制比较中的基础参考；几何整形通过优化星座点位，为改善星座几何结构和增强信道适配性提供了可行路径，但其性能发挥高度依赖点位、标签和判决方法之间的一致性；概率整形则通过引入非均匀符号分布，使离散输入更逼近理想统计特性，在误码性能和信息率性能方面通常能够体现更稳定的综合增益。对于高阶调制系统而言，星座整形不是对传统QAM的简单修饰，而是连接调制设计、编码匹配、可实现信息率与工程实现复杂度的重要桥梁。面向后续研究，围绕联合整形、自适应整形、端到端学习优化以及复杂信道下的整形鲁棒性问题，仍具有较高的理论与工程研究价值。

参考文献

[1] Alvarado A, Fehenberger T, Chen B, et al. Achievable Information Rates for Fiber Optics: Applications and Computations[J]. Journal of Lightwave Technology, 2018, 36(2): 424-439.

[2] Böcherer G, Schulte P, Steiner F. Probabilistic Shaping and Forward Error Correction for Fiber-Optic Communication Systems[J]. Journal of Lightwave Technology, 2019, 37(2): 230-244.

[3] Cho J, Winzer P J. Probabilistic Constellation Shaping for Optical Fiber Communications[J]. Journal of Lightwave Technology, 2019, 37(6): 1590-1607.

[4] Vassilieva O, Kim I, Irie H, et al. Probabilistic vs. Geometric Constellation Shaping in Commercial Applications[C]//Optical Fiber Communication Conference (OFC) 2022. Washington, DC: Optica Publishing Group, 2022: Th1H.5.

[5] Jovanovic O, Yankov M P, Da Ros F, et al. End-to-End Learning of a Constellation Shape Robust to Channel Condition Uncertainties[J]. Journal of Lightwave Technology, 2022, 40(10): 3316-3324.

[6] Sillekens E, Liga G, Lavery D, et al. High-Cardinality Geometrical Constellation Shaping for the Nonlinear Fibre Channel[J]. Journal of Lightwave Technology, 2022, 40(19): 6374-6387.

[7] Jovanovic O, Da Ros F, Zibar D, et al. Geometric Constellation Shaping for Fiber-Optic Channels via End-to-End Learning[J]. Journal of Lightwave Technology, 2023, 41(12): 3726-3736.

[8] Rode A, Geiger B, Chimmalgi S, et al. End-to-End Optimization of Constellation Shaping for Wiener Phase Noise Channels With a Differentiable Blind Phase Search[J]. Journal of Lightwave Technology, 2023, 41(12): 3849-3859.

[9] Yankov M P, Swain S, Gültekin Y C, et al. BICM-Compatible Rate Adaptive Geometric Constellation Shaping Using Optimized Many-to-one Labeling[J]. Journal of Lightwave Technology, 2024, 42(11): 4110-4123.

[10] Liang E M, Kahn J M. Probabilistic Shaping Distributions for Optical Communications[J]. Journal of Lightwave Technology, 2025, 43(4): 1501-1522.

2、仿真结果演示