相干激光通信系统中,光学系统的偏振像差会改变信号光的偏振态,降低信号光与本振光的混频效率。为了定量分析和研究光学系统的偏振特性,提出了三维偏振光线追迹算法。针对大口径相干激光通信检测平台系统,利用该算法对平台的通信系统进行偏振光线追迹,并根据追迹计算所得的偏振变换矩阵,分析了偏振像差对圆偏振信号光偏振态的影响。通过搭建实验平台,验证了平台通信系统的偏振特性。