为了补偿激光外差干涉纳米测量中的非线性误差,提出了一种减小非线性误差的一次谐波方法。基于全反射理论分析了镀膜实体角锥棱镜反射光偏振特性,并由此推导出角锥棱镜反射光偏振特性及测量角锥棱镜以其运动方向为轴线的轴向旋转对激光外差干涉非线性误差一次谐波的影响模型。理论分析表明,测量角锥棱镜以其运动方向为轴线的轴向旋转会减小非线性误差一次谐波,当测量角锥棱镜轴向旋转97°时,可使非线性误差一次谐波达到最小,约为原有非线性误差一次谐波分量的1/20倍。当激光器出射的两束线偏振光存在6°非正交误差时,镀膜实体测量角锥棱镜轴向旋转角度从0°增加到97°,非线性误差一次谐波由5.30 nm减小到0.30 nm。