针对惯性传感器信号处理的特点，提出了基于稀疏表示的信号滤波处理系统模型和方法。通过K-SVD算法对信号学习训练获得字典，为了减少计算量，满足实时性，尽量降低字典的大小，仿真结果表明，在满足一定精度的条件下，字典的大小最小为3×10。在该字典下对信号进行稀疏表示和重构，改变信号的输入方式，可以实现信号的实时滤波。仿真结果表明提出的滤波方法能有效地消除噪声，改善输出信号精度，可以提高信噪比最大为4.5dB。该滤波方法与传统的滤波方法相比有较大的优势，为惯性传感器信号处理提供了一种新的方法。