H.264采用整数DCT变换，避免了反变换中的误匹配问题，与传统的DCT变换相比它加快了变换速度，且加易于硬件实现。本文分析了H.264的整数DCT变换的原理和蝶形快速算法，并使用MATLAB软件对蝶形快速算法进行了软件验证。针对DSP的硬件特点和专有指令，使用汇编语言实现了H.264整数变换的优化。