为了实现通信系统的高链路质量和高数据速率，预编码技术在毫米波大规模MIMO系统中得到了广泛的应用。针对基于正交匹配追踪（OMP）的混合预编码存在需要已知候选矩阵和矩阵求逆的问题，提出了一种基于鸟群算法（BSA）的MIB-OMP混合预编码。该算法利用BSA的快速搜索全局最优值的特点直接搜索与残差的内积相乘最大的阵列响应矢量，从而无需已知候选矩阵，同时利用Banachiewicz-Schur分块矩阵广义逆将高维度矩阵转换为低维度矩阵计算，从而避免矩阵求逆。仿真结果表明，所提的算法在无需已知候选矩阵和矩阵求逆的条件下，系统的频谱效率和误码率与基于OMP的混合预编码相比性能略有提升。