应用程序系统调用的执行序列可以体现出应用程序运行的行为特征，因此通过检测系统调用可以进行异常检测。针对已有算法模式库规模比较大的不足，提出了一种基于遗传算法的系统调用异常检测方法。首先用滑动窗口将系统调用序列划分成长度固定的短序列，然后用遗传算法对系统调用短序列进行学习，建立模式库，用单模式不完全匹配方法对测试数据进行检测。实验表明该方法达到了较好的检测效果。