Relief-F 算法是由 Kononenko 在 Relief 算法基础上扩展得到的，可以用来解决多分类与回归问题。 Relief-F 特征选择算法利用特征与类别间的相关程度判别特征的敏感程度，敏感的特征能使同类样本靠近，非同类样本远离。基本思想是： 先随机从总样本集 D中获取一个样本 R， 然后在 与 R 同类样本集中和与R 异类 样 本 集 中 各 获 取 k 个近 邻 样 本， 在 特 征 集 F中如果某个特征上异类样本的距离大于同类样本，则这个特征是有利于分类的，增加其权重，重复 n 次 取所有结果的均值作为每个特征的最终权重值.