特征重要性评估：计算每个变量对结果变量的显著性

使用随机重排评估特征重要性

该方法通过随机重排每个特征列的数据来评估其对结果变量的影响程度。

代码示例:

for feature in X_train.columns:
    X_temp = X_test.copy()
    X_temp[feature] = X_temp[feature].sample(frac=1).reset_index(drop=True)
    y_pred_temp = rf.predict_proba(X_temp)[:, 1]
    print(f'{feature}: {abs(y_pred_temp - y_pred).mean()}')

代码解释:

1. 遍历每个特征列: 使用 for 循环遍历 X_train 数据集的每个特征列。
2. 复制测试数据集: 使用 copy() 方法复制 X_test 数据集，并将其命名为 X_temp。
3. 随机重排特征数据: 对 X_temp 中的当前特征列进行随机重排，并重置索引。这可以通过 sample(frac=1).reset_index(drop=True) 实现。
4. 使用重排后的数据进行预测: 使用随机重排后的 X_temp 数据集进行预测，得到新的预测结果 y_pred_temp。
5. 计算显著性指标: 计算 y_pred_temp 和原始预测结果 y_pred 之差的绝对值的平均值。这个指标反映了当前特征对预测结果的影响程度，数值越大表明该特征越重要。
6. 输出结果: 输出每个特征列的名称和对应的显著性指标值。

总结:

通过随机重排特征数据并比较预测结果，可以评估每个特征对结果变量的显著性，从而帮助理解特征的重要性，并进行特征选择或模型优化。