提供了电炉17个温区的实际生产数据分别是电炉上部17组加热棒设定温度T1-1

T1-17电炉下部17组加热棒设定温度T2-1~T2-17底部17组进气口的设定进气流量V1-V17选手需要根据提供的数据样本构建模型预测电炉上下部空间17个测温点的测量温度值。

数据集介绍

初赛任务初赛提供了电炉17个温区的实际生产数据分别是电炉上部17组加热棒设定温度T1-1

T1-17电炉下部17组加热棒设定温度T2-1~T2-17底部17组进气口的设定进气流量V1-V17选手需要根据提供的数据样本构建模型预测电炉上下部空间17个测温点的测量温度值。

评估指标

初赛考核办法采用测试集各行数据的加热棒上部温度设定值、加热棒下部温度设定值、进气流量3类数据作为输入选手分别预测上部空间测量温度、下部空间测量温度。

将选手预测的上部空间测量温度、下部空间测量温度与测试集数据的测量值进行比较。

采用MAE平均绝对误差作为评价指标。

赛题分析

本次比赛为数据挖掘类型的比赛聚焦于工业场景。

本赛题实质上为回归任务其中会涉及到时序预测相关的知识。

通过电炉空间温度推测产品内部温度设计烧结过程的温度场和浓度场的最优控制律

任务输入电炉对应17个温区的实际生产数据分别是电炉上部17组加热棒设定温度T1-1

T1-17电炉下部17组加热棒设定温度T2-1~T2-17底部17组进气口的设定进气流量V1-V17

任务输出电炉对应17个温区上部空间和下部空间17个测温点的测量温度值。

值得注意的是预测目标为34个所以需要我们进行34次模型训练和预测。

同时数据规模比较小可以快速处理数据和搭建模型对于机器要求8g内存即可。

本次为结构化赛题包含电炉烧结每个时间段的流量、上下部设定温度以及预测目标上下部测量温度值。

基于LightGBM模型

在处理这个问题时我们主要考虑的是回归预测。

一种常规的解决思路是运用机器学习技术例如

LightGBM

XGBoost或者借助深度学习方法进行实践。

当我们选择自行搭建模型的路径时我们将面临更为复杂的挑战包括构建模型结构以及对数值数据进行标准化处理。

然而一个简易的解决方案可能就在我们眼前那就是直接使用现成的机器学习模型。

这种方法具有明显的优势其模型使用简单数据预处理的需求也大大减少。

数据预处理

在实施这些步骤的过程中我们需要根据模型的性质和数据的特点灵活调整确保每一步的实施都能最大化模型的预测准确性从而有效解决这个回归预测问题。

Baseline详解

train_dataset.head()test_dataset.head()设置lgb参数

参数设置

list(train_dataset.columns[-34:])

train_set,

train_test_split(train_dataset,

test_size0.2)

训练参查阅参数意义https://lightgbm.read***docs.io/en/latest/Parameters.html

lgb_params

#使用的提升方法使用梯度提升决策树gbdtobjective:

regression,

#L2正则项的权重用于控制模型的复杂度feature_fraction:

0.8,

#随机选择特征的比例用于防止过拟合bagging_fraction:

0.8,

lgb.callback.log_evaluation(period-1)

禁用训练日志输出。

进行特征工程主要是时间文本转换为时间格式生成年、日、小时、分钟等时间特征

时间特征函数

Pandas.DataFrame需要提取时间特征的数据。

pred_labels:

list,

Pandas.DataFrame提取时间特征后的数据。

data

data.copy()

添加新特征“hour”代表”当前小时“。

data[minute]

data[时间].dt.minute

添加新特征“minute”代表”当前分钟“。

data[weekofyear]

data[时间].dt.isocalendar().week.astype(int)

int否则

添加新特征“dayofyear”代表”当年第几日“。

data[dayofweek]

添加新特征“dayofweek”代表”当周第几日“。

data[is_weekend]

LightGBM

data.drop(columns[*pred_labels])

data

enhancement(train_features_raw)train_labels

labeltrain_labels)

enhancement(valid_features_raw)valid_labels

labelvalid_labels)

训练模型参数依次为导入模型设定参数、导入训练集、设定模型迭代次数5000、导入验证集、禁止输出日志model

train_data,

num_iterationmodel.best_iteration)

num_iterationmodel.best_iteration)

mean_absolute_error(valid_pred,

valid_labels)

将测试集预测数据存入最终提交数据中。

submit.to_csv(submit_result.csv,

indexFalse)

submit.to_csv(submit_result.csv,

indexFalse)

由于模型有过拟合的风险所以可以通过早停来让模型在一段时间不能得到提升后提前结束训练。

lgb中可以通过添加参数来实现。

lgb_params

#使用的提升方法使用梯度提升决策树gbdtobjective:

regression,

#使用的评价指标early_stopping_round:20,

#早停,如果20轮没有提升就停止训练min_child_weight:

10,

#L2正则项的权重用于控制模型的复杂度feature_fraction:

0.8,

#随机选择特征的比例用于防止过拟合bagging_fraction:

0.8,

尝试提取更多特征这里尝试添加交叉特征、历史平移特征、差分特征、和窗口统计特征每种特征都是有理可据的具体说明如下

3差分特征可以帮助获取相邻阶段的增长差异描述数据的涨减变化情况。

在此基础上还可以构建相邻数据比值变化、二阶差分等

4窗口统计特征窗口统计可以构建不同的窗口大小然后基于窗口范围进统计均值、最大值、最小值、中位数、方差的信息可以反映最近阶段数据的变化情况。

在时间特征函数中添加

range(1,18):data[f流量{i}/上部温度设定{i}]

data[f流量{i}]

data[f上部温度设定{i}]data[f流量{i}/下部温度设定{i}]

data[f流量{i}]

data[f下部温度设定{i}]data[f上部温度设定{i}/下部温度设定{i}]

data[f上部温度设定{i}]

data[f流量{i}].shift(1)data[flast1_上部温度设定{i}]

data[f上部温度设定{i}].shift(1)data[flast1_下部温度设定{i}]

差分特征for

range(1,18):data[flast1_diff_流量{i}]

data[f流量{i}].diff(1)data[flast1_diff_上部温度设定{i}]

data[f上部温度设定{i}].diff(1)data[flast1_diff_下部温度设定{i}]

窗口统计for

range(1,18):data[fwin3_mean_流量{i}]

data

data.fillna(methodbfill)这里要注意在平移之后第一个值会变成nan因为没有前一个值包括窗口统计的前3个值因此需要用后填充的方式将其填充。