0 引言

联合国粮农组织发布的《2022全球粮食危机报告》指出:在2021年有53个国家或地区约1.93亿人经历了粮食危机．在百年未有之大变局下，准确预测粮食产能有利于保障粮食安全，对国民经济、国家规划以及安全稳定有重要意义．

目前，关于粮食产能的预测大多采用统计模型^[1]、灰色理论^[2]、回归模型^[3]等．Verma等^[4]采用基于天气参数的统计模型预测甘蔗产量，通过加权天气指数降低预测误差; Bouras等^[5]开发了将遥感干旱指数与气候和天气变量相结合的早期机器学习预测模型，提高了预测性能; 王秀^[6]通过粮食产量的主要因子，建立灰色GM（1，N）预测模型，更好地拟合了粮食产量的发展趋势; 戎陆庆等^[7]使用BP神经网络对广西省粮食产量进行预测，证明了BP神经网络的预测可行性．这些算法对长时间数据具有一定的依赖性，使其预测能力受到限制．长短期记忆神经网络（Long Short-Term Memory，LSTM）克服了上述缺点^[8]．郭佳丽等^[9]采用改进的LSTM对流量进行预测; 戴秉佑等^[10]建立了多维高速公路路标温度的LSTM预测模型．单一模型面临超参数众多以及迟滞等问题，直接影响模型的预测性能，所以众多学者提出了组合预测模型^[11-15]．高超等^[16]采用黑猩猩算法寻找LSTM的最优参数，提高短期负荷的预测精度; 许美贤等^[17]利用粒子群算法优化BP神经网络和支持向量机，有效地提升了抗乳腺癌药物性质的预测性能; 韩莹等^[18]融合了LSTM与宽度学习系统使模型在运算效率未降低的情况下提升了预测性能; 黄琦兰等^[19]通过差分进化算法优化最小二乘支持向量机的主要参数，建立了粮食产量的预测模型．

上述预测方法未考虑到不同特征对预测结果有不同程度的影响，难以区分主次特征，也未考虑到LSTM网络层数的影响以及会造成信息丢失的情况．因此，本文在LSTM中加入注意力机制（Soft Attention Mechanism，SAM），来提升粮食产能相关性较大特征的重要性，运用改进后的秃鹰算法（Dynamic Weights and Laplacian variation of Bald Eagle Search Optimization Algorithm，WLBES）优化LSTM的超参数，对粮食产能进行预测，然后通过岭回归（Ridge Regression，RR）对预测结果进行残差修正，弥补LSTM本身信息丢失的情况．研究结果表明，与其他模型相比，WLBES-LSTM-RR组合模型均方根误差（RMSE）、平均绝对误差（MAE）以及平均绝对百分比误差（MAPE）均为最优，说明其具有更高的预测精度，有效地解决了粮食产能预测上难以区分主次特征和LSTM本身的问题．

1 基础框架

1.1 秃鹰优化算法（BES）

秃鹰优化算法是Alsattar等^[20]通过观察秃鹰的捕食过程提出的一种模拟秃鹰狩猎的群智能优化算法，算法分为3个阶段:

1）选择阶段

秃鹰在选定的搜索空间内通过猎物的数量来确定搜索的位置，以全局最优位置、种群平均位置以及个体位置作为先验信息．该阶段的数学描述为

式中:α 是控制位置变化的参数，取值范围是[1.5，2]; r 是（0，1）的随机数; P_best 是到目前为止全局最优的位置; P_mean 是种群内所有个体的平均位置; P_i 是第i 只秃鹰目前所在的位置．

2）搜索阶段

秃鹰会在选定的搜索区域内加快搜索进程，以螺旋的方式朝不同的方向移动来搜索猎物，同时为了寻找最佳的俯冲捕捉位置，螺旋飞行的数学模型通过极坐标方程的方式进行位置更新．该阶段的数学描述为

式中:a 是控制螺旋飞行的角度参数，取值范围是[5，10]; R 是控制螺旋飞行的圈数参数，取值范围是[0.5，2]; x（i）和y（i）是秃鹰在极坐标下的位置; rand 是（0，1）的随机数．

3）俯冲阶段

秃鹰会从搜索阶段的最佳位置快速俯冲向猎物，并且所有的个体都会向全局最优的位置移动，而在俯冲阶段同样采用极坐标方程描述秃鹰在俯冲时的运动．该阶段的数学描述为

式中:c₁ 和c₂ 分别是秃鹰向全局最优位置和中心点的运动强度，取值范围是[1，2]．

综上所述，BES在每一阶段结束均会进行适应度值的计算，并更新全局最优，其总共进行3次适应度函数的计算，所以相对于其他优化算法会拥有比较好的收敛速度以及优化性能．但是该算法本身存在全局搜索能力较差和容易陷入局部最优的问题．

1.2 长短期记忆网络（LSTM）

LSTM是由Hochreiter^[21]提出的针对循环神经网络（RNN）难以在长序列中传递远程信息而导致的梯度消失和梯度爆炸问题的一种变体．其核心概念在于细胞状态以及各种‘门’控结构，主要包含遗忘门、输入门以及输出门3个门控单元．LSTM基本结构如图1所示．

细胞状态通过3个门控单元进行递归传递信息，从而实现细胞状态信息的更新以及信息的长期保存．遗忘门决定遗弃前一层无用的信息; 输入门决定新输入的信息中有用的会被保留; 输出门将经过遗忘门和输入门更新后的细胞状态以及隐藏状态整合作为当前时刻的输出．细胞状态以及各门的表达式如下:

式中:*表示哈达马积．

LSTM因为细胞状态的存在，能够在其他单元传递信息的过程中保持长时序列特征或信息不变，解决了RNN的信息传递会随时间间隔太长而不断衰减的问题，因此，LSTM更适合处理时间序列数据．但是LSTM对较长时序的数据仍存在丢失数据的情况．

2 WLBES-LSTM-RR组合预测模型

组合预测模型的基本思路是将模型的主要影响因素和其他影响因素分为两部分预测，由WLBES-LSTM模型计算主要影响因素与粮食产能的映射关系，通过RR模型预测前一个模型中受其他影响因素影响的残差序列，将两部分的预测结果组合完成对粮食产能的预测．

2.1 超参数优化部分

LSTM的超参数设置对模型的性能至关重要，所以提出一种WLBES算法对模型的超参数进行寻优，从而提高模型的预测精度．WLBES算法相较于传统的BES算法有以下改进:1）搜索阶段加入Levy飞行来提高算法的全局搜索能力; 2）俯冲阶段对全局最优位置融入拉普拉斯变异提升跳出局部最优的能力; 3）通过拉普拉斯和高斯混合动态权重平衡全局搜索和局部搜索，加快收敛速度．

2.1.1 Levy飞行

Levy飞行^[22]以法国数学家保罗·莱维命名，指的是步长的概率分布为重尾分布的随机行走，主要是以小步移动为主，在其中会有大跨步的移动，这就使得随机行走时不会重复一个地方搜索，能够加大搜索的范围．尽管它的运动方向是随机性的，但是其运动的步长是按照幂次律分布的．搜索阶段位置式（2）更新为

式中:α 是步长的控制量，此处设置为0.01; Levy（β）是莱维飞行步长，其计算公式如下:

式中:u，v 满足正态分布，u~N（0，σ²_u），v~N（0，σ²_v）．σ_u，σ_v 定义如下:

式中:β 的取值范围是（0，2），此处取值为1.5．

2.1.2 动态权重以及拉普拉斯变异

拉普拉斯分布^[23]是一种连续的概率分布，其中心点两边近似由两个指数分布背靠背拼在一起，所以它又被称为双指数分布．它还能够设置任意一点概率分布的峰值，概率密度函数公式如下:

式中:μ 是拉普拉斯的期望，并且在该点达到极大值．

高斯分布^[24]又称正态分布，它与拉普拉斯一样都是一种连续的概率分布，并且它的图像分布与拉普拉斯近似，都是由中心点向两边下降，不过它是一种平滑的曲线，概率密度函数公式如下:

式中:μ 是高斯的期望，此点是分布的均值．

相比较高斯分布，拉普拉斯分布的随机变量出现极端大的值的概率要远远大于正态分布，借此选取拉普拉斯分布对全局最优位置进行变异，使之跳出局部最优更为有效，其式（6）中全局最优更新如下:

为了平衡前期全局搜索和后期局部搜索的能力，将高斯和拉普拉斯混合策略作为动态权重引入到俯冲阶段，结合式（21），俯冲阶段位置式（6）更新公式为

式中:t 是当前迭代次数; t_max 是最大迭代数．因为拉普拉斯随机数相对高斯随机数会有更大的随机范围，有大概率出现极端大值，所以在迭代前期选取较大的权重系数在空间中探索更多的未知解以及更优解; 而在迭代后期，拉普拉斯随机数权重系数变小，高斯随机数权重系数变大，能够在最优解附近搜索更优解，以增强秃鹰优化算法后期的局部搜索能力，并且对后期收敛速度影响比较小．

2.2 预测部分

粮食产能每个特征对预测结果的影响都是不同的，所以为了聚焦主要特征，降低次要特征的影响，在LSTM网络中加入注意力机制.除此之外，LSTM网络本身对较长时序的数据仍会存在信息丢失的情况，利用岭回归的残差修正弥补LSTM模型的缺陷，同时还能够抑制残差带有的共线性问题．

2.2.1 注意力机制（SAM）

注意力机制广泛应用于自然语言处理、图像检测等方面，其本质是实现信息处理资源的高效分配．以高权重聚焦主要特征，以低权重降低次要特征的影响，使其能够在不同的情况下区分主次特征，从而提高预测的精度．SAM计算公式^[25]如下:

式中:Q是查询向量，K是序列数据的地址，V是K中的数据值．

SAM的计算步骤^[26]如下所示:

1）根据Q和K计算两者相似度

式中:S_ij 是数据i，j 之间的相似度; F 是计算相似度的方法公式，此处采用小型神经网络拟合相似度计算并结合步骤2）进行归一化．

2）用softmax函数进行归一化

式中:α_ij是进行归一化后的相似度; softmax（）是归一化函数．

3）加权求和

式中:w_i 是经过加权求和后的权值．

步骤1）中计算Q和K的相似度所得到的数值取值范围不一样，就需要在步骤2）中进行softmax函数归一化，将原始计算的相似度归一化成权重和为1的概率分布，通过softmax函数的内在机制突出所需要的主要特征的权重，最后将所得到归一化后的相似度与数据值进行加权求和即可得到注意力权重．由此就可使主要特征得到高权重，将低权重分配给次要特征．

2.2.2 岭回归残差修正

岭回归^[27]实际上是一种改良的最小二乘法，它放弃了最小二乘法的无偏估计，损失部分信息，导致其方程的R²通常会稍低于普通的最小二乘法，但其估计的偏回归系数就会更接近真实情况，从而提高回归模型的稳定性和可靠性，对于病态数据具有较好的效果．而且岭回归主要用于解决多重共线性，有助于提升对残差序列的预测精度．

一般的线性回归数学模型比较简单，在拟合上有比较广泛的应用，在求解线性回归问题中的最优拟合参数是由最小二乘法决定，又称为最小二乘法回归模型．但是当它的输入矩阵不是列满秩或者一些列之间线性相关性比较大时，就会导致误差很大．传统的最小二乘法缺乏稳定性和可靠性，使其在实际的应用当中受到一定的限制．

式中:X为自变量，Y为X对应的因变量．

岭回归就是在式（28）基础上增加一个L2正则化，解决最小二乘法的缺陷，加入岭回归系数对角矩阵，使矩阵的特征值变大，从而有效地提高稳定性，使其更加接近真实情况．岭回归的最优拟合参数为

式中:α 为岭回归系数，I 为单位矩阵．当α=0 时就是最小二乘法．

针对残差序列中具有一定的共线性，通过岭回归对其共线性进行抑制，提升残差序列的预测精度，从而提升整体模型的预测精度，对WLBES-LSTM预测模型进行残差修正．

2.3 组合模型建立

组合模型能够利用不同的预测模型的优点弥补其他模型存在的缺陷，LSTM网络具有良好的处理时间序列的能力，但是其众多超参数需手动设置，而WLBES算法具有较好的收敛速度以及寻优性能，用其对LSTM进行参数优化，有效地解决手动试参的过程.随后通过岭回归抑制LSTM网络预测的残差序列中存在一定程度共线性问题和弥补信息丢失的情况，实现模型之间的互补．WLBES-LSTM-RR预测模型的流程如图2所示．

基于WLBES-LSTM-RR组合预测模型流程如下:

1）WLBES超参数寻优．根据数据量的不同，LSTM网络中LSTM层、Dense层以及神经元的个数对模型结果具有较大的影响，所以将其作为WLBES算法的寻优超参数，通过不断的迭代计算出最佳超参数．

2）LSTM训练与预测．选取与粮食产能相关性较强的特征作为输入，划分训练集与预测集; 通过注意力机制以高权重聚焦主要特征，降低次要特征的影响; 利用WLBES算法得到的最优超参数进行训练，分别得到训练集的预测值与实际值的残差以及预测集的预测值．

3）岭回归残差修正．将通过LSTM网络计算得到的残差序列作为输入，划分训练集和预测集，然后采用交叉验证法评估出最优的岭回归系数，建立岭回归预测，得到LSTM训练集残差的预测值．

4）计算组合模型预测结果．组合模型的预测结果为LSTM预测结果与岭回归残差预测结果之和，并将RMSE、MAE、MAPE作为评价指标．

3 研究结果与分析

3.1 标准测试函数实验

为了验证WLBES的性能，选取表1所示的10个测试函数作为适应度函数进行测试，其中:f₁~f₅为单峰函数，用来测试算法的收敛速度和收敛的精度; f₆~f₁₀为多峰函数，用来测试算法的全局搜索和跳出局部最优的能力．为了使实验的结果具有客观性和公正性，将种群数设置为30，最大迭代次数为1 000，上下界根据测试函数的区间确定．选取鲸鱼优化算法（Whale Optimization Algorithm，WOA）、粒子群优化算法（Particle Swarm Optimization Algorithm，PSO）、正余弦优化算法（Sine Cosine Algorithm，SCA）、麻雀搜索算法（Sparrow Search Algorithm，SSA）、灰狼优化算法（Grey Wolf Optimizer，GWO）以及BES算法与WLBES算法进行比较验证．所有算法的共有参数均保持一致，其他非共有参数如表2所示．

表3整理了表1中的测试函数经过30次独立运算后与其他经典智能优化算法的结果．结果表明:在单峰函数中，对于函数f₁~f₅，WLBES均能够在200次以内收敛，寻到了函数最优值，平均值和标准差均为0，尤其f₁和f₃，WLBES在100次以内就能够收敛，而SCA、GWO、WOA、SSA、PSO均未能够收敛寻到最优值，WLBES表现更优; 相对于BES算法，WLBES算法在收敛速度上有了明显的提升; 在f₅中，BES算法出现未收敛的情况，而WLBES仍旧寻到了最优值，提升了BES算法的全局搜索能力．在所有的单峰函数中，WLBES均能够收敛，且收敛次数最低，证明了Levy飞行提高全局搜索能力的有效性，极大地提升了WLBES的收敛速度和收敛精度．

在多峰函数中，从收敛次数来看:函数f₇和f₉，WLBES均能够在3次以内收敛，寻到最优值，并且平均值和标准差均为0，SCA、GWO、WOA、SSA、PSO收敛速度与WLBES有较大的差距或未能收敛，BES能够在6次以内收敛，但仍与WLBES有一定的差距; 对于函数f₆，WLBES、BES和SSA相比其他3种算法能够寻到更优值; 对于函数f₈，WLBES、BES、WOA最优值、平均值以及标准差均相同，SSA最优值相同，但是具有较大的波动性，其他算法表现较差; 对于函数f₁₀，WLBES领先SCA、GWO、WOA、SSA、PSO算法10个量级以上，相对于BES算法，寻优结果相同，但是其波动性更小更稳定，提升了BES算法跳出局部最优的能力．在所有的多峰函数中，WLBES在函数f₇、f₉以及f₁₀寻优中具有极大的优势，在f₆和f₈中优势较小，足以证明混合动态权重能够平衡全局搜索和局部搜索的能力和拉普拉斯变异的有效性，使WLBES能够更快地跳出局部最优．

WLBES在5个单峰函数中均表现出其优秀的寻优能力，证明该算法有极好的收敛速度以及收敛精度，能够以较短的次数寻到函数最优值; 而在5个多峰函数中，其表现没有在单峰函数中突出，但是相比其他算法有着更好的全局搜索能力和跳出局部最优的能力，从而证明了Levy飞行、拉普拉斯变异以及混合动态权重的有效性．

3.2 预测模型实验

3.2.1 输入变量与实验设置

实验测试环境基于Windows 10，运行内存8 GB，处理器为i5-8300H CPU @ 2.30 GHz，用Python3.8以及Pycharm2022.2.1进行仿真实验．

因为人均粮食产量能够体现出我国粮食的生产能力，所以选取人均粮食产量（kg/人）作为预测目标，将粮食总产量（万t）、总人口（万人）、农作物播种总面积（10³ hm²）、粮食单位面积产量（kg/（10³ hm²））、粮食作物播种面积（10³ hm²）、受灾面积（10³ hm²）以及成灾面积（10³ hm²）作为其影响因素，数据源自国家统计局1950—2021年的统计年鉴，其中:1950—2010年数据作为训练集，2011—2021年数据作为预测集．MAPE、RMSE以及MAE作为评价指标，公式如下:

因为数据集为小样本数据，所以LSTM层数和Dense层数分别设置为1~3层，神经元的个数范围为（1，256），利用WLBES进行寻优．通过多次实验取最优值，LSTM网络的迭代训练设置为100，批次大小设置为16，学习率采取自适应下降学习率．为了测试加入SAM层WLBES-LSTM预测模型的预测精度，同时验证WLBES对LSTM的寻优性能，选取BES-LSTM、WOA-LSTM、PSO-LSTM以及GWO-LSTM进行比较．

3.2.2 WLBES-LSTM时序预测

对粮食相关数据进行处理后，通过各模型进行寻优得到预测结果（表4），可以看出GWO-LSTM、WOA-LSTM以及PSO-LSTM模型对粮食产能的预测结果皆不太理想，而WLBES-LSTM预测模型的RMSE、MAE、MAPE分别为23.798、23.293 kg/人和5%，其各项评价指标均为最优，但是误差还是较大，相对于BES-LSTM模型有较大的提升，这表明在相同的实验条件下，WLBES-LSTM模型对整体变化趋势反应更加灵敏，预测精度高于其他模型．

通过实验验证，结合表4和表5可看出加入SAM层对不同的特征施加不同的权重后各个模型的预测精度明显有所提升，WLBES-LSTM预测模型的RMSE、MAE以及MAPE分别减小了15.776、16.646 kg/人和3.6个百分点，RMSE和MAE减到了10 kg/人以内，而其他模型均在10 kg/人以上．说明通过SAM层对粮食产能主要特征施加高权重，能够有效提升该预测模型的预测精度，降低了次要特征对预测结果的影响．

3.2.3 组合模型预测结果分析

通过计算WLBES-LSTM预测模型的预测值与岭回归残差预测的结果之和，得到2011—2021年的粮食产能预测值．与此同时，利用支持向量回归模型（Support Vector Regression，SVR）、差分自回归移动平均模型（Autoregressive Integrated Moving Average Model，ARIMA）、LSTM模型和WLBES-LSTM模型与其进行对比，以上3种LSTM模型中均加入了SAM层，从而得到5种预测模型的预测评价指标和平均运行时间．

由表6可以看出，WLBES-LSTM-RR组合模型的各项评价指标均表现最优，从侧面反映出其拟合效果最好，精确度最高，而单一模型SVR、ARIMA和LSTM与之相比有较大差距，误差较大，充分证明了该组合模型的预测效果比单一模型和WLBES-LSTM模型更优．WLBES-LSTM-RR组合模型的RMSE和MAE相比较WLBES-LSTM分别降低了19%、13%，说明通过岭回归残差修正能够有效地降低误差，弥补LSTM信息丢失的情况，提高了组合预测模型的预测精度．同时，可以看出WLBES-LSTM-RR组合模型的平均运行时间最长，这是因为在寻优过程中LSTM的层数不同会对运行时间造成影响，但是极大地提升了预测精度，在粮食产能预测上，预测精度优先级较高，所以该运行速度在可接受范围内．

为了让实验结果对比更明显，图3展示了各模型的整体预测结果，可以看出WLBES-LSTM-RR组合模型预测结果整体更加接近实际值，与实际值的折线吻合程度最好; 而单一模型均在实际值的折线下方，不在实际值的区间范围，拟合程度与之相比具有一定的差距．由以上分析可知改进的秃鹰算法具有很好的寻优效果，加入的注意力机制能够充分地聚焦主要特征，而岭回归残差修正有效地弥补了LSTM模型本身的缺陷和对残差共线性的抑制．因此，WLBES-LSTM-RR组合预测模型在粮食产能预测上具有更高的预测精度和更稳定的预测性能．

4 结论

本文提出一种数据驱动的WLBES-LSTM-RR组合预测模型对粮食产能进行预测．通过引入动态权重和拉普拉斯变异提升BES算法的寻优性能; 针对预测粮食产能难以区分主次特征和LSTM本身存在的问题，在LSTM中加入注意力机制以权重大小区分主次特征; 将改进的秃鹰算法（WLBES）用于LSTM网络参数寻优，最后通过岭回归残差修正进一步提升预测精度，从而实现粮食产能预测．研究结果表明，WLBES-LSTM-RR组合预测模型对粮食产能的预测与单一模型和WLBES-LSTM相比，RMSE、MAE以及MAPE最低，而且与实际值的折线吻合程度最好．表明本文模型具有更高的预测精度和更稳定的预测性能，并且预测误差最小．但是在模型训练、计算的过程中，如果时间跨度较大，在寻优的过程中选取的网络层数较多，就会导致计算所需时间较长，因此在今后的研究需要做更深入的探讨．

参考文献