夜雨聆风学习资料网

ARTICLE · 1212443

附:技术文档——ES-L₀-ELM

附:技术文档——ES-L₀-ELM

原文:Tourism Demand Prediction With Tourist-Generated Images and Text: An Ensemble Sparse ELM Approach

期刊:Journal of Forecasting,2026年

本文定位:面向科研人员与 AI 科研智能体的算法方法论材料。目标是完整说明原文的研究任务、数据处理、特征构建、数学模型、优化过程、集成策略、实验验证与可改进方向,使读者能够理解算法的完整运行逻辑,并为后续程序复现与方法创新提供依据。

一、首先明确:这篇论文的算法究竟解决什么问题?

论文研究的是每日旅游需求预测。作者希望根据历史游客数量、天气、节假日、搜索指数、网络评论和游客照片,预测未来某一天的游客数量。

传统预测模型通常直接利用历史客流、天气等数值变量。本文进一步把网络评论和游客照片转化为预测变量,并设计了一个稀疏集成预测框架,称为 ES-L₀-ELM。

整个方法包含三个层次。

第一层是信息处理:将原始数据转换成模型能够计算的数值特征。

第二层是单个预测模型:使用极限学习机(ELM),再加入 L₀ 正则化和 ADMM 优化机制,形成 L₀-ELM。

第三层是集成预测:训练多个 L₀-ELM 模型,筛选预测误差较小且预测结果具有一定差异的模型,再进行加权汇总。

因此,ES-L₀-ELM 的完整逻辑是:

原始数据 → 特征提取与对齐 → 构建训练矩阵 → 训练多个 L₀-ELM → 模型筛选 → 权重计算 → 最终预测 → 样本外评价。

必须注意,论文使用的 ELM、L₀ 正则化和 ADMM 都有既有研究基础。本文的主要方法贡献,是把这些机制与游客图像、文本特征结合起来,构成一套面向多源旅游需求数据的预测框架。

二、数据层:所有变量怎样进入模型?

2.1 预测目标

设第 t 天的实际游客数量为 yₜ。

模型的任务是利用预测时点能够获得的信息,计算未来某一天的游客数量:

ŷₜ₊ₕ = f(Xₜ)

其中:

  • yₜ:第 t 天的实际游客数量。

  • h:预测提前期。

  • Xₜ:预测时点 t 已经能够获得的输入信息。

  • ŷₜ₊ₕ:对 t+h 时点游客数量的预测值。

这只是用于统一理解预测任务的通用表达。原文还通过搜索指数与情感分数的滞后相关性,分别确定相关变量的时间对齐方式。

2.2 数据来源与时间范围

论文收集了2023年2月22日至2024年9月30日的每日数据。

主要数据包括:

  1. 九寨沟官方网站提供的每日游客数量。

  2. 2345天气提供的天气数据。

  3. 日历提供的工作日、周末和节假日信息。

  4. 百度指数提供的景区相关搜索数据。

  5. 携程和微博提供的评论文本、评论日期和图片数据。

网络评论样本共47,377条。

论文还使用四姑娘山的数据检验模型在另一个旅游目的地上的表现。

九寨沟实验的主要时间划分为:

  • 训练与参数优化期:2023年3月1日至2024年6月6日。

  • 测试期:2024年6月7日至2024年9月30日。

原始数据从2023年2月22日开始收集,为前期变量构造和时间对齐提供数据。

2.3 数值变量处理

天气变量包括每日最高气温、最低气温和天气状况。

天气状况采用独热编码,避免将“晴、多云、阴、雨”等类别错误地视为具有固定数值间距的变量。对于同一天存在多种天气描述的情况,作者选择其中较不利的天气状况。

论文将天气类别按照由有利到不利的顺序处理:

晴、多云、阴、小雨或小雪、中雨或中雪、大雨或大雪。

节假日变量分为工作日、周末和节假日三个类别,同样采用独热编码。每一天只有一个类别取值为1,其余为0。

历史游客数量采用过去7天的游客人数作为输入变量。

例如,预测第 t 天的游客数量时,可以用前7天的实际游客人数构造:

TVₜ = (yₜ₋₇, yₜ₋₆, …, yₜ₋₁)

这里的核心是严格区分预测时点和预测目标。任何在预测时点尚未发生、尚未公布或尚不可获得的信息,都不能提前进入模型。

2.4 搜索指数:先选关键词,再确定时间滞后

作者从“九寨沟”这一种子关键词出发,扩展出与景区有关的搜索词,包括旅游攻略、地图、门票、天气等。

为什么不能直接把所有关键词全部放进模型?

因为部分关键词可能与客流关系较弱,或者其搜索高峰与实际游客到访时间存在明显错位。

因此,作者使用 Pearson 相关系数筛选关键词,并寻找每个关键词与客流之间的最佳滞后期。

设第 m 个搜索关键词在日期 t 的搜索指数为 sₘ,ₜ,候选滞后期为 h。

首先,将搜索指数与相应滞后期的游客数量对齐,再计算相关系数:

rₘ,ₕ = Corr(sₘ,ₜ₋ₕ, yₜ)

然后确定最佳滞后期:

hₘ* = arg maxₕ rₘ,ₕ

作者使用预设相关系数阈值筛选关键词,文中举例的阈值为0.5。只有满足相应正相关筛选条件的关键词才会保留。

这里有三个必须区分的概念:

  • 关键词筛选:判断某个搜索词是否具有足够强的相关性。

  • 滞后选择:判断搜索指数提前多少天与客流关系最强。

  • 预测建模:利用筛选后的搜索变量,学习它们与未来客流之间的关系。

相关系数只反映线性关联,不足以证明搜索行为对客流存在因果影响。

最重要的防泄漏要求是:关键词筛选与最佳滞后期的选择只能使用训练期数据。不能利用测试期的真实游客数量确定这些参数。

2.5 评论文本:从每条评论到每日情感分数

作者使用预训练的中文 RoBERTa 情感分析模型处理评论。

每条评论经过模型后,得到一个连续的情感分数。原文说明该分数通常位于0至1之间,数值越高表示情感倾向越积极。

设第 t 天共有 nₜ 条评论,每条评论的情感分数为 δₜ,ⱼ。

当天的平均情感分数为:

textₜ = (1 / nₜ) × Σⱼ₌₁ⁿᵗ δₜ,ⱼ

如果当天没有评论,该指标如何处理,需要在实际实现时明确规定。不能在程序中未经说明就把缺失情感分数当成真实的中性情绪。

作者同样通过 Pearson 相关分析,确定每日平均情感分数与游客数量之间的最佳滞后期。

需要注意,本文提取的是整体情感倾向,并没有将评论进一步划分为景观、交通、设施、服务等细分主题。

2.6 游客图片:从原始照片到4096维特征

图像处理使用预训练的 VGG16 卷积神经网络。

具体过程如下:

第一,将每张图片调整为224 × 224像素,并进行相应的张量转换与归一化。

第二,加载在 ImageNet 上预训练的 VGG16 权重,不再对其进行额外微调。

第三,移除最后的1000类别输出层,从第二个全连接层 fc7 的 ReLU 激活输出中提取4096维图像特征。

因此,每张照片都会转化成一个4096维向量:

Imgₜ,ⱼ ∈ ℝ⁴⁰⁹⁶

如果第 t 天共有 vₜ 张图片,作者对当天所有图片的特征逐维取平均:

Imgₜ = (1 / vₜ) × Σⱼ₌₁ᵛᵗ Imgₜ,ⱼ

没有图片的日期,使用4096维零向量表示。

这一步需要特别理解:4096维向量中的各个数值,并不直接代表游客人数、景观质量或道路拥挤程度。它们是预训练图像网络从照片中提取的抽象视觉特征。

作者没有逐张图片进行人工标注,也没有直接识别每张图片中包含多少游客。模型利用这些抽象特征学习与客流预测有关的统计关系。

2.7 图像相关预测变量:为何还需要一个神经网络?

作者没有把4096维图像特征直接全部拼入最终的 ELM。

他们另外训练一个神经网络,学习每日图像特征与未来游客数量之间的关系。

其结构为:

4096 → 2048 → 128 → 1

两个隐藏层分别有2048和128个神经元,使用 ReLU 激活函数;输出层为一个线性神经元。

训练设置包括:

  • 优化器:Adam。

  • 学习率:0.005。

  • 训练轮数:200。

  • 损失函数:均方误差 MSE。

其预测目标与图像特征的时间对齐,依据前述滞后相关分析得到的最佳提前期进行确定。

可以将图像网络表示为:

imageₜ = g(Imgₜ; θ)

其中,θ 是神经网络的参数,imageₜ 是由图像特征产生的预测变量。

这里需要区分两个模型:

第一,图像神经网络负责将每日图像特征转化为一个与未来客流相关的数值。

第二,ES-L₀-ELM 将这个图像相关预测变量与其他数值、情感和搜索变量结合,预测最终的游客数量。

这意味着图像特征在进入最终模型之前,已经经过了一次有监督的预测转换。

这一设计有助于降低最终模型需要直接处理的图像特征维度,但也带来一个值得复现时重点检查的问题:训练期图像相关预测变量来自同一训练样本上拟合的神经网络输出。此类训练内预测可能过于贴合训练数据。改进实现时,可以考虑采用时间序列交叉验证或滚动式样本外预测生成训练期图像变量,降低二阶段建模中的过拟合风险。

三、特征矩阵:最终预测模型究竟吃进了什么?

完成数据处理后,作者将以下变量组合起来:

变量组
输入内容
历史客流
过去7天游客数量
搜索信息
保留关键词在各自最佳滞后期的搜索指数
天气信息
最高气温、最低气温及6个天气类别变量
日历信息
工作日、周末、节假日3个类别变量
评论数量
每日评论总数
图片评论数量
每日含图片的评论数量
图片数量
每日图片总数
文本信息
每日平均情感分数
图像信息
图像神经网络产生的图像相关预测变量

所有特征经过 Min-Max 归一化后进入预测模型。

一般形式为:

x′ = (x − x_min) / (x_max − x_min)

其中,x_min 和 x_max 是训练数据中相应变量的最小值和最大值。

论文使用训练期数据计算归一化参数,再将这些参数应用于测试期。实际编程时,若某一变量在训练集中取值恒定,还需要单独处理分母为零的情况。

最终训练矩阵可写为:

X = [x₁ᵀ;x₂ᵀ;…;xₙᵀ]

Y = (y₁, y₂, …, yₙ)ᵀ

X 的每一行代表一个日期的输入特征,Y 则代表相应的实际游客数量。

模型需要学习的,就是从 X 到 Y 的预测映射。

四、基础模型:ELM 的数学原理

ELM 是一种单隐层前馈神经网络。

它的核心特点是:隐藏层的输入权重和偏置随机初始化并固定,随后通过线性最小二乘方法求解输出权重。

设:

  • N 为训练样本数量。

  • D 为输入变量维度。

  • G 为隐藏层节点数量。

  • A 为输入层到隐藏层的随机权重矩阵。

  • b 为隐藏层随机偏置向量。

  • g(·) 为隐藏层激活函数。

  • β 为隐藏层到输出层的权重向量。

对第 i 个样本,隐藏层输出为:

hᵢ = g(Aᵀxᵢ + b)

原文的算法伪代码使用 Sigmoid 激活函数构建 ELM 隐藏层。

将全部样本的隐藏层输出组合成矩阵 H:

H = [h₁ᵀ;h₂ᵀ;…;hₙᵀ]

模型预测值为:

Ŷ = Hβ

ELM 通过求解以下最小二乘问题获得 β:

minᵦ ‖Hβ − Y‖₂²

当 N 大于 G 且相关矩阵可逆时,输出权重的解析解为:

β = (HᵀH)⁻¹HᵀY

当 N 小于 G 且相关矩阵可逆时,可采用:

β = Hᵀ(HHᵀ)⁻¹Y

若矩阵不满足可逆条件,可以使用伪逆等数值方法。

ELM 的训练分为两个部分:

第一部分:随机构建隐藏层特征。

第二部分:求解输出权重,使训练样本的预测值尽可能接近实际值。

由于不需要像传统神经网络那样反复通过梯度下降调整所有隐藏层参数,ELM 的训练通常较快。

但是,随机初始化也意味着不同次训练可能产生不同的预测结果。

五、L₀-ELM:在预测误差与模型稀疏度之间建立权衡

5.1 为什么需要稀疏化?

假设 ELM 设置了128个隐藏节点。经过训练后,部分节点可能对预测的贡献很小。

如果模型能够自动识别并剔除这些节点,就可能减少冗余、控制模型复杂度,并改善泛化能力。

作者将 L₀ 正则化加入 ELM 的目标函数:

minᵦ [‖Hβ − Y‖₂² + λ‖β‖₀]

其中:

  • ‖Hβ − Y‖₂²:预测误差平方和。

  • ‖β‖₀:β 中非零权重的数量。

  • λ:控制预测误差与稀疏度之间权衡的正则化参数。

例如:

β = (0.8, 0, −0.4, 0, 0.2)

此时非零权重数量为3:

‖β‖₀ = 3

L₀ 正则化直接惩罚非零权重的数量,因此可以将部分隐藏节点的输出权重精确地压到零。

需要准确理解其作用:这里筛选的是隐藏层节点对应的输出权重,而非直接删除原始输入变量。因此,不能仅凭 L₀-ELM 的稀疏结果,就认定某个天气变量或某个图像特征不重要。

5.2 为什么 L₀ 优化比较困难?

L₀ 范数是一个计数函数。

当某个权重等于0时,它对非零元素数量的贡献为0;只要它变成任意一个非零值,其贡献就变为1。

这种不连续特性使直接优化比较困难。

作者使用交替方向乘子法(ADMM),通过变量分裂将原问题转化为可交替更新的子问题。

六、ADMM:L₀-ELM 的具体求解过程

6.1 引入辅助变量

作者引入辅助变量 c,将问题改写为:

minᵦ,𝒄 [‖Hβ − Y‖₂² + λ‖c‖₀]

约束条件:

β = c

其中,β 主要负责拟合数据,c 负责实现稀疏化。约束 β = c 则保证两者在收敛时保持一致。

6.2 构造增广拉格朗日函数

原文使用的增广拉格朗日函数为:

Lγ(β,c,α) = ‖Hβ − Y‖₂² + λ‖c‖₀ − αᵀ(β − c) + (γ / 2)‖β − c‖₂²

其中:

  • α 为拉格朗日乘子。

  • γ 为大于0的惩罚参数。

  • β 和 c 的一致性通过二次惩罚项进行约束。

这个函数把预测误差、稀疏化要求和变量一致性放入同一个优化框架。

6.3 每一轮迭代更新什么?

ADMM 依次更新三个变量:

第一,更新 c:

cˡ⁺¹ = arg min_c Lγ(βˡ,c,αˡ)

第二,更新 β:

βˡ⁺¹ = arg min_β Lγ(β,cˡ⁺¹,αˡ)

第三,更新乘子 α:

αˡ⁺¹ = αˡ − γ(βˡ⁺¹ − cˡ⁺¹)

其中,l 表示当前迭代轮次。

第一步解决稀疏化问题,第二步重新拟合输出权重,第三步根据 β 和 c 的差异调整约束。

三个步骤反复执行,直到满足停止条件或达到最大迭代次数。

6.4 硬阈值:如何决定一个权重归零还是保留?

为了求解 c,作者使用 L₀ 范数的近端算子。

先计算:

ηᵢ = βᵢ − αᵢ / γ

然后根据阈值进行判断:

cᵢ = 0,若 |ηᵢ| < √(2λ / γ)

cᵢ = ηᵢ,若 |ηᵢ| ≥ √(2λ / γ)

这就是硬阈值操作。

假设当前阈值为0.10:

调整后的权重
更新结果
0.03
0
−0.06
0
0.15
0.15
−0.28
−0.28

这组数字仅用于说明阈值规则。

是否保留一个权重,由其调整后的绝对值与阈值的比较决定,不需要研究者逐个节点人工判断。

λ 越大,稀疏化惩罚通常越强;γ 也会影响阈值大小。因此,最终的稀疏程度取决于参数设置和迭代结果。

6.5 重新计算 β

在给定 cˡ⁺¹ 和 αˡ 的情况下,β 的更新公式为:

βˡ⁺¹ = (2HᵀH + γI)⁻¹ × (2HᵀY + αˡ + γcˡ⁺¹)

其中,I 为单位矩阵。

该公式来自对 β 子问题求导并令梯度为零。

更新完成后,再计算:

αˡ⁺¹ = αˡ − γ(βˡ⁺¹ − cˡ⁺¹)

然后进入下一轮。

这里的一个细节是,原始目标函数使用的是误差平方和 ‖Hβ − Y‖₂²,没有乘以1/2,因此求导后出现系数2。若代码将目标函数改写为二分之一的误差平方和,更新公式也必须同步调整,不能混用不同形式的推导结果。

6.6 初始化与停止条件

原文的 ADMM 算法伪代码要求:

  1. 初始化 c⁰、β⁰、α⁰。

  2. 随机初始化 A 和 b。

  3. 构造隐藏层矩阵 H。

  4. 设置 λ、γ、收敛容差 tol 和最大迭代次数 L。

  5. 依次更新 c、β、α。

  6. 当变量变化均小于容差,或者达到最大迭代次数时停止。

  7. 返回最终的 β、c 和 α。

停止判断包含以下变量变化:

‖cˡ⁺¹ − cˡ‖₂²

‖βˡ⁺¹ − βˡ‖₂²

‖αˡ⁺¹ − αˡ‖₂²

原文采用这些量判断迭代是否趋于稳定。

实际复现时,需要确保所有变量的初始化、更新顺序、范数定义和停止条件与代码实现一致。还应检查数值矩阵的条件数、是否发生求解失败,以及最终稀疏解是否稳定。

七、从 L₀-ELM 到 ES-L₀-ELM:为什么还要集成多个模型?

单个 L₀-ELM 虽然能够进行稀疏化,但 ELM 隐藏层由随机权重初始化,因此不同次训练可能产生不同的预测结果。

作者进一步训练多个 L₀-ELM 模型,再进行筛选和加权。

7.1 第一轮筛选:依据预测误差

作者在验证集上计算每个候选模型的平均绝对误差:

MAEᵢ = (1 / Nᵥ) × Σₜ₌₁ᴺᵛ |ŷᵢ,ₜ − yₜ|

其中,Nᵥ 是验证样本数量。

MAE 越小,代表预测值与真实值的平均绝对偏差越小。

论文规定按 MAE 进行排序,并剔除表现较差的10%候选模型。

实现时必须注意排序方向:误差大的模型表现较差,应当优先剔除。代码应明确按误差从大到小识别待剔除模型,避免将低误差模型错误删除。

7.2 第二轮筛选:依据预测多样性

仅仅保留误差较小的模型还不够。

如果所有模型的预测曲线几乎完全相同,那么将它们组合起来,可能无法提供多少额外信息。

作者使用余弦相似度衡量不同模型预测结果之间的相似性。

对两个模型的预测向量 pᵢ 和 pⱼ:

CosSim(pᵢ,pⱼ) = (pᵢᵀpⱼ) / (‖pᵢ‖₂‖pⱼ‖₂)

余弦相似度越高,表示两个预测向量的方向越接近。

随后,作者将每个模型与其他模型的相似度求和,得到总相似度:

Similarityᵢ = Σⱼ≠ᵢ CosSim(pᵢ,pⱼ)

论文进一步剔除总相似度最高的10%模型,以减少集成模型中的预测冗余。

需要注意,余弦相似度反映向量方向的相似程度,并不等同于预测误差。两个模型即使预测值存在系统性偏差,也可能具有很高的余弦相似度。因此,误差筛选和相似度筛选分别承担不同任务。

八、集成权重:如何综合准确性和多样性?

模型筛选完成后,作者同时考虑 MAE 和总相似度,为保留模型分配权重。

设保留模型的 MAE 集合为 V₁,总相似度集合为 V₂。

第 i 个模型的权重为:

wᵢ = ½ × [max(V₁) − MAEᵢ] / Σⱼ[max(V₁) − MAEⱼ]

  + ½ × [max(V₂) − Similarityᵢ] / Σⱼ[max(V₂) − Similarityⱼ]

公式由两部分构成。

第一部分衡量模型预测误差。MAE 越低,该模型得到的误差权重通常越高。

第二部分衡量模型预测多样性。总相似度越低,该模型得到的多样性权重通常越高。

两部分各占一半。

因为两部分各自归一化后总和为1,所以在分母均为正的情况下,最终权重满足:

Σᵢ wᵢ = 1

最后,模型输出通过加权求和形成最终预测:

ŷ_ES = Σᵢ₌₁ᴷ wᵢŷᵢ

其中,K 为保留模型的数量,ŷᵢ 为第 i 个模型的预测值。

这不是简单地对所有候选模型取平均。模型先根据验证集表现筛选,再依据误差与预测相似度共同确定权重。

需要注意一个实现边界:如果所有候选模型的 MAE 完全相同,或者所有总相似度完全相同,相应归一化分母可能为零。原文给出了权重计算方法,但实际代码仍应为这种边界情况设置明确的回退规则,例如使用均匀权重,并记录触发原因。

九、模型训练、模型预测和模型评价必须分开

一个完整的算法复现,不应只实现数学公式,还必须明确不同数据在各个阶段的用途。

9.1 训练阶段

训练阶段允许模型使用训练期真实游客数量,完成:

  • 归一化参数计算。

  • 搜索关键词筛选和最佳滞后期确定。

  • 情感变量滞后期确定。

  • 图像神经网络训练。

  • ELM 隐藏层初始化与输出权重求解。

  • L₀-ELM 的 ADMM 优化。

  • 候选模型训练与验证集筛选。

9.2 验证阶段

验证集用于选择超参数、评估候选模型误差、计算预测相似度,以及确定集成权重。

验证集不能与最终测试集混为一谈。

9.3 测试阶段

测试阶段使用训练完成的模型、训练期确定的归一化参数、特征筛选规则、滞后期和集成权重,对测试期进行预测。

测试期真实游客数量只能用于最后的评价,不能反过来参与模型筛选或参数调整。

9.4 评价指标

论文使用了 MAE、RMSE、MAPE 和 SMAPE 等预测指标。

MAE:

MAE = (1 / N) × Σₜ |ŷₜ − yₜ|

RMSE:

RMSE = √[(1 / N) × Σₜ(ŷₜ − yₜ)²]

MAPE:

MAPE = (100% / N) × Σₜ |(ŷₜ − yₜ) / yₜ|

SMAPE:

SMAPE = (100% / N) × Σₜ [2|ŷₜ − yₜ| / (|ŷₜ| + |yₜ|)]

一般而言,这些指标越低,预测效果越好。

不过,MAPE 在真实值为零时无法直接计算;SMAPE 在预测值和真实值同时为零时也需要特殊处理。程序必须明确缺失值和零值的处理方式,不能直接忽略这些问题。

十、原文实验:哪些结论有数据支持?

论文在九寨沟数据上比较了 ES-L₀-ELM 与多种基准模型,并通过四姑娘山数据开展补充验证。

在九寨沟实验中,作者报告 ES-L₀-ELM 的 MAPE 为14.34%。相较于 BERT-ELM 和 TFIDF-Tran-ELM,MAPE 分别降低18.66%和14.33%。

在四姑娘山实验中,完整模型的 MAPE 为18.79%,低于相应的基础数值模型、单独文本模型和单独图像模型。

作者还开展了多组对照实验:

第一,比较 ELM、L₁-ELM、L₂-ELM、Elastic Net-ELM 和 L₀-ELM,以检验不同正则化方式对预测误差和稀疏程度的影响。

第二,比较 ES-L₀-ELM-base、ES-L₀-ELM-text、ES-L₀-ELM-image 和 ES-L₀-ELM-all,以评估文本与图像的增量预测价值。

第三,将隐藏节点数量设置为64、128、256和512,开展敏感性分析。

第四,使用 Diebold–Mariano 检验比较不同模型的预测误差表现。

实验结果显示,在作者的数据和实验设置下,图像特征带来的预测增益高于文本特征,两类特征结合获得了更好的预测表现。

但必须区分两种结论:

“图像特征能够提高预测精度”是预测性能层面的结论。

“图像中的某个具体属性导致游客数量增加”则是因果或机制层面的结论。

本文主要支持前者,不能直接据此推出后者。

十一、复现时最容易出错的细节

如果 AI 需要据此编写完整程序,以下问题必须逐项检查。

  1. 时间对齐是否正确。每条训练样本的输入只能包含预测时点已经能够获得的信息。

  2. 滞后期是否只由训练集确定。搜索关键词筛选和情感滞后期选择不能利用测试集标签。

  3. 图像网络的训练标签是否正确对齐。图像特征与未来游客数量之间的提前期必须与模型设定一致。

  4. 图像相关预测变量是否存在训练内过拟合。应检查使用训练样本拟合图像网络后,再将其训练内预测作为第二阶段特征所产生的风险。

  5. 归一化是否只使用训练期参数。不能用完整数据集的最大值和最小值进行归一化。

  6. ELM 隐藏层激活函数是否与原文一致。原文算法伪代码使用 Sigmoid;图像神经网络则使用 ReLU。两者属于不同模型,不能混淆。

  7. L₀ 目标函数的系数是否一致。若采用原文的误差平方和形式,β 更新公式中会出现系数2。

  8. ADMM 的乘子更新符号是否正确。符号不一致可能导致算法偏离原文的优化过程。

  9. 硬阈值是否按照绝对值判断。不能只判断权重是否大于正阈值,因为负权重也可能保留。

  10. 集成筛选的排序方向是否正确。误差大的模型应优先剔除;总相似度高的模型则根据原文规则剔除。

  11. 集成权重是否归一化。若计算后权重和不等于1,需要检查公式实现与异常分母处理。

  12. 测试集是否被重复使用。反复查看测试集结果并据此调参,会使测试集逐渐失去独立评价作用。

  13. 是否固定并记录随机种子。ELM 随机初始化会影响结果,复现时需要记录种子,并进一步开展多次独立重复实验。

  14. 是否保存完整的中间产物。应保留数据处理日志、训练参数、各候选模型的预测结果、筛选记录、权重计算结果和最终预测结果。

这些细节决定了最终程序能否真正复现论文方法,而不只是实现一个形式上相似的算法。

十二、创新研究路线:如何在原文基础上继续向前推进?

原文已经使用预训练图像特征、文本情感分析、L₀-ELM、ADMM 和集成学习。后续研究若要形成真正的创新,需要提出新的研究问题,并通过严格对照实验验证增量价值。

以下是值得考虑的四个方向。

方向一:从静态图像特征转向时序图像信息

原文将同一天的图片特征取平均,得到每日图像向量。

这种处理可以减少数据维度,但也会损失图像随时间变化的信息。例如,连续几天的游客照片可能体现景观季节变化、游客活动变化或目的地热度变化。

可以尝试比较:

  • 每日图像特征均值。

  • 最近若干日图像特征变化量。

  • 图像特征的滚动窗口统计量。

  • 图像特征的时间序列编码结果。

关键实验是检验新增的时间结构是否能够稳定改善样本外预测,而不是只在训练集上降低误差。

方向二:从简单集成转向自适应集成

原文使用验证集误差和余弦相似度确定固定的模型权重。

但不同模型在不同客流阶段可能表现不同。例如,普通工作日与节假日的客流变化规律可能存在差异。

可以探索根据近期预测误差、预测区间或客流状态动态调整模型权重。

不过,自适应权重不能利用未来真实客流来计算。任何权重更新都必须严格依据预测时点之前已经获得的信息,并通过滚动样本外实验验证。

方向三:解决多模态信息的训练泄漏与过拟合风险

原文先训练图像神经网络,再将图像相关预测变量送入最终 ELM。

一个重要的改进方向,是在训练阶段使用时间序列交叉验证或滚动式样本外预测生成图像相关变量,避免第二阶段模型使用过于乐观的训练内预测。

可以比较:

  • 训练内图像预测特征。

  • 时间序列交叉验证生成的图像预测特征。

  • 滚动窗口生成的图像预测特征。

如果后两种方法在严格样本外测试中仍能保持较好表现,就能更有说服力地证明图像信息具有增量预测价值。

方向四:将预测准确率与模型解释结合

原文的 L₀ 正则化主要作用于隐藏层输出权重,并不能直接告诉研究者某个原始变量的因果作用。

如果后续课题希望回答“哪些信息对预测最重要”,可以进一步开展:

  • 置换重要性分析。

  • 按数据来源进行消融实验。

  • 对不同预测时期开展分组评价。

  • 比较不同城市或不同客流状态下的变量贡献。

  • 检验模型解释结果在不同随机种子和时间窗口下是否稳定。

对于城市预测研究,还可以进一步研究模型在不同城市之间迁移时的性能变化,判断其是否学习到了具有可迁移性的规律。

这些都是后续研究方向,不能直接表述为原文已经完成的创新。

十三、给 AI 科研智能体的最终执行规范

如果要让 Codex 基于本文开展程序复现或方法改进,应遵循以下顺序:

第一,完整读取论文原文,建立算法、数据和实验参数清单。

第二,将数据处理、图像特征提取、文本情感分析、ELM、L₀-ELM、ADMM、集成筛选、加权预测和评价指标分别实现为独立模块。

第三,为每个模块编写单元测试,尤其检查矩阵维度、时间对齐、阈值规则、权重归一化和边界情况。

第四,先复现基础 ELM,再复现 L₀-ELM,最后复现 ES-L₀-ELM。每增加一个模块,都应比较其对预测误差和计算成本的影响。

第五,严格按照训练集、验证集和测试集的职责执行实验,确保任何数据驱动的筛选、标准化或权重计算都不使用测试集标签。

第六,复现原文结果后,再开展创新实验。每个新机制都必须对应明确的研究假设、可比较的基准方法和独立的验证方案。

第七,完整记录随机种子、参数配置、运行日志、预测结果和评价指标,使整个研究能够重复执行。

第八,最终报告必须明确区分三类内容:原文已经采用的方法、为复现而补充的工程实现规则,以及研究者新提出并经过实验检验的改进。

这份方法材料的最终目标,是让 AI 不只会调用模型库或生成程序,还能理解每一个算法模块解决什么问题、依赖什么输入、通过什么数学机制运行,以及怎样用可靠的实验判断改进是否真正有效。

文档:ChatGPT

相关学习资料