RSE| 面向模态缺失场景的元模态表征土地覆盖制图:EarthMiss 数据集与 MetaRS 方法(数据集代码已开源)  

 

武汉大学测绘遥感信息工程国家重点实验室 RSIDEA 研究组提出构建了基于元模态表征建模的高分辨率遥感影像地表覆盖制图基准数据集和方法,实现了多模态遥感影像任意模态缺失条件下的全天候制图。相关研究成果 “Remote Sensing Meta Modal Representation for Missing Modality Land Cover Mapping: From EarthMiss Dataset to MetaRS Method” 已发表在遥感领域国际权威期刊 Remote Sensing of Environment(RSE)。武汉大学测绘遥感信息工程国家重点实验室硕士生周逸恒为第一作者,马爱龙副教授为通讯作者、博士生陈梓航、钟燕飞教授和东京大学王俊珏博士共同参与完成研究。

模型代码、推理权重和EarthMiss基准数据集已全部开源,供学术用途下载和使用,期待与广大科研人员开展合作交流。详细信息与下载链接请访问以下项目主页网址:https://rsidea.whu.edu.cn/EarthMiss.html

研究背景

多模态遥感地表覆盖制图在灾害应急、生态监测和城市管理中具有重要价值,但实际应用场景中,光学遥感影像易受云雾和光照限制而缺失,SAR 影像也易受时间分辨率等因素影响无法获取。传统的多模态遥感影像制图方法往往依赖完备的模态输入,任意模态缺失则会导致模型崩溃,使得多模态融合方法性能明显下降。相比于实时采集所有模态,已有的历史多模态数据在覆盖范围、获取成本和时空连续性方面具有明显优势,可为复杂场景下的制图提供重要先验知识。然而,由于不同模态成像机理差异巨大,且各城市、各地区的地物特征在不同模态下表现不一致,直接将历史多模态特征迁移到当前任务往往会破坏模态特定特征的分布一致性。同时,现有多模态数据集类别单一、不同模态分辨率不一致,无法为不同方法提供一个统一的评测基准。针对上述问题,武汉大学 RSIDEA 团队构建了高分辨率、多模态、多类别土地覆盖制图基准数据集 EarthMiss,并提出了基于元模态表征的土地覆盖制图框架MetaRS,有效提高模型跨模态知识迁移的准确性,实现任意模态缺失条件下的地表覆盖制图。

数据集概述

针对现有多模态遥感数据集类别单一、分辨率不一致的问题,EarthMiss 数据集从五大洲 13 座城市采集高分辨率 SAR–Opt 影像对,通过统一的预处理以及人工精细标注,构建高分辨率土地覆盖数据集,涵盖建筑、道路、水体、农田等 8 类典型地物。EarthMiss反映了SAR和光学模态间的成像差异,为模态缺失条件下的模型训练和评测提供了可靠基准。

EarthMiss数据集

方法概述

针对跨模态知识迁移建模不准确的问题,MetaRS通过监督多模态特征的协方差矩阵,提取跨模态共享信息,实现特征的统一表达,在推理阶段利用元模态补全缺失模态特征,并与现有模态的特征进行融合。最终,结合元模态正则化训练策略,使不同模态在深层语义空间中的表示保持一致,通过缩小模态间的特征差距实现可靠的跨模态知识迁移。

元模态表征核心结构图

实验验证

在EarthMiss数据集上,所提方法优于遥感和计算机领域11个模态缺失学习对比方法。

EarthMiss数据集实验结果

类激活图可视化与元特征距离分析表明,元模态表示有效实现了跨模态语义对齐,同时保持了各模态固有的特征分布。

类激活图可视化
元模态特征距离可视化

应用研究

研究以 2023 年利比亚洪灾为典型案例,验证所提出方法在真实灾害场景下的地物制图与灾情识别能力。研究利用 MetaRS 在仅有单模态 SAR 输入的条件下,实现了洪灾影响范围的精确制图。基于模型输出的高精度地物分类结果,进一步提取了及路矢量,为灾后应急评估与救援规划提供了可靠的遥感信息支撑。真实灾害场景验证进一步证明了 MetaRS 在实际应用中的可落地性。

2023利比亚洪涝灾害制图结果
道路矢量化提取

版权及联系方式

MetaRS算法和EarthMiss版权归智能化遥感数据提取分析与应用研究组(RSIDEA)所有,该研究组隶属于武汉大学测绘遥感信息工程国家重点实验室(LIESMARS),仅限于学术目的使用,并需引用以下论文,任何商业用途均被禁止。

参考文献:

[1] Yiheng Zhou, Ailong Ma, Junjue Wang, Zihang Chen, Yang Pan, and Yanfei Zhong. Remote Sensing Meta Modal Representation for Missing Modality Land Cover Mapping: From EarthMiss Dataset to MetaRS Method. Remote Sensing of Environment (RSE), 2026, 333, 115132. Doi: 10.1016/j.rse.2025.115132.

如果您在使用MetaRS和EarthMiss时有任何问题或反馈,请联系:

周逸恒 硕士: zhouyiheng@whu.edu.cn

马爱龙 副教授: maailong007@whu.edu.cn

供稿:周逸恒    排版:柯天    审核:吴娇、马爱龙

 
 
end_bar