基于DEM数据的预训练模型构建与地貌应用
文献类型：学位论文
| 作者 | 杨家齐 |
| 答辩日期 | 2024-06 |
| 文献子类 | 学术型学位 |
| 授予单位 | 中国科学院大学 |
| 授予地点 | 中国科学院地理科学与资源研究所 |
| 导师 | 许珺 |
| 关键词 | 自监督学习 预训练模型 数字高程模型 自编码器 VQMAE |
| 学位名称 | 硕士 |
| 学位专业 | 地图学与地理信息系统 |
| 英文摘要 | 地貌是最重要的自然地理要素之一，影响着地表气候、生态环境和自然资源的空间分布。地貌研究是地理学的重要分支，对了解地球表面的形态、结构、分布变化和规律具有重要作用，为人类的生存和发展提供科学依据。数字高程模型（Digital Elevation Model，DEM）已成为地貌研究等领域中不可或缺的工具，推动了地貌学研究定量化、精确化、智能化科学的转型的发展。借助DEM数据，许多定量方法可以用于地貌研究，并且将机器学习技术整合到地貌分析中变得更加普遍。然而，当前地貌学研究领域机器学习模型主要依赖监督学习，因此对标注数据的需求高，限制了其在更广泛地形数据分析中的应用。此外，这些研究方法通常针对特定问题设计，通用性不足。近年来，人工智能领域快速发展，预训练模型（Pre-trained Models）取得显著的突破，通过在广泛数据集上预训练，能够掌握一套适用于多种任务的通用特征和知识表征，并能通过微调来适应不同的下游任务。考虑到预训练模型所具备的强大的学习能力和迁移能力，本研究的主要内容是构建一个基于DEM数据的预训练模型，并将其应用于多种地貌应用中。 首先，本研究构建了一个适合处理地学连续数据的模型VQMAE，该模型的架构为嵌套的自编码器模型，融合了基于卷积神经网络的向量量化变分自编码器（Vector Quantized Variational AutoEncoder, VQVAE）和基于Transformer架构的掩码自编码器（Masked AutoEncoder, MAE），该模型能够同时提取局部与全局的特征信息。随后，本研究基于全球范围的30米分辨率的DEM数据构建了预训练数据集，并在该数据上结合自编码器的自监督学习策略以及掩码图像模型（Masked Image Modeling, MIM）的自监督学习方法，分别对VQVAE和MAE进行了预训练。最后，经过监督微调，将该模型成功应用于三个具体的地貌学任务上，包括DEM空洞填充、DEM超分辨率和基本地貌类型分类。VQMAE在这些地貌学应用中展现了较强的适应能力，性能显著优于传统方法。 本研究成功开发了基于DEM数据的预训练模型，并在多个地貌学应用中展示了良好的迁移性能。通过本研究，证明了构建一个适用于多种地貌任务的通用预训练模型的可行性。此外，该研究方法适用于其他类似的连续的地学数据，为地学领域解决复杂问题提供了新的路径。 |
| 语种 | 中文 |
| 页码 | 75 |
| 源URL | [http://ir.igsnrr.ac.cn/handle/311030/208096]  |
| 专题 | 地理科学与资源研究所_研究生部 |
| 推荐引用方式 GB/T 7714 | 杨家齐. 基于DEM数据的预训练模型构建与地貌应用[D]. 中国科学院地理科学与资源研究所. 中国科学院大学. 2024. |
入库方式： OAI收割
来源：地理科学与资源研究所
浏览0
下载0
收藏0
其他版本
除非特别说明，本系统中所有内容都受版权保护，并保留所有权利。