1. 从零开始理解天池AI Earth竞赛与Task02的定位如果你对遥感、气象或者环境科学感兴趣并且想用代码和模型来解决一些实际问题那么“天池AI Earth”这个平台你一定不陌生。它不是一个简单的编程练习场而是一个连接真实世界数据与前沿人工智能技术的竞技场。这里的每一个任务都对应着一个现实世界中亟待解决的难题比如气象预报、海洋监测、土地利用分类等等。Task02作为其中一个具体的竞赛单元通常意味着你已经跨过了最基础的环境搭建和数据读取门槛开始直面一个更具体、更具挑战性的核心建模问题。我参加过不少这类竞赛也带过一些新手队伍。很多朋友一开始会有点懵看到“Task02”这样的标题不知道从何下手。其实你可以把它理解为一个项目开发的第二个里程碑。Task01往往是让你“把数据读进来看看长什么样”而Task02则直接指向“我们要用什么方法解决什么问题”。它可能是一个完整的图像分割任务比如从卫星影像中识别云层也可能是一个时间序列预测问题比如根据历史气象数据预测未来几天的温度。关键在于Task02的题目描述会清晰地定义输入、输出和评价指标这才是我们所有工作的起点。所以当我们谈论“天池AI Earth task02”时我们讨论的绝不仅仅是一个文件夹或者一个脚本。我们讨论的是一套完整的、从问题定义到模型提交的数据科学工作流。这个过程涉及到数据理解、特征工程、模型选型、训练调优、结果后处理等一系列环环相扣的步骤。接下来我会以一个假设的、但非常典型的场景——“利用多时序遥感影像进行地表覆盖分类”——作为主线带你完整走一遍Task02的实战流程。你会发现只要思路清晰工具得当这个过程虽然有挑战但绝对有迹可循。2. 赛题破译明确任务目标与数据特性拿到Task02第一件事不是急着写代码而是像侦探一样仔细研读赛题说明。这一步做得好能省去后面无数个调参的夜晚。我们需要明确几个核心要素2.1 任务类型判定这是分类、分割、检测还是回归对于AI Earth常见的遥感任务图像语义分割Semantic Segmentation是重中之重。比如给出一个包含多个波段的卫星影像块要求你对每一个像素点进行分类输出对应的地物标签图如水体、植被、建筑、裸地等。任务类型直接决定了我们的模型架构选择如U-Net, DeepLabV3等和损失函数如CrossEntropy Loss, Dice Loss等。2.2 输入输出格式输入是什么是单张图片还是一个时间序列的图片堆栈影像的尺寸、通道数波段数是多少对于多时序任务输入可能是一个形状为[T, H, W, C]的张量其中T是时间步H和W是高和宽C是通道数如RGB、近红外等波段。输出要求是什么是提交一个与输入同尺寸的预测图还是某种统计结果提交文件的格式如GeoTIFF, PNG、命名规则、压缩方式这些细节务必在动手前就搞清楚否则最后可能功亏一篑。2.3 评价指标比赛排名看什么指标是交并比IoU、平均精度mAP、均方根误差RMSE还是相关系数例如在分割任务中常用的有平均交并比Mean IoU。理解指标的计算方式至关重要因为它会指导我们设计损失函数和进行模型选择。有时为了优化比赛指标我们甚至需要在标准的交叉熵损失基础上额外添加针对该指标设计的损失项。2.4 数据探索性分析官方通常提供训练集和验证集。我们需要用代码打开它们进行可视化分析。看看影像的数值范围是0-255的整数还是0-1的浮点数检查一下标签的类别分布是否均衡是否存在某些类别像素极少。对于多时序数据更要观察不同时间点影像的质量和变化情况。这个过程可以用简单的Python库完成import numpy as np import matplotlib.pyplot as plt import rasterio # 用于读取GeoTIFF等遥感影像格式 # 假设读取一张多波段影像 with rasterio.open(train_image.tif) as src: img src.read() # 形状为 (C, H, W) print(f图像形状: {img.shape}) print(f数据类型: {img.dtype}) print(f数值范围: [{img.min():.2f}, {img.max():.2f}]) # 可视化前三个波段假设为RGB fig, axes plt.subplots(1, 3, figsize(15,5)) for i, ax in enumerate(axes): ax.imshow(img[i], cmapgray) ax.set_title(fBand {i1}) ax.axis(off) plt.show()这个阶段的目标是建立对数据的“直觉”发现潜在问题比如缺失值、异常值、类别极度不均衡等为后续的预处理和建模策略提供依据。3. 环境搭建与数据流水线构建工欲善其事必先利其器。一个稳定、可复现的环境是高效迭代的基础。对于深度学习任务我强烈建议使用Conda来管理环境它能很好地处理Python版本和复杂依赖的冲突。3.1 创建专属竞赛环境# 创建一个名为 ai_earth_task02 的Python 3.8环境 conda create -n ai_earth_task02 python3.8 -y conda activate ai_earth_task02 # 安装核心深度学习框架以PyTorch为例请根据CUDA版本去官网获取对应命令 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 安装遥感数据处理和通用科学计算库 pip install numpy pandas opencv-python scikit-learn scikit-image pip install rasterio geopandas # 处理地理空间数据 pip install albumentations # 强大的图像增强库 pip install tqdm # 进度条 pip install tensorboard # 可视化训练过程可选但推荐3.2 设计高效的数据加载器数据管道是模型训练的“输血管道”其效率直接影响迭代速度。我们需要自定义一个PyTorch的Dataset类。对于多时序遥感影像分类任务一个典型的数据集类结构如下import torch from torch.utils.data import Dataset, DataLoader import albumentations as A from albumentations.pytorch import ToTensorV2 class RemoteSensingDataset(Dataset): def __init__(self, image_paths, label_paths, transformNone, is_trainTrue): Args: image_paths: 列表每个元素是一个多时序影像文件的路径如.npy文件 label_paths: 列表每个元素是对应标签文件的路径 transform: 数据增强变换 is_train: 是否为训练模式决定是否使用增强 self.image_paths image_paths self.label_paths label_paths self.is_train is_train self.train_transform transform # 简单的归一化转换用于验证/测试 self.val_transform A.Compose([ A.Normalize(mean[0.5]*input_channels, std[0.5]*input_channels), ToTensorV2(), ]) def __len__(self): return len(self.image_paths) def __getitem__(self, idx): # 加载数据这里假设影像已预处理为numpy数组保存 image np.load(self.image_paths[idx]) # 形状 (T, H, W, C) label np.load(self.label_paths[idx]) # 形状 (H, W)值为类别索引 # 处理多时序这里采用一种简单策略沿时间维取平均变为 (H, W, C) # 更复杂的策略可以用3D CNN或RNN来处理时序维度 image image.mean(axis0) # 应用变换 if self.is_train and self.train_transform: transformed self.train_transform(imageimage, masklabel) image, label transformed[image], transformed[mask] else: transformed self.val_transform(imageimage, masklabel) image, label transformed[image], transformed[mask] # 将标签从 (H,W) 转为 (1, H, W) 以适配损失函数 label label.long().unsqueeze(0) return image, label # 定义训练时用的增强策略 train_transform A.Compose([ A.RandomRotate90(p0.5), A.HorizontalFlip(p0.5), A.VerticalFlip(p0.5), # 对于遥感影像谨慎使用色彩抖动可能改变光谱特性 A.RandomBrightnessContrast(brightness_limit0.1, contrast_limit0.1, p0.3), A.Normalize(mean[0.5]*C, std[0.5]*C), # C为通道数 ToTensorV2(), ])注意数据增强是提升模型泛化能力的关键但对于遥感影像增强策略需要谨慎选择。几何变换旋转、翻转通常是安全的但涉及颜色/对比度的变换可能会破坏不同地物光谱特征的可区分性需要根据任务测试效果。3.3 解决类别不平衡问题遥感数据中诸如“建筑”、“道路”等类别的像素数量可能远少于“植被”、“水体”。直接训练会导致模型偏向大类别。常见的应对策略有样本重采样在数据加载时对包含稀有类别的训练样本进行过采样。损失函数加权在交叉熵损失中为每个类别设置不同的权重稀有类别权重更高。# 计算类别权重逆频率加权 class_counts np.bincount(all_train_labels.flatten()) total_pixels np.sum(class_counts) class_weights total_pixels / (len(class_counts) * class_counts) class_weights_tensor torch.FloatTensor(class_weights).to(device) criterion nn.CrossEntropyLoss(weightclass_weights_tensor)使用Dice Loss或Focal Loss这些损失函数本身就对难分类样本或类别不平衡有更好的鲁棒性。4. 模型选型、搭建与训练策略模型是竞赛的核心引擎。在遥感分割领域Encoder-Decoder结构的网络是主流。4.1 模型架构选择对于入门和快速基线我推荐从U-Net开始。它结构清晰在数据量不是特别巨大的情况下表现稳定且有很多预训练编码器如ResNet、EfficientNet可供使用能加速收敛。如果你的任务中待分类目标在多个尺度上都有体现比如大小不一的湖泊和建筑那么带有空洞卷积Atrous Convolution或金字塔池化模块ASPP的DeepLabV3可能更有优势。这里以使用segmentation_models_pytorch这个优秀库快速搭建一个U-Net为例import segmentation_models_pytorch as smp # 定义一个U-Net模型使用ResNet34作为编码器预训练权重加速收敛 model smp.Unet( encoder_nameresnet34, encoder_weightsimagenet, # 使用在ImageNet上预训练的权重 in_channels3, # 输入通道数根据你的数据调整如RGB为3多光谱则更多 classesnum_classes, # 分类类别数 )4.2 训练循环与关键技巧训练循环的代码框架大同小异但有几个细节决定了上限import torch.optim as optim from torch.optim import lr_scheduler device torch.device(cuda if torch.cuda.is_available() else cpu) model.to(device) # 优化器选择AdamW目前是很多任务的首选比Adam更稳定 optimizer optim.AdamW(model.parameters(), lr1e-4, weight_decay1e-4) # 学习率调度器使用余弦退火重启有助于跳出局部最优 scheduler lr_scheduler.CosineAnnealingWarmRestarts(optimizer, T_010, T_mult2, eta_min1e-6) # 混合精度训练大幅减少显存占用加快训练速度几乎不影响精度 from torch.cuda.amp import GradScaler, autocast scaler GradScaler() num_epochs 50 for epoch in range(num_epochs): model.train() train_loss 0.0 for images, labels in train_loader: images, labels images.to(device), labels.to(device) optimizer.zero_grad() with autocast(): # 混合精度前向传播 outputs model(images) loss criterion(outputs, labels.squeeze(1)) # 调整标签维度以匹配输出 # 混合精度反向传播 scaler.scale(loss).backward() scaler.step(optimizer) scaler.update() train_loss loss.item() * images.size(0) scheduler.step() # 每个epoch后更新学习率 avg_train_loss train_loss / len(train_dataset) print(fEpoch [{epoch1}/{num_epochs}], Train Loss: {avg_train_loss:.4f}) # 每隔几个epoch在验证集上评估一次 if (epoch1) % 5 0: model.eval() val_metrics evaluate_on_validation_set(model, val_loader, device, criterion) print(fValidation mIoU: {val_metrics[miou]:.4f})4.3 模型集成与测试时增强单一模型的能力有限。在竞赛后期为了进一步提升分数可以采用多模型集成训练多个不同架构如U-Net, DeepLabV3或不同初始化/数据增强的模型对它们的预测结果进行投票或平均。测试时增强对一张测试图像进行多种变换如原图、水平翻转、垂直翻转分别输入模型得到预测然后将这些预测结果逆变换回原始视角再取平均或投票作为最终预测。这能有效提升模型的稳定性。def tta_predict(model, image, tta_transforms): 测试时增强预测 predictions [] for transform in tta_transforms: augmented transform(imageimage)[image] aug_tensor augmented.unsqueeze(0).to(device) with torch.no_grad(): pred torch.softmax(model(aug_tensor), dim1).cpu().numpy() # 对预测结果进行逆变换这里假设变换是可逆的几何变换 # 实际中需要根据具体的transform实现逆操作 predictions.append(pred) # 沿叠加维度取平均 final_pred np.mean(predictions, axis0) return final_pred5. 结果后处理、提交与错误排查模型预测出的原始概率图或类别图往往不能直接提交需要经过一系列后处理来优化最终指标。5.1 后处理技巧阈值化与过滤对于某些类别如果模型预测的信心度概率低于某个阈值可以将其归为背景或不确定类别。对于分割任务常用连通域分析来过滤掉面积过小的噪声区域。import cv2 from scipy import ndimage def postprocess_mask(pred_mask, min_object_size50): pred_mask: 模型预测的类别图 (H, W)值为0,1,2... processed_mask pred_mask.copy() for class_id in range(1, num_classes): # 通常0是背景 class_region (pred_mask class_id).astype(np.uint8) num_labels, labels, stats, centroids cv2.connectedComponentsWithStats(class_region, connectivity8) for i in range(1, num_labels): if stats[i, cv2.CC_STAT_AREA] min_object_size: # 将过小的连通域置为背景0 processed_mask[labels i] 0 return processed_mask形态学操作使用开运算先腐蚀后膨胀去除毛刺使用闭运算先膨胀后腐蚀填充小孔洞使分割边界更平滑。kernel np.ones((3,3), np.uint8) smoothed_mask cv2.morphologyEx(pred_mask.astype(np.uint8), cv2.MORPH_CLOSE, kernel) smoothed_mask cv2.morphologyEx(smoothed_mask, cv2.MORPH_OPEN, kernel)5.2 生成提交文件严格按照赛方要求的格式生成文件。如果是图像文件注意保存时的数据类型uint8、色彩映射colormap和压缩选项。import rasterio from rasterio.transform import from_origin def save_submission_geotiff(pred_array, output_path, template_meta): pred_array: 预测结果数组 (H, W) template_meta: 从原始影像读取的元数据包含坐标系、变换等信息 # 更新元数据以匹配预测结果 out_meta template_meta.copy() out_meta.update({ driver: GTiff, height: pred_array.shape[0], width: pred_array.shape[1], count: 1, # 单波段 dtype: uint8, # 根据类别数量确定如小于256类用uint8 compress: lzw # 使用压缩减少文件大小 }) with rasterio.open(output_path, w, **out_meta) as dest: dest.write(pred_array, 1) print(f提交文件已保存至: {output_path})5.3 常见错误与排查清单在最后提交阶段最容易因细节疏忽而失败。请对照检查维度不匹配提交的预测图尺寸是否与测试图完全一致用pred.shape test_img.shape[:2]验证。类别索引错误标签的类别索引是否从0开始连续提交文件中是否包含了背景类通常是0确保你的预测类别索引与赛方定义完全一致。文件格式与命名文件后缀是.tif还是.png文件名是否要求包含团队ID或时间戳是否要求打包成ZIP数值范围保存为PNG时像素值是否在0-255之间保存为GeoTIFF时数据类型是否正确内存溢出处理大图时是否采用了滑动窗口预测是否在预测后及时释放了GPU内存torch.cuda.empty_cache()一个稳妥的做法是先用验证集模拟提交流程用验证集图像做预测后处理保存成要求的格式然后自己写一个小脚本按照比赛指标计算一下分数确保整个pipeline无误后再应用到真正的测试集上。6. 进阶优化与效率提升思路当你的基线模型跑通分数也达到一个基本水平后就可以考虑一些进阶策略来冲击更好的名次了。6.1 利用预训练与领域自适应在自然图像上预训练的模型如ImageNet预训练的ResNet是一个强大的起点。但对于遥感影像光谱特征与自然图像差异很大。可以考虑在更大的遥感数据集上做预训练如果有条件可以在类似任务的大规模遥感数据集如LoveDA、DeepGlobe上先预训练一个模型再在自己的任务上微调。领域自适应如果比赛提供的训练数据和测试数据来自不同区域、不同季节或不同传感器可能存在分布差异。可以采用一些无监督领域自适应UDA技术尝试对齐特征分布。6.2 设计针对性的模型结构多尺度特征融合遥感物体尺度多变在编码器部分使用特征金字塔网络FPN或在解码器部分使用注意力门控机制帮助模型更好地融合深层语义信息和浅层细节信息。时序信息建模对于多时序数据简单的时序平均可能损失了重要变化信息。可以尝试3D CNN将时序作为深度维度使用3D卷积核同时提取时空特征。ConvLSTM/Transformer在空间特征提取后使用循环神经网络或Transformer模块来建模时间序列上的依赖关系。6.3 自动化超参数搜索与实验管理手动调参效率低下。可以引入自动化工具超参数优化库如Optuna、Ray Tune。你可以定义要搜索的参数空间学习率、批大小、损失函数权重等和目标指标验证集mIoU让框架自动运行大量实验并找到较优组合。实验跟踪使用Weights Biases (WB)或MLflow。它们能自动记录每一次实验的代码版本、超参数、训练曲线、验证指标甚至预测样例让你能清晰对比不同实验的结果快速定位有效改进点。6.4 伪标签与半监督学习如果比赛允许使用外部数据或者测试集数量很大伪标签是一个强大的技巧。其核心思想是用当前训练好的模型对测试集或无标签数据进行预测将高置信度的预测结果作为“伪标签”加入到训练集中重新训练模型。这个过程可以迭代进行往往能有效提升模型在测试集上的表现。但要注意防止错误标签的累积需要设置较高的置信度阈值。整个天池AI Earth Task02的旅程就像完成一个精密的工程项目。从理解蓝图赛题、准备建材数据、搭建脚手架环境与管道、制造核心部件模型训练、到最终质检和交付后处理与提交每一步都需要耐心和细心。最大的收获往往不是最后的排名而是在解决一个个具体问题中积累的、关于数据、模型和代码的深刻认知。当你第一次看到自己的模型在陌生的测试影像上勾勒出清晰准确的地物边界时那种成就感就是驱动我们不断向前的最大动力。记住在竞赛中一个稳定可靠的基线模型加上持续不断的、有针对性的迭代优化远比追求复杂但不可控的“奇技淫巧”要有效得多。 天池AI Earth竞赛Task02实战：从遥感影像分割到模型部署全流程解析
1. 从零开始理解天池AI Earth竞赛与Task02的定位如果你对遥感、气象或者环境科学感兴趣并且想用代码和模型来解决一些实际问题那么“天池AI Earth”这个平台你一定不陌生。它不是一个简单的编程练习场而是一个连接真实世界数据与前沿人工智能技术的竞技场。这里的每一个任务都对应着一个现实世界中亟待解决的难题比如气象预报、海洋监测、土地利用分类等等。Task02作为其中一个具体的竞赛单元通常意味着你已经跨过了最基础的环境搭建和数据读取门槛开始直面一个更具体、更具挑战性的核心建模问题。我参加过不少这类竞赛也带过一些新手队伍。很多朋友一开始会有点懵看到“Task02”这样的标题不知道从何下手。其实你可以把它理解为一个项目开发的第二个里程碑。Task01往往是让你“把数据读进来看看长什么样”而Task02则直接指向“我们要用什么方法解决什么问题”。它可能是一个完整的图像分割任务比如从卫星影像中识别云层也可能是一个时间序列预测问题比如根据历史气象数据预测未来几天的温度。关键在于Task02的题目描述会清晰地定义输入、输出和评价指标这才是我们所有工作的起点。所以当我们谈论“天池AI Earth task02”时我们讨论的绝不仅仅是一个文件夹或者一个脚本。我们讨论的是一套完整的、从问题定义到模型提交的数据科学工作流。这个过程涉及到数据理解、特征工程、模型选型、训练调优、结果后处理等一系列环环相扣的步骤。接下来我会以一个假设的、但非常典型的场景——“利用多时序遥感影像进行地表覆盖分类”——作为主线带你完整走一遍Task02的实战流程。你会发现只要思路清晰工具得当这个过程虽然有挑战但绝对有迹可循。2. 赛题破译明确任务目标与数据特性拿到Task02第一件事不是急着写代码而是像侦探一样仔细研读赛题说明。这一步做得好能省去后面无数个调参的夜晚。我们需要明确几个核心要素2.1 任务类型判定这是分类、分割、检测还是回归对于AI Earth常见的遥感任务图像语义分割Semantic Segmentation是重中之重。比如给出一个包含多个波段的卫星影像块要求你对每一个像素点进行分类输出对应的地物标签图如水体、植被、建筑、裸地等。任务类型直接决定了我们的模型架构选择如U-Net, DeepLabV3等和损失函数如CrossEntropy Loss, Dice Loss等。2.2 输入输出格式输入是什么是单张图片还是一个时间序列的图片堆栈影像的尺寸、通道数波段数是多少对于多时序任务输入可能是一个形状为[T, H, W, C]的张量其中T是时间步H和W是高和宽C是通道数如RGB、近红外等波段。输出要求是什么是提交一个与输入同尺寸的预测图还是某种统计结果提交文件的格式如GeoTIFF, PNG、命名规则、压缩方式这些细节务必在动手前就搞清楚否则最后可能功亏一篑。2.3 评价指标比赛排名看什么指标是交并比IoU、平均精度mAP、均方根误差RMSE还是相关系数例如在分割任务中常用的有平均交并比Mean IoU。理解指标的计算方式至关重要因为它会指导我们设计损失函数和进行模型选择。有时为了优化比赛指标我们甚至需要在标准的交叉熵损失基础上额外添加针对该指标设计的损失项。2.4 数据探索性分析官方通常提供训练集和验证集。我们需要用代码打开它们进行可视化分析。看看影像的数值范围是0-255的整数还是0-1的浮点数检查一下标签的类别分布是否均衡是否存在某些类别像素极少。对于多时序数据更要观察不同时间点影像的质量和变化情况。这个过程可以用简单的Python库完成import numpy as np import matplotlib.pyplot as plt import rasterio # 用于读取GeoTIFF等遥感影像格式 # 假设读取一张多波段影像 with rasterio.open(train_image.tif) as src: img src.read() # 形状为 (C, H, W) print(f图像形状: {img.shape}) print(f数据类型: {img.dtype}) print(f数值范围: [{img.min():.2f}, {img.max():.2f}]) # 可视化前三个波段假设为RGB fig, axes plt.subplots(1, 3, figsize(15,5)) for i, ax in enumerate(axes): ax.imshow(img[i], cmapgray) ax.set_title(fBand {i1}) ax.axis(off) plt.show()这个阶段的目标是建立对数据的“直觉”发现潜在问题比如缺失值、异常值、类别极度不均衡等为后续的预处理和建模策略提供依据。3. 环境搭建与数据流水线构建工欲善其事必先利其器。一个稳定、可复现的环境是高效迭代的基础。对于深度学习任务我强烈建议使用Conda来管理环境它能很好地处理Python版本和复杂依赖的冲突。3.1 创建专属竞赛环境# 创建一个名为 ai_earth_task02 的Python 3.8环境 conda create -n ai_earth_task02 python3.8 -y conda activate ai_earth_task02 # 安装核心深度学习框架以PyTorch为例请根据CUDA版本去官网获取对应命令 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 安装遥感数据处理和通用科学计算库 pip install numpy pandas opencv-python scikit-learn scikit-image pip install rasterio geopandas # 处理地理空间数据 pip install albumentations # 强大的图像增强库 pip install tqdm # 进度条 pip install tensorboard # 可视化训练过程可选但推荐3.2 设计高效的数据加载器数据管道是模型训练的“输血管道”其效率直接影响迭代速度。我们需要自定义一个PyTorch的Dataset类。对于多时序遥感影像分类任务一个典型的数据集类结构如下import torch from torch.utils.data import Dataset, DataLoader import albumentations as A from albumentations.pytorch import ToTensorV2 class RemoteSensingDataset(Dataset): def __init__(self, image_paths, label_paths, transformNone, is_trainTrue): Args: image_paths: 列表每个元素是一个多时序影像文件的路径如.npy文件 label_paths: 列表每个元素是对应标签文件的路径 transform: 数据增强变换 is_train: 是否为训练模式决定是否使用增强 self.image_paths image_paths self.label_paths label_paths self.is_train is_train self.train_transform transform # 简单的归一化转换用于验证/测试 self.val_transform A.Compose([ A.Normalize(mean[0.5]*input_channels, std[0.5]*input_channels), ToTensorV2(), ]) def __len__(self): return len(self.image_paths) def __getitem__(self, idx): # 加载数据这里假设影像已预处理为numpy数组保存 image np.load(self.image_paths[idx]) # 形状 (T, H, W, C) label np.load(self.label_paths[idx]) # 形状 (H, W)值为类别索引 # 处理多时序这里采用一种简单策略沿时间维取平均变为 (H, W, C) # 更复杂的策略可以用3D CNN或RNN来处理时序维度 image image.mean(axis0) # 应用变换 if self.is_train and self.train_transform: transformed self.train_transform(imageimage, masklabel) image, label transformed[image], transformed[mask] else: transformed self.val_transform(imageimage, masklabel) image, label transformed[image], transformed[mask] # 将标签从 (H,W) 转为 (1, H, W) 以适配损失函数 label label.long().unsqueeze(0) return image, label # 定义训练时用的增强策略 train_transform A.Compose([ A.RandomRotate90(p0.5), A.HorizontalFlip(p0.5), A.VerticalFlip(p0.5), # 对于遥感影像谨慎使用色彩抖动可能改变光谱特性 A.RandomBrightnessContrast(brightness_limit0.1, contrast_limit0.1, p0.3), A.Normalize(mean[0.5]*C, std[0.5]*C), # C为通道数 ToTensorV2(), ])注意数据增强是提升模型泛化能力的关键但对于遥感影像增强策略需要谨慎选择。几何变换旋转、翻转通常是安全的但涉及颜色/对比度的变换可能会破坏不同地物光谱特征的可区分性需要根据任务测试效果。3.3 解决类别不平衡问题遥感数据中诸如“建筑”、“道路”等类别的像素数量可能远少于“植被”、“水体”。直接训练会导致模型偏向大类别。常见的应对策略有样本重采样在数据加载时对包含稀有类别的训练样本进行过采样。损失函数加权在交叉熵损失中为每个类别设置不同的权重稀有类别权重更高。# 计算类别权重逆频率加权 class_counts np.bincount(all_train_labels.flatten()) total_pixels np.sum(class_counts) class_weights total_pixels / (len(class_counts) * class_counts) class_weights_tensor torch.FloatTensor(class_weights).to(device) criterion nn.CrossEntropyLoss(weightclass_weights_tensor)使用Dice Loss或Focal Loss这些损失函数本身就对难分类样本或类别不平衡有更好的鲁棒性。4. 模型选型、搭建与训练策略模型是竞赛的核心引擎。在遥感分割领域Encoder-Decoder结构的网络是主流。4.1 模型架构选择对于入门和快速基线我推荐从U-Net开始。它结构清晰在数据量不是特别巨大的情况下表现稳定且有很多预训练编码器如ResNet、EfficientNet可供使用能加速收敛。如果你的任务中待分类目标在多个尺度上都有体现比如大小不一的湖泊和建筑那么带有空洞卷积Atrous Convolution或金字塔池化模块ASPP的DeepLabV3可能更有优势。这里以使用segmentation_models_pytorch这个优秀库快速搭建一个U-Net为例import segmentation_models_pytorch as smp # 定义一个U-Net模型使用ResNet34作为编码器预训练权重加速收敛 model smp.Unet( encoder_nameresnet34, encoder_weightsimagenet, # 使用在ImageNet上预训练的权重 in_channels3, # 输入通道数根据你的数据调整如RGB为3多光谱则更多 classesnum_classes, # 分类类别数 )4.2 训练循环与关键技巧训练循环的代码框架大同小异但有几个细节决定了上限import torch.optim as optim from torch.optim import lr_scheduler device torch.device(cuda if torch.cuda.is_available() else cpu) model.to(device) # 优化器选择AdamW目前是很多任务的首选比Adam更稳定 optimizer optim.AdamW(model.parameters(), lr1e-4, weight_decay1e-4) # 学习率调度器使用余弦退火重启有助于跳出局部最优 scheduler lr_scheduler.CosineAnnealingWarmRestarts(optimizer, T_010, T_mult2, eta_min1e-6) # 混合精度训练大幅减少显存占用加快训练速度几乎不影响精度 from torch.cuda.amp import GradScaler, autocast scaler GradScaler() num_epochs 50 for epoch in range(num_epochs): model.train() train_loss 0.0 for images, labels in train_loader: images, labels images.to(device), labels.to(device) optimizer.zero_grad() with autocast(): # 混合精度前向传播 outputs model(images) loss criterion(outputs, labels.squeeze(1)) # 调整标签维度以匹配输出 # 混合精度反向传播 scaler.scale(loss).backward() scaler.step(optimizer) scaler.update() train_loss loss.item() * images.size(0) scheduler.step() # 每个epoch后更新学习率 avg_train_loss train_loss / len(train_dataset) print(fEpoch [{epoch1}/{num_epochs}], Train Loss: {avg_train_loss:.4f}) # 每隔几个epoch在验证集上评估一次 if (epoch1) % 5 0: model.eval() val_metrics evaluate_on_validation_set(model, val_loader, device, criterion) print(fValidation mIoU: {val_metrics[miou]:.4f})4.3 模型集成与测试时增强单一模型的能力有限。在竞赛后期为了进一步提升分数可以采用多模型集成训练多个不同架构如U-Net, DeepLabV3或不同初始化/数据增强的模型对它们的预测结果进行投票或平均。测试时增强对一张测试图像进行多种变换如原图、水平翻转、垂直翻转分别输入模型得到预测然后将这些预测结果逆变换回原始视角再取平均或投票作为最终预测。这能有效提升模型的稳定性。def tta_predict(model, image, tta_transforms): 测试时增强预测 predictions [] for transform in tta_transforms: augmented transform(imageimage)[image] aug_tensor augmented.unsqueeze(0).to(device) with torch.no_grad(): pred torch.softmax(model(aug_tensor), dim1).cpu().numpy() # 对预测结果进行逆变换这里假设变换是可逆的几何变换 # 实际中需要根据具体的transform实现逆操作 predictions.append(pred) # 沿叠加维度取平均 final_pred np.mean(predictions, axis0) return final_pred5. 结果后处理、提交与错误排查模型预测出的原始概率图或类别图往往不能直接提交需要经过一系列后处理来优化最终指标。5.1 后处理技巧阈值化与过滤对于某些类别如果模型预测的信心度概率低于某个阈值可以将其归为背景或不确定类别。对于分割任务常用连通域分析来过滤掉面积过小的噪声区域。import cv2 from scipy import ndimage def postprocess_mask(pred_mask, min_object_size50): pred_mask: 模型预测的类别图 (H, W)值为0,1,2... processed_mask pred_mask.copy() for class_id in range(1, num_classes): # 通常0是背景 class_region (pred_mask class_id).astype(np.uint8) num_labels, labels, stats, centroids cv2.connectedComponentsWithStats(class_region, connectivity8) for i in range(1, num_labels): if stats[i, cv2.CC_STAT_AREA] min_object_size: # 将过小的连通域置为背景0 processed_mask[labels i] 0 return processed_mask形态学操作使用开运算先腐蚀后膨胀去除毛刺使用闭运算先膨胀后腐蚀填充小孔洞使分割边界更平滑。kernel np.ones((3,3), np.uint8) smoothed_mask cv2.morphologyEx(pred_mask.astype(np.uint8), cv2.MORPH_CLOSE, kernel) smoothed_mask cv2.morphologyEx(smoothed_mask, cv2.MORPH_OPEN, kernel)5.2 生成提交文件严格按照赛方要求的格式生成文件。如果是图像文件注意保存时的数据类型uint8、色彩映射colormap和压缩选项。import rasterio from rasterio.transform import from_origin def save_submission_geotiff(pred_array, output_path, template_meta): pred_array: 预测结果数组 (H, W) template_meta: 从原始影像读取的元数据包含坐标系、变换等信息 # 更新元数据以匹配预测结果 out_meta template_meta.copy() out_meta.update({ driver: GTiff, height: pred_array.shape[0], width: pred_array.shape[1], count: 1, # 单波段 dtype: uint8, # 根据类别数量确定如小于256类用uint8 compress: lzw # 使用压缩减少文件大小 }) with rasterio.open(output_path, w, **out_meta) as dest: dest.write(pred_array, 1) print(f提交文件已保存至: {output_path})5.3 常见错误与排查清单在最后提交阶段最容易因细节疏忽而失败。请对照检查维度不匹配提交的预测图尺寸是否与测试图完全一致用pred.shape test_img.shape[:2]验证。类别索引错误标签的类别索引是否从0开始连续提交文件中是否包含了背景类通常是0确保你的预测类别索引与赛方定义完全一致。文件格式与命名文件后缀是.tif还是.png文件名是否要求包含团队ID或时间戳是否要求打包成ZIP数值范围保存为PNG时像素值是否在0-255之间保存为GeoTIFF时数据类型是否正确内存溢出处理大图时是否采用了滑动窗口预测是否在预测后及时释放了GPU内存torch.cuda.empty_cache()一个稳妥的做法是先用验证集模拟提交流程用验证集图像做预测后处理保存成要求的格式然后自己写一个小脚本按照比赛指标计算一下分数确保整个pipeline无误后再应用到真正的测试集上。6. 进阶优化与效率提升思路当你的基线模型跑通分数也达到一个基本水平后就可以考虑一些进阶策略来冲击更好的名次了。6.1 利用预训练与领域自适应在自然图像上预训练的模型如ImageNet预训练的ResNet是一个强大的起点。但对于遥感影像光谱特征与自然图像差异很大。可以考虑在更大的遥感数据集上做预训练如果有条件可以在类似任务的大规模遥感数据集如LoveDA、DeepGlobe上先预训练一个模型再在自己的任务上微调。领域自适应如果比赛提供的训练数据和测试数据来自不同区域、不同季节或不同传感器可能存在分布差异。可以采用一些无监督领域自适应UDA技术尝试对齐特征分布。6.2 设计针对性的模型结构多尺度特征融合遥感物体尺度多变在编码器部分使用特征金字塔网络FPN或在解码器部分使用注意力门控机制帮助模型更好地融合深层语义信息和浅层细节信息。时序信息建模对于多时序数据简单的时序平均可能损失了重要变化信息。可以尝试3D CNN将时序作为深度维度使用3D卷积核同时提取时空特征。ConvLSTM/Transformer在空间特征提取后使用循环神经网络或Transformer模块来建模时间序列上的依赖关系。6.3 自动化超参数搜索与实验管理手动调参效率低下。可以引入自动化工具超参数优化库如Optuna、Ray Tune。你可以定义要搜索的参数空间学习率、批大小、损失函数权重等和目标指标验证集mIoU让框架自动运行大量实验并找到较优组合。实验跟踪使用Weights Biases (WB)或MLflow。它们能自动记录每一次实验的代码版本、超参数、训练曲线、验证指标甚至预测样例让你能清晰对比不同实验的结果快速定位有效改进点。6.4 伪标签与半监督学习如果比赛允许使用外部数据或者测试集数量很大伪标签是一个强大的技巧。其核心思想是用当前训练好的模型对测试集或无标签数据进行预测将高置信度的预测结果作为“伪标签”加入到训练集中重新训练模型。这个过程可以迭代进行往往能有效提升模型在测试集上的表现。但要注意防止错误标签的累积需要设置较高的置信度阈值。整个天池AI Earth Task02的旅程就像完成一个精密的工程项目。从理解蓝图赛题、准备建材数据、搭建脚手架环境与管道、制造核心部件模型训练、到最终质检和交付后处理与提交每一步都需要耐心和细心。最大的收获往往不是最后的排名而是在解决一个个具体问题中积累的、关于数据、模型和代码的深刻认知。当你第一次看到自己的模型在陌生的测试影像上勾勒出清晰准确的地物边界时那种成就感就是驱动我们不断向前的最大动力。记住在竞赛中一个稳定可靠的基线模型加上持续不断的、有针对性的迭代优化远比追求复杂但不可控的“奇技淫巧”要有效得多。