论文标题:LiDAR-Camera Panoptic Segmentation via Geometry-Consistent and Semantic-Aware Alignment论文链接:https://arxiv.org/abs/2308.01686代码链接(Come Soon):https://github.com/zhangzw12319/lcps.git我们提出了首个基于激光雷达-摄像头多模态融合的全景分割网络(Lidar-Camera Panoptic Segmentation, LCPS)。在此方法中,我们分三个阶段进行激光雷达-摄像头特征融合:1) 基于异步补偿的像素对齐模块(ACPA),用于校准传感器之间工作频率不同引起的坐标错位问题;2) 基于语义感知的区域对齐模块(SARA),通过弱监督类激活图(CAM)方法将一对一的“点-像素”映射关系扩展到一对多的映射关系,并保持语义一致性; 3)点-体素的特征传播模块(PVP),集成相机视野内外的点云全场景信息。我们的多模态融合策略在NuScenes 数据集和SemanticKITTI 数据集上比LiDAR单模态基线提高了约 6.9% 和3.3% 性能。广泛的定量
………………………………