1. RT-DETR训练自定义数据集的典型问题与解决方案最近在用PyTorch版本的RT-DETR训练自己的数据集时遇到了不少坑。这里把我踩过的雷和解决方案整理出来希望能帮到同样在折腾这个模型的开发者们。RT-DETR作为基于Transformer的目标检测模型相比传统CNN-based方法有不少优势但在实际训练过程中特别是处理自定义数据集时总会遇到一些意想不到的问题。先说说我的环境配置PyTorch 1.12.1 CUDA 11.3这个组合在大多数情况下表现稳定。不过要注意不同版本的PyTorch可能会遇到不同的问题特别是涉及到一些底层API变动时。下面我就把几个最常见的问题和解决方法详细说明一下。2. 常见错误分析与修复2.1 meshgrid()参数错误第一个坑出现在数据预处理阶段错误信息是这样的meshgrid() got an unexpected keyword argument indexing这个问题源于PyTorch版本更新导致的API变更。在较新版本的PyTorch中torch.meshgrid()函数确实支持indexing参数但在某些环境中这个参数会引发错误。解决方法很简单找到报错位置的代码torch.meshgrid([torch.arange(hsize), torch.arange(wsize)], indexingij)把它改成torch.meshgrid([torch.arange(hsize), torch.arange(wsize)])这个改动虽然小但很关键。我查了PyTorch的文档发现这个indexing参数在不同版本中的行为确实有差异。如果你不确定自己用的PyTorch版本是否支持这个参数最保险的做法就是去掉它。2.2 类别标签映射错误第二个问题出现在数据集加载阶段报错信息是classes [label2category[obj[category_id]]for obj in anno] keyError:0这个问题困扰了我挺久最后发现是数据集配置文件的问题。RT-DETR默认使用的是COCO数据集的标签映射而我们的自定义数据集可能有不同的类别编号。解决方法是在数据集的YAML配置文件中找到这一行remap_mscoco_category: True把它改为remap_mscoco_category: False这个改动告诉模型不要使用COCO的类别映射而是直接使用数据集原始的类别ID。记得改完后要检查一下你的标注文件确保类别ID是从0或1开始的连续整数中间不要有跳跃。3. 数值类型相关问题3.1 numpy.float64类型错误训练过程中遇到了这个错误TypeError: numpy.float64 object cannot be interpreted as an integer这个问题出现在评估指标计算阶段具体是在计算IoU阈值和召回率阈值时。原始代码是这样的self.iouThrs np.linspace(.5, 0.95, np.round((0.95 - .5) / .05) 1, endpointTrue) self.recThrs np.linspace(.0, 1.00, np.round((1.00 - .0) / .01) 1, endpointTrue)问题出在np.round()返回的是float类型而np.linspace的第三个参数需要是整数。修复方法很简单加上int()转换self.iouThrs np.linspace(.5, 0.95, int(np.round((0.95 - .5) / .05) 1), endpointTrue) self.recThrs np.linspace(.0, 1.00, int(np.round((1.00 - .0) / .01) 1), endpointTrue)这个小改动解决了类型不匹配的问题。在实际项目中这类数值类型的问题很常见特别是当代码在不同版本的库之间迁移时。3.2 numpy.float属性不存在另一个numpy相关的问题是AttributeError: module numpy has no attribute float. np.float was a deprecated alias for the builtin float.这个问题是因为从numpy 1.24版本开始np.float被移除了。如果你的代码中直接使用了np.float就会报这个错。解决方法有两种降级numpy版本pip install numpy1.23.5修改代码用Python内置的float代替np.float# 把所有的np.float替换为float我推荐第二种方法因为降级库版本可能会带来其他兼容性问题。不过如果你的项目依赖的其他库需要特定版本的numpy可能就得选择降级方案了。4. 训练过程中的实用技巧除了上述具体问题我还总结了一些训练RT-DETR的实用经验。首先是学习率设置RT-DETR对学习率比较敏感建议从较小的值开始尝试比如3e-5然后根据训练情况逐步调整。其次是数据增强RT-DETR默认的增强策略可能不适合所有数据集。如果你的数据集比较小可以适当增加一些增强手段比如随机裁剪、颜色抖动等。但要注意过多的增强可能会导致模型难以收敛。最后是训练时长RT-DETR相比传统检测器通常需要更长的训练时间。不要急于在几个epoch后就判断模型表现建议至少训练50-100个epoch再评估效果。