DETR 【目标检测里程碑的任务】-编程知识

DETR 【目标检测里程碑的任务】

paper with code - DETR

标题

End-to-End Object Detection with Transformers

end-to-end 意味着去掉了NMS的操作（生成很多的预测框，nms 去掉冗余的预测框）。因为有了NMS ，所以调参，训练都会多了一道工序，都会比较复杂和麻烦，不是所有硬件都支持的。

所以一个【端到端 detr】解决了上述的问题，把目标检测转化成了集合预测的问题。

DETR 不再出很多冗余的框，一下就让模型训练和部署变得很简单。

【全新的架构】

摘要

补一嘴。目标检测任务天然的就不适合自回归的架构(GPT系列)。理解一下：检测大物体，不需要依赖检测小物体，检测右边的物体也不需要先检测左边的物体。且自回归是顺序推理，目标检测想要的一定是并行的一起出框。

引言

之前的一些工作都是不是直接预测目标框，而是设计了一些回归任务来生成了很多接近重复的框。

proposal Faster rcnn Cascade R-CNN 通过使用一系列逐级训练IoU阈值逐渐增加的检测器来解决高质量检测的问题
anchor RetinaNet 提出新的损失函数 focal loss
window centers object as points 新的物体检测方法，即将物体表示为一个点，通过关键点估计来找到物体中心点

再用nms来去除重复的框。所以需要很多的先验知识来设计NMS,如何可以好的去除这些冗余的框。DETR的目标就是消除这个鸿沟。

模型架构

训练整个流程分为以下四步：

用cnn去抽特征。把特征拉直送给transformer
encoder的作用就是学习这些全局的信息，使用encoder的好处是：每一个像素点或者说每一个特征都和其他的特征有交互了，那么就大概可以知道哪块是哪个物体，对于同一个物体就应该只出一个框。
decoder的作用生成框的输出。object query 。 query 限定了要出多少个框。query和self-attention做交互，从而得出了最后的框。默认是100。那么问题来了，这100个框怎么得到最后的ground truth呢？
使用了二分图匹配算法。
预测的框和ground truth的框做匹配，再匹配的框里面去算目标检测的loss。

（补充知识）DETR的二分图匹配损失函数是如何工作的？

DETR的全局损失函数采用了一个称为二分图匹配的方法，通过这种方法可以实现预测与实际目标的唯一匹配。在训练过程中，DETR会推断出一个固定大小的N个预测对象集合，然后通过最优的二分图匹配算法将这些预测对象与实际目标进行匹配。在匹配完成后，会对每个对象的特定损失（如边界框损失）进行优化。这个匹配的过程类似于用于将提议框或锚点与实际目标进行匹配的启发式分配规则。不同之处在于，DETR需要在直接集预测的情况下找到一对一的匹配，而不会出现重复的匹配。实际上，在匹配成本中，对于对象和空集之间的匹配成本并不依赖于预测结果，这意味着在这种情况下，成本是一个常数。DETR的全局损失函数还考虑了类别预测项，通过使用概率而不是对数概率，使得类别预测项与边界框损失项具有可比性，并且在实验中观察到了更好的性能表现。

推理的流程