原论文地址：原论文下载地址
优点：使得网络更容易训练，参数更小且计算更高效
摘要：最近的研究表明，如果卷积网络在靠近输入和接近输出的层之间包含更短的连接，那么卷积网络可以更深入、更准确、更有效地训练。在本文中，我们接受了这一观察结果，并引入了密集卷积网络(DenseNet)，它以前馈方式将每一层连接到其他每一层。传统的L层卷积网络有L个连接——每层和后续层之间有一个连接——而我们的网络有L(L+1) 2个直接连接。对于每一层，使用所有前一层的特征映射作为输入，并使用其自身的特征映射作为所有后续层的输入。DenseNets有几个引人注目的优点:它们缓解了梯度消失问题，加强了特征传播，鼓励特征重用，并大大减少了参数的数量。
之前的工作表明，如果卷积网络在靠近输入的层和靠近输出的层之间包含较短的连接，则它们可以更深、更准确和更有效地训练。在本文中，我们接受了这一观察并介绍了密集卷积网络（DenseNet），其中每一层以前馈方式直接连接到其他每一层。而传统的卷积网络L层有L连接，每一层与其后续层之间的连接（将输入视为层)，我们的网络有L ( L + 1 )\ 2 )直接连接.
代码文件：
import torch
import torch.nn as nn
import torch.nn.functional as F
import torch.utils.checkpoint as cp
from torch.jit.annotations import List
from timm.models.layers import BatchNormAct2d
