什么是Dense模型？
Dense模型（也称为全连接模型）是神经网络中最基础且常见的结构之一。在Dense层中，每个输入节点都与输出节点完全连接，因此得名“Dense”。 它广泛应用于分类、回归等任务，也是构建更复杂模型（如DenseNet）的基础组件。
Dense模型的核心特点
- 全连接结构：每一层的神经元与下一层所有神经元相连。
- 参数量大：由于连接密集，模型参数数量通常较多。
- 表达能力强：适合处理特征之间高度非线性的关系。
- 常用于输出层：如分类任务中的Softmax层通常为Dense层。
Dense模型 vs DenseNet
需注意的是，“Dense模型”有时会被与DenseNet（Densely Connected Convolutional Networks）混淆。 DenseNet是一种卷积神经网络架构，其特点是每一层都直接连接到后续所有层，以增强梯度流动和特征复用。 而本文所指的Dense模型，特指传统的全连接神经网络层。
典型应用场景
- 图像分类的最后几层
- 自然语言处理中的嵌入映射
- 多层感知机（MLP）的核心组成
- 作为其他复杂模型（如Transformer）的前馈网络部分