《TensorFlow深度学习算法原理与编程实战》

dense：全连接层

相当于添加一个层，即初学的add_layer()函数

tf.layers.dense(
    inputs,
    units,
    activation=None,
    use_bias=True,
    kernel_initializer=None,
    bias_initializer=tf.zeros_initializer(),
    kernel_regularizer=None,
    bias_regularizer=None,
    activity_regularizer=None,
    kernel_constraint=None,
    bias_constraint=None,
    trainable=True,
    name=None,
    reuse=None
)

• inputs:该层的输入。
• units: 输出的大小（维数），整数或long。
• activation: 使用什么激活函数（神经网络的非线性层），默认为None，不使用激活函数。
• use_bias: 使用bias为True（默认使用），不用bias改成False即可。
• kernel_initializer:权重矩阵的初始化函数。 如果为None（默认值），则使用tf.get_variable使用的默认初始化程序初始化权重。
• bias_initializer:bias的初始化函数。
• kernel_regularizer：权重矩阵的正则函数。
• bias_regularizer：bias的的正则函数。
• activity_regularizer:输出的的正则函数。
• kernel_constraint:由优化器更新后应用于内核的可选投影函数（例如，用于实现层权重的范数约束或值约束）。 该函数必须将未投影的变量作为输入，并且必须返回投影变量（必须具有相同的形状）。 在进行异步分布式培训时，使用约束是不安全的。
• bias_constraint:由优化器更新后应用于偏差的可选投影函数。
• trainable:Boolean，如果为True，还将变量添加到图集collectionGraphKeys.TRAINABLE_VARIABLES（参见tf.Variable）。
• name:名字
• reuse:Boolean，是否以同一名称重用前一层的权重。