|
|
|
|
@ -0,0 +1,202 @@
|
|
|
|
|
# 建立神经网络
|
|
|
|
|
|
|
|
|
|
import tensorflow as tf
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
# 网络结构定义
|
|
|
|
|
# 输入参数：images，image batch、4D tensor、tf.float32、[batch_size, width, height, channels]
|
|
|
|
|
# 返回参数：logits, float、 [batch_size, n_classes]
|
|
|
|
|
def inference(images, batch_size, n_classes):
|
|
|
|
|
# 构建一个简单的卷积神经网络，其中（卷积+池化层）x2，全连接层x2，最后一个softmax层做分类。
|
|
|
|
|
|
|
|
|
|
# 卷积层1
|
|
|
|
|
# 64个3x3的卷积核（3通道），padding=’SAME’，表示padding后卷积的图与原图尺寸一致，激活函数relu()
|
|
|
|
|
# tf.variable_scope 可以让变量有相同的命名，包括tf.get_variable得到的变量，还有tf.Variable变量
|
|
|
|
|
# 它返回的是一个用于定义创建variable(层)的op的上下文管理器。
|
|
|
|
|
with tf.compat.v1.variable_scope('conv1') as scope:
|
|
|
|
|
# tf.truncated_normal截断的产生正态分布的随机数，即随机数与均值的差值若大于两倍的标准差，则重新生成。
|
|
|
|
|
# shape，生成张量的维度
|
|
|
|
|
# mean，均值
|
|
|
|
|
# stddev，标准差
|
|
|
|
|
weights = tf.Variable(tf.random.truncated_normal(shape=[3, 3, 3, 64], stddev=1.0, dtype=tf.float32),
|
|
|
|
|
name='weights', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
# 偏置biases计算
|
|
|
|
|
# shape表示生成张量的维度
|
|
|
|
|
# 生成初始值为0.1的偏执biases
|
|
|
|
|
biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[64]),
|
|
|
|
|
name='biases', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
# 卷积层计算
|
|
|
|
|
# 输入图片x和所用卷积核w
|
|
|
|
|
# x是对输入的描述，是一个4阶张量：
|
|
|
|
|
# 比如：[batch,5,5,3]
|
|
|
|
|
# 第一阶给出一次喂入多少张图片也就是batch
|
|
|
|
|
# 第二阶给出图片的行分辨率
|
|
|
|
|
# 第三阶给出图片的列分辨率
|
|
|
|
|
# 第四阶给出输入的通道数
|
|
|
|
|
# w是对卷积核的描述，也是一个4阶张量：
|
|
|
|
|
# 比如：[3,3,3,16]
|
|
|
|
|
# 第一阶第二阶分别给出卷积行列分辨率
|
|
|
|
|
# 第三阶是通道数
|
|
|
|
|
# 第四阶是有多少个卷积核
|
|
|
|
|
# strides卷积核滑动步长：[1,1,1,1]
|
|
|
|
|
# 第二阶第三阶表示横向纵向滑动的步长
|
|
|
|
|
# 第一和第四阶固定为1
|
|
|
|
|
# 使用0填充，所以padding值为SAME
|
|
|
|
|
conv = tf.nn.conv2d(images, weights, strides=[1, 1, 1, 1], padding='SAME')
|
|
|
|
|
|
|
|
|
|
# 非线性激活
|
|
|
|
|
# 对卷积后的conv1添加偏执，通过relu激活函数
|
|
|
|
|
pre_activation = tf.nn.bias_add(conv, biases)
|
|
|
|
|
|
|
|
|
|
conv1 = tf.nn.relu(pre_activation, name=scope.name)
|
|
|
|
|
|
|
|
|
|
# 池化层1
|
|
|
|
|
# 3x3最大池化，步长strides为2，池化后执行lrn()操作，局部响应归一化，对训练有利。
|
|
|
|
|
# 最大池化层计算
|
|
|
|
|
# x是对输入的描述，是一个四阶张量：
|
|
|
|
|
# 比如：[batch,28,28,6]
|
|
|
|
|
# 第一阶给出一次喂入多少张图片batch
|
|
|
|
|
# 第二阶给出图片的行分辨率
|
|
|
|
|
# 第三阶给出图片的列分辨率
|
|
|
|
|
# 第四阶输入通道数
|
|
|
|
|
# 池化核大小2*2的
|
|
|
|
|
# 行列步长都是2
|
|
|
|
|
# 使用SAME的padding
|
|
|
|
|
with tf.compat.v1.variable_scope('pooling1_lrn') as scope:
|
|
|
|
|
pool1 = tf.nn.max_pool(conv1, ksize=[1, 3, 3, 1], strides=[1, 2, 2, 1], padding='SAME', name='pooling1')
|
|
|
|
|
|
|
|
|
|
# 局部响应归一化函数tf.nn.lrn
|
|
|
|
|
norm1 = tf.nn.lrn(pool1, depth_radius=4, bias=1.0, alpha=0.001 / 9.0, beta=0.75, name='norm1')
|
|
|
|
|
|
|
|
|
|
# 卷积层2
|
|
|
|
|
# 16个3x3的卷积核（16通道），padding=’SAME’，表示padding后卷积的图与原图尺寸一致，激活函数relu()
|
|
|
|
|
with tf.compat.v1.variable_scope('conv2') as scope:
|
|
|
|
|
weights = tf.Variable(tf.random.truncated_normal(shape=[3, 3, 64, 16], stddev=0.1, dtype=tf.float32),
|
|
|
|
|
name='weights', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[16]),
|
|
|
|
|
name='biases', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
conv = tf.nn.conv2d(norm1, weights, strides=[1, 1, 1, 1], padding='SAME')
|
|
|
|
|
|
|
|
|
|
pre_activation = tf.nn.bias_add(conv, biases)
|
|
|
|
|
|
|
|
|
|
conv2 = tf.nn.relu(pre_activation, name='conv2')
|
|
|
|
|
|
|
|
|
|
# 池化层2
|
|
|
|
|
# 3x3最大池化，步长strides为2，池化后执行lrn()操作，
|
|
|
|
|
# pool2 and norm2
|
|
|
|
|
with tf.compat.v1.variable_scope('pooling2_lrn') as scope:
|
|
|
|
|
norm2 = tf.nn.lrn(conv2, depth_radius=4, bias=1.0, alpha=0.001 / 9.0, beta=0.75, name='norm2')
|
|
|
|
|
|
|
|
|
|
pool2 = tf.nn.max_pool(norm2, ksize=[1, 3, 3, 1], strides=[1, 1, 1, 1], padding='SAME', name='pooling2')
|
|
|
|
|
|
|
|
|
|
# 全连接层3
|
|
|
|
|
# 128个神经元，将之前pool层的输出reshape成一行，激活函数relu()
|
|
|
|
|
with tf.compat.v1.variable_scope('local3') as scope:
|
|
|
|
|
# 函数的作用是将tensor变换为参数shape的形式。 其中shape为一个列表形式，特殊的一点是列表中可以存在-1。
|
|
|
|
|
# -1代表的含义是不用我们自己指定这一维的大小，函数会自动计算，但列表中只能存在一个-1。
|
|
|
|
|
reshape = tf.reshape(pool2, shape=[batch_size, -1])
|
|
|
|
|
|
|
|
|
|
# get_shape返回的是一个元组
|
|
|
|
|
dim = reshape.get_shape()[1].value
|
|
|
|
|
|
|
|
|
|
weights = tf.Variable(tf.random.truncated_normal(shape=[dim, 128], stddev=0.005, dtype=tf.float32),
|
|
|
|
|
name='weights', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[128]),
|
|
|
|
|
name='biases', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
local3 = tf.nn.relu(tf.matmul(reshape, weights) + biases, name=scope.name)
|
|
|
|
|
|
|
|
|
|
# 全连接层4
|
|
|
|
|
# 128个神经元，激活函数relu()
|
|
|
|
|
with tf.compat.v1.variable_scope('local4') as scope:
|
|
|
|
|
weights = tf.Variable(tf.random.truncated_normal(shape=[128, 128], stddev=0.005, dtype=tf.float32),
|
|
|
|
|
name='weights', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[128]),
|
|
|
|
|
name='biases', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
local4 = tf.nn.relu(tf.matmul(local3, weights) + biases, name='local4')
|
|
|
|
|
|
|
|
|
|
# dropout层
|
|
|
|
|
# with tf.variable_scope('dropout') as scope:
|
|
|
|
|
# drop_out = tf.nn.dropout(local4, 0.8)
|
|
|
|
|
|
|
|
|
|
# Softmax回归层
|
|
|
|
|
# 将前面的FC层输出，做一个线性回归，计算出每一类的得分，在这里是2类，所以这个层输出的是两个得分。
|
|
|
|
|
with tf.compat.v1.variable_scope('softmax_linear') as scope:
|
|
|
|
|
weights = tf.Variable(tf.random.truncated_normal(shape=[128, n_classes], stddev=0.005, dtype=tf.float32),
|
|
|
|
|
name='softmax_linear', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[n_classes]),
|
|
|
|
|
name='biases', dtype=tf.float32)
|
|
|
|
|
|
|
|
|
|
softmax_linear = tf.add(tf.matmul(local4, weights), biases, name='softmax_linear')
|
|
|
|
|
|
|
|
|
|
return softmax_linear
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
# loss计算
|
|
|
|
|
# 传入参数：logits，网络计算输出值。labels，真实值，在这里是0或者1
|
|
|
|
|
# 返回参数：loss，损失值
|
|
|
|
|
def losses(logits, labels):
|
|
|
|
|
with tf.compat.v1.variable_scope('loss') as scope:
|
|
|
|
|
# 传入的logits为神经网络输出层的输出，shape为[batch_size，num_classes]，
|
|
|
|
|
# 传入的label为一个一维的vector，长度等于batch_size，
|
|
|
|
|
# 每一个值的取值区间必须是[0，num_classes)，其实每一个值就是代表了batch中对应样本的类别
|
|
|
|
|
cross_entropy = tf.nn.sparse_softmax_cross_entropy_with_logits(logits=logits, labels=labels,
|
|
|
|
|
name='xentropy_per_example')
|
|
|
|
|
|
|
|
|
|
# tf.reduce_mean 函数用于计算张量tensor沿着指定的数轴（tensor的某一维度）上的的平均值，
|
|
|
|
|
# 主要用作降维或者计算tensor（图像）的平均值。
|
|
|
|
|
loss = tf.reduce_mean(cross_entropy, name='loss')
|
|
|
|
|
|
|
|
|
|
# tf.summary.scalar用来显示标量信息
|
|
|
|
|
# 一般在画loss,accuary时会用到这个函数。
|
|
|
|
|
tf.summary.scalar(scope.name + '/loss', loss)
|
|
|
|
|
|
|
|
|
|
return loss
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
# loss损失值优化
|
|
|
|
|
# 输入参数：loss。learning_rate，学习速率。
|
|
|
|
|
# 返回参数：train_op，训练op，这个参数要输入sess.run中让模型去训练。
|
|
|
|
|
def trainning(loss, learning_rate):
|
|
|
|
|
with tf.name_scope('optimizer'):
|
|
|
|
|
# tf.train.AdamOptimizer()函数是Adam优化算法：是一个寻找全局最优点的优化算法，引入了二次方梯度校正。
|
|
|
|
|
# learning_rate：张量或浮点值。学习速率
|
|
|
|
|
optimizer = tf.compat.v1.train.AdamOptimizer(learning_rate=learning_rate)
|
|
|
|
|
|
|
|
|
|
global_step = tf.Variable(0, name='global_step', trainable=False)
|
|
|
|
|
|
|
|
|
|
# minimize() 实际上包含了两个步骤，即 compute_gradients 和 apply_gradients，
|
|
|
|
|
# 前者用于计算梯度，后者用于使用计算得到的梯度来更新对应的variable
|
|
|
|
|
train_op = optimizer.minimize(loss, global_step=global_step)
|
|
|
|
|
|
|
|
|
|
return train_op
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
# 评价/准确率计算
|
|
|
|
|
# 输入参数：logits，网络计算值。labels，标签，也就是真实值，在这里是0或者1。
|
|
|
|
|
# 返回参数：accuracy，当前step的平均准确率，也就是在这些batch中多少张图片被正确分类了。
|
|
|
|
|
def evaluation(logits, labels):
|
|
|
|
|
with tf.compat.v1.variable_scope('accuracy') as scope:
|
|
|
|
|
# tf.nn.in_top_k用于计算预测的结果和实际结果的是否相等，并返回一个bool类型的张量
|
|
|
|
|
correct = tf.nn.in_top_k(logits, labels, 1)
|
|
|
|
|
|
|
|
|
|
# tf.cast()函数的作用是执行 tensorflow 中张量数据类型转换
|
|
|
|
|
correct = tf.cast(correct, tf.float16)
|
|
|
|
|
|
|
|
|
|
# tf.reduce_mean计算张量的各个维度的元素的量
|
|
|
|
|
accuracy = tf.reduce_mean(correct)
|
|
|
|
|
|
|
|
|
|
# tf.summary.scalar用来显示标量信息
|
|
|
|
|
tf.summary.scalar(scope.name + '/accuracy', accuracy)
|
|
|
|
|
|
|
|
|
|
return accuracy
|
|
|
|
|
|
|
|
|
|
|
