From cfd41e1e9adca61b87b05c442595651cfce7abdc Mon Sep 17 00:00:00 2001 From: p752m8wit <2053833939@qq.com> Date: Tue, 9 Nov 2021 17:37:11 +0800 Subject: [PATCH] ADD file via upload --- code/python/forward.py | 202 +++++++++++++++++++++++++++++++++++++++++ 1 file changed, 202 insertions(+) create mode 100644 code/python/forward.py diff --git a/code/python/forward.py b/code/python/forward.py new file mode 100644 index 0000000..872375f --- /dev/null +++ b/code/python/forward.py @@ -0,0 +1,202 @@ +# 建立神经网络 + +import tensorflow as tf + + +# 网络结构定义 +# 输入参数：images，image batch、4D tensor、tf.float32、[batch_size, width, height, channels] +# 返回参数：logits, float、 [batch_size, n_classes] +def inference(images, batch_size, n_classes): + # 构建一个简单的卷积神经网络，其中（卷积+池化层）x2，全连接层x2，最后一个softmax层做分类。 + + # 卷积层1 + # 64个3x3的卷积核（3通道），padding=’SAME’，表示padding后卷积的图与原图尺寸一致，激活函数relu() + # tf.variable_scope 可以让变量有相同的命名，包括tf.get_variable得到的变量，还有tf.Variable变量 + # 它返回的是一个用于定义创建variable(层)的op的上下文管理器。 + with tf.compat.v1.variable_scope('conv1') as scope: + # tf.truncated_normal截断的产生正态分布的随机数，即随机数与均值的差值若大于两倍的标准差，则重新生成。 + # shape，生成张量的维度 + # mean，均值 + # stddev，标准差 + weights = tf.Variable(tf.random.truncated_normal(shape=[3, 3, 3, 64], stddev=1.0, dtype=tf.float32), + name='weights', dtype=tf.float32) + + # 偏置biases计算 + # shape表示生成张量的维度 + # 生成初始值为0.1的偏执biases + biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[64]), + name='biases', dtype=tf.float32) + + # 卷积层计算 + # 输入图片x和所用卷积核w + # x是对输入的描述，是一个4阶张量： + # 比如：[batch,5,5,3] + # 第一阶给出一次喂入多少张图片也就是batch + # 第二阶给出图片的行分辨率 + # 第三阶给出图片的列分辨率 + # 第四阶给出输入的通道数 + # w是对卷积核的描述，也是一个4阶张量： + # 比如：[3,3,3,16] + # 第一阶第二阶分别给出卷积行列分辨率 + # 第三阶是通道数 + # 第四阶是有多少个卷积核 + # strides卷积核滑动步长：[1,1,1,1] + # 第二阶第三阶表示横向纵向滑动的步长 + # 第一和第四阶固定为1 + # 使用0填充，所以padding值为SAME + conv = tf.nn.conv2d(images, weights, strides=[1, 1, 1, 1], padding='SAME') + + # 非线性激活 + # 对卷积后的conv1添加偏执，通过relu激活函数 + pre_activation = tf.nn.bias_add(conv, biases) + + conv1 = tf.nn.relu(pre_activation, name=scope.name) + + # 池化层1 + # 3x3最大池化，步长strides为2，池化后执行lrn()操作，局部响应归一化，对训练有利。 + # 最大池化层计算 + # x是对输入的描述，是一个四阶张量： + # 比如：[batch,28,28,6] + # 第一阶给出一次喂入多少张图片batch + # 第二阶给出图片的行分辨率 + # 第三阶给出图片的列分辨率 + # 第四阶输入通道数 + # 池化核大小2*2的 + # 行列步长都是2 + # 使用SAME的padding + with tf.compat.v1.variable_scope('pooling1_lrn') as scope: + pool1 = tf.nn.max_pool(conv1, ksize=[1, 3, 3, 1], strides=[1, 2, 2, 1], padding='SAME', name='pooling1') + + # 局部响应归一化函数tf.nn.lrn + norm1 = tf.nn.lrn(pool1, depth_radius=4, bias=1.0, alpha=0.001 / 9.0, beta=0.75, name='norm1') + + # 卷积层2 + # 16个3x3的卷积核（16通道），padding=’SAME’，表示padding后卷积的图与原图尺寸一致，激活函数relu() + with tf.compat.v1.variable_scope('conv2') as scope: + weights = tf.Variable(tf.random.truncated_normal(shape=[3, 3, 64, 16], stddev=0.1, dtype=tf.float32), + name='weights', dtype=tf.float32) + + biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[16]), + name='biases', dtype=tf.float32) + + conv = tf.nn.conv2d(norm1, weights, strides=[1, 1, 1, 1], padding='SAME') + + pre_activation = tf.nn.bias_add(conv, biases) + + conv2 = tf.nn.relu(pre_activation, name='conv2') + + # 池化层2 + # 3x3最大池化，步长strides为2，池化后执行lrn()操作， + # pool2 and norm2 + with tf.compat.v1.variable_scope('pooling2_lrn') as scope: + norm2 = tf.nn.lrn(conv2, depth_radius=4, bias=1.0, alpha=0.001 / 9.0, beta=0.75, name='norm2') + + pool2 = tf.nn.max_pool(norm2, ksize=[1, 3, 3, 1], strides=[1, 1, 1, 1], padding='SAME', name='pooling2') + + # 全连接层3 + # 128个神经元，将之前pool层的输出reshape成一行，激活函数relu() + with tf.compat.v1.variable_scope('local3') as scope: + # 函数的作用是将tensor变换为参数shape的形式。 其中shape为一个列表形式，特殊的一点是列表中可以存在-1。 + # -1代表的含义是不用我们自己指定这一维的大小，函数会自动计算，但列表中只能存在一个-1。 + reshape = tf.reshape(pool2, shape=[batch_size, -1]) + + # get_shape返回的是一个元组 + dim = reshape.get_shape()[1].value + + weights = tf.Variable(tf.random.truncated_normal(shape=[dim, 128], stddev=0.005, dtype=tf.float32), + name='weights', dtype=tf.float32) + + biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[128]), + name='biases', dtype=tf.float32) + + local3 = tf.nn.relu(tf.matmul(reshape, weights) + biases, name=scope.name) + + # 全连接层4 + # 128个神经元，激活函数relu() + with tf.compat.v1.variable_scope('local4') as scope: + weights = tf.Variable(tf.random.truncated_normal(shape=[128, 128], stddev=0.005, dtype=tf.float32), + name='weights', dtype=tf.float32) + + biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[128]), + name='biases', dtype=tf.float32) + + local4 = tf.nn.relu(tf.matmul(local3, weights) + biases, name='local4') + + # dropout层 + # with tf.variable_scope('dropout') as scope: + # drop_out = tf.nn.dropout(local4, 0.8) + + # Softmax回归层 + # 将前面的FC层输出，做一个线性回归，计算出每一类的得分，在这里是2类，所以这个层输出的是两个得分。 + with tf.compat.v1.variable_scope('softmax_linear') as scope: + weights = tf.Variable(tf.random.truncated_normal(shape=[128, n_classes], stddev=0.005, dtype=tf.float32), + name='softmax_linear', dtype=tf.float32) + + biases = tf.Variable(tf.constant(value=0.1, dtype=tf.float32, shape=[n_classes]), + name='biases', dtype=tf.float32) + + softmax_linear = tf.add(tf.matmul(local4, weights), biases, name='softmax_linear') + + return softmax_linear + + +# loss计算 +# 传入参数：logits，网络计算输出值。labels，真实值，在这里是0或者1 +# 返回参数：loss，损失值 +def losses(logits, labels): + with tf.compat.v1.variable_scope('loss') as scope: + # 传入的logits为神经网络输出层的输出，shape为[batch_size，num_classes]， + # 传入的label为一个一维的vector，长度等于batch_size， + # 每一个值的取值区间必须是[0，num_classes)，其实每一个值就是代表了batch中对应样本的类别 + cross_entropy = tf.nn.sparse_softmax_cross_entropy_with_logits(logits=logits, labels=labels, + name='xentropy_per_example') + + # tf.reduce_mean 函数用于计算张量tensor沿着指定的数轴（tensor的某一维度）上的的平均值， + # 主要用作降维或者计算tensor（图像）的平均值。 + loss = tf.reduce_mean(cross_entropy, name='loss') + + # tf.summary.scalar用来显示标量信息 + # 一般在画loss,accuary时会用到这个函数。 + tf.summary.scalar(scope.name + '/loss', loss) + + return loss + + +# loss损失值优化 +# 输入参数：loss。learning_rate，学习速率。 +# 返回参数：train_op，训练op，这个参数要输入sess.run中让模型去训练。 +def trainning(loss, learning_rate): + with tf.name_scope('optimizer'): + # tf.train.AdamOptimizer()函数是Adam优化算法：是一个寻找全局最优点的优化算法，引入了二次方梯度校正。 + # learning_rate：张量或浮点值。学习速率 + optimizer = tf.compat.v1.train.AdamOptimizer(learning_rate=learning_rate) + + global_step = tf.Variable(0, name='global_step', trainable=False) + + # minimize() 实际上包含了两个步骤，即 compute_gradients 和 apply_gradients， + # 前者用于计算梯度，后者用于使用计算得到的梯度来更新对应的variable + train_op = optimizer.minimize(loss, global_step=global_step) + + return train_op + + +# 评价/准确率计算 +# 输入参数：logits，网络计算值。labels，标签，也就是真实值，在这里是0或者1。 +# 返回参数：accuracy，当前step的平均准确率，也就是在这些batch中多少张图片被正确分类了。 +def evaluation(logits, labels): + with tf.compat.v1.variable_scope('accuracy') as scope: + # tf.nn.in_top_k用于计算预测的结果和实际结果的是否相等，并返回一个bool类型的张量 + correct = tf.nn.in_top_k(logits, labels, 1) + + # tf.cast()函数的作用是执行 tensorflow 中张量数据类型转换 + correct = tf.cast(correct, tf.float16) + + # tf.reduce_mean计算张量的各个维度的元素的量 + accuracy = tf.reduce_mean(correct) + + # tf.summary.scalar用来显示标量信息 + tf.summary.scalar(scope.name + '/accuracy', accuracy) + + return accuracy + +