【TensorFlow】TensorFlow从浅入深系列之七教你使用验证数据集判断模型效果

本文是《TensorFlow从浅入深》系列之第7篇

TensorFlow从浅入深系列之一 -- 教你如何设置学习率&＃xff08;指数衰减法&＃xff09;

TensorFlow从浅入深系列之二 -- 教你通过思维导图深度理解深层神经网络

TensorFlow从浅入深系列之三 -- 教你如何对MNIST手写识别

TensorFlow从浅入深系列之四 -- 教你深入理解过拟合问题&＃xff08;正则化&＃xff09;

TensorFlow从浅入深系列之五 -- 教你详解滑动平均模型

TensorFlow从浅入深系列之六 -- 教你深入理解经典损失函数&＃xff08;交叉熵、均方误差&＃xff09;

在&＃xff08;TensorFlow从浅入深系列之三 -- 教你如何对MNIST手写识别&＃xff09;使用神经网络解决MNIST问题的程序中&＃xff0c;开始的位置设置了初始学习率、学习率衰减率、隐藏层节点数、迭代轮数等7中不同的参数。一般情况下&＃xff0c;配置神经网络的这些参数都是需要通过实验来调整的。

因为神经网络是对未知数据提供判断&＃xff0c;所以我们不能直接通过模型在测试数据上的效果来选择参数&＃xff0c;这样容易导致神经网络模型过度拟合测试数据&＃xff0c;从而失去对未知数据的预判能力。

所以&＃xff0c;为了顾及模型在未知数据上的效果&＃xff0c;需要保证测试数据在训练过程中是不可见的。

因此&＃xff0c;为了评测神经网络模型在不同参数下的效果&＃xff0c;一般会从训练数据中抽取一部分作为验证数据。使用验证数据评判不同参数取值下的表现。有时也可以采用交叉验证的方式来验证模型效果&＃xff0c;但是采用交叉验证会花费大量时间。所以在海里数据的情况下&＃xff0c;一般更多地采用验证数据集的形式来评判模型的效果。

在&＃xff08;TensorFlow从浅入深系列之三 -- 教你如何对MNIST手写识别&＃xff09;加入以下代码&＃xff0c;得到每1000轮迭代后&＃xff0c;使用滑动平均的模型在验证数据和测试数据上的正确率。

# 计算滑动平均模型在测试数据和验证数据上的正确率
validate_acc &＃61; sess.run(accuracy, feed_dict&＃61;validate_feed)
test_acc &＃61; sess.run(accuracy, feed_dict&＃61;test_feed)# 输出正确率信息。
print(&＃39;After %d training step(s), validation accuracy using average model is %g, &＃39; &＃39;test accuracy using average model is %g&＃39; % (i, validate_acc, test_acc))


图5-2给出了通过上面代码得到的每1000轮滑动平均模型在不同数据集上的正确率曲线。其中灰色曲线表示随着迭代轮数的增加&＃xff0c;模型在验证数据上的正确率&＃xff1b;黑色的曲线表示在测试数据上的正确率。从图中可以看出&＃xff0c;虽然这两条曲线不会完全重合&＃xff0c;但是这两条曲线的趋势基本一样&＃xff0c;而且他们的相关系数大于0.999。说明&＃xff0c;在MNIST问题上&＃xff0c;完全可以通过模型在验证数据上的表现来判断一个模型的优劣。

以上结论是针对MNIST数据集的&＃xff0c;对于其他问题&＃xff0c;需要具体问题具体分析。一般来说&＃xff0c;验证数据分布越接近测试数据分布&＃xff0c;模型在验证数据上的表现可以体现模型在测试数据上的表现。神经网络在验证数据上的效果来选取模型的参数是一个可行的方案。