博客
关于我
暑期 tensorflow+CNN+mnist
阅读量:168 次
发布时间:2019-02-27

本文共 451 字,大约阅读时间需要 1 分钟。

暑期 tensorflow+CNN+mnist

  • kaggle官网的mnist数据集,格式为csv。
  • 图像像素点数据归一化,减少浮动差异。
  • 根据预先计算好的数据指标,进行设计。
  • 标签进行独热编码。
  • 划分数据集为:train、val。
  • 初始化卷积层和全连接层的权重、偏置等参数。
  • 设计代价函数,进行优化。
  • 训练、验证。

关于交叉熵函数

  • 参考网址:

  • 有很多不同的度量方法在数据上训练评判。一般的方法是均方或欧氏距离。当然这里也有对神经网络的其它方法,如交叉熵代价函数。该算法计算公式如下图:

cost

  • 在公式中,y是预测生成的概率分布,y’是训练数据集中标注的真实分布。如果不探讨公式背后的原理的话,我们仅需了解当两个分布完全一致时,此时函数取得最小值。

代码的解说有以下参考博客

代码的一个小疑问

  • 下图代码里的的if(VALIDATION_SIZE) : else:条件是什么意思什么用意呢?

code

  • 学习交流群里大神认为可能是:数据集中的validation集如果分配了数据,则执行两种精确度的计算;否则只打印训练精确度
你可能感兴趣的文章
MySQL 是如何加锁的?
查看>>
MySQL 是怎样运行的 - InnoDB数据页结构
查看>>
mysql 更新子表_mysql 在update中实现子查询的方式
查看>>
MySQL 有什么优点?
查看>>
mysql 权限整理记录
查看>>
mysql 权限登录问题:ERROR 1045 (28000): Access denied for user ‘root‘@‘localhost‘ (using password: YES)
查看>>
MYSQL 查看最大连接数和修改最大连接数
查看>>
MySQL 查看有哪些表
查看>>
mysql 查看锁_阿里/美团/字节面试官必问的Mysql锁机制,你真的明白吗
查看>>
MySql 查询以逗号分隔的字符串的方法(正则)
查看>>
MySQL 查询优化:提速查询效率的13大秘籍(避免使用SELECT 、分页查询的优化、合理使用连接、子查询的优化)(上)
查看>>
mysql 查询,正数降序排序,负数升序排序
查看>>
MySQL 树形结构 根据指定节点 获取其下属的所有子节点(包含路径上的枝干节点和叶子节点)...
查看>>
mysql 死锁 Deadlock found when trying to get lock; try restarting transaction
查看>>
mysql 死锁(先delete 后insert)日志分析
查看>>
MySQL 死锁了,怎么办?
查看>>
MySQL 深度分页性能急剧下降,该如何优化?
查看>>
MySQL 深度分页性能急剧下降,该如何优化?
查看>>
MySQL 添加列,修改列,删除列
查看>>
mysql 添加索引
查看>>