2017年07月22日 by 清醒疯子

，Dropout。随便丢弃部分输出数据节点。创造新随机样本，增大样本量，减少特征数量，防止过拟合。bagging方法，对特征新种采样。 SGD参数难调试，SGD设置不同学习速率，结果可能差异

2017年07月25日 by 清醒疯子

性能评测指标。 2012年，Hinton学生Alex Krizhevsky提出LeNet更深更宽版深度神经网络模型AlexNet。首次在CNN用ReLU、Dropout、LRN等

2017年07月26日 by 清醒疯子

VGGNet，牛津大学计算机视觉组(Visual Geometry Group)和Google DeepMind公司一起研发，深度卷积神经网络。VGGNet反复堆叠3x3小型卷积核和2x2最大

2017年07月28日 by 清醒疯子

(AlexNet 6000万)。V1降低参数量目的，参数越多模型越庞大，需数据量越大，高质量数据昂贵；参数越多，耗费计算资源越大。模型层数更深，表达能力更强，去除最后全连接层，用全局平均池化层(图片尺寸变

2017年07月29日 by 清醒疯子

-T。前面一层信息，一定比例不经过矩阵乘法和非线性变换，直接传输下一层。Highway Network，gating units学习控制网络信息流，学习原始信息应保留比例。gating机制

2017年07月30日 by 清醒疯子

络研究进入快车道。 AlexNetx后，卷积神经网络，一类网络结构改进调整，一类网络深度增加。 Perceptron(1957

2017年08月07日 by 清醒疯子

Q-Learning，学习Action对应期望值(Expected Utility)。1989年，Watkins提出。收敛性，1992年，Watkins和Dayan共同证明。学习期望价值，从当

2017年07月08日 by 清醒疯子

Technology database)，简单机器视觉数据集，28X28像素手写数字，只有灰度值信息，空白部分为0,笔迹根据颜色深浅取[0, 1], 784维，丢弃二维空间信息，目标分0~9共10类。数据加载

2017年05月28日 by 清醒疯子

力。 tf.image.decodejpeg解码JPEG格式图像。tf.image.decodepng解码PNG格式图像。 差别在alpha(透明度)信息。移除区域

2017年05月30日 by 清醒疯子

AlexNet(Alex Krizhevsky,ILSVRC2012冠军)适合做图像分类。层自左向右、自上向下读取，关联层分为一组，高度、宽度减小，深度增加。深度增加减少网络计算量。