0%

weekly-report-20201106

本周学习内容报告

本周学习了吴恩达的深度学习课程,主要包含的内容有机器学习的一些方法论,卷积神经网络的详解。另外就是进行了Tensorflow的编程练习,实现了卷积神经网络来对MNIST数据集的手写数字进行识别,经过调试,测试集的识别准确率达到了98%以上。并在Tensorflow上对经典的LeNet-5网络进行了实现,没有调试出比较好的训练结果。

Tensorflow实战

1、学会了在Tensorflow中利用dropout来减小方差,防止过拟合。

2、在MNIST手写数字识别网络中对比了不同的优化器的效果:GradientDescentOptimizer和AdamOptimizer,对比了均方误差和交叉熵作为误差函数时的效果。

3、学会了Tensorboard的使用。

4、构建卷积神经网路来对MNIST手写数字进行识别,训练集准确率:0.9918,测试集准确率:0.9832。

5、实现经典的LeNet-5进行MNIST手写数字的识别,没有调试出比较高的准确率。

吴恩达的深度学习理论课程——本周学习内容目录

第三门课 结构化机器学习项目 (Structuring Machine Learning Projects)

第一周:机器学习策略(1)(ML Strategy (1))

1.1 为什么是ML策略? (Why ML Strategy)

1.2 正交化(Orthogonalization)

1.3 单一数字评估指标(Single number evaluation metric)

1.4 满足和优化指标 (Satisficing and Optimizing metric)

1.5 训练集、开发集、测试集的划分(Train/dev/test distributions)

1.6 开发集和测试集的大小 (Size of the dev and test sets)

1.7 什么时候改变开发集/测试集和评估指标(When to change dev/test sets and metrics)

1.8 为什么是人的表现 (Why human-level performance?)

1.9 可避免偏差(Avoidable bias)

1.10 理解人类的表现 (Understanding human-level performance)

1.11 超过人类的表现(Surpassing human-level performance)

1.12 改善你的模型表现 (Improving your model performance)

第二周:机器学习策略(2)(ML Strategy (2))

2.1 误差分析 (Carrying out error analysis)

2.2 清除标注错误的数据(Cleaning up incorrectly labeled data)

2.3 快速搭建你的第一个系统,并进行迭代(Build your first system quickly, then iterate)

2.4 在不同的分布上的训练集和测试集 (Training and testing on different distributions)

2.5 数据分布不匹配的偏差与方差分析 (Bias and Variance with mismatched data distributions)

2.6 处理数据不匹配问题(Addressing data mismatch)

2.7 迁移学习 (Transfer learning)

2.8 多任务学习(Multi-task learning)

2.9 什么是端到端的深度学习? (What is end-to-end deep learning?)

2.10 是否使用端到端的深度学习方法 (Whether to use end-to-end deep learning)

第四门课 卷积神经网络(Convolutional Neural Networks)

第一周 卷积神经网络(Foundations of Convolutional Neural Networks)

2.1.1 计算机视觉(Computer vision)

1.2 边缘检测示例(Edge detection example)

1.3 更多边缘检测内容(More edge detection)

1.4 Padding

1.5 卷积步长(Strided convolutions)

1.6 三维卷积(Convolutions over volumes)

1.7 单层卷积网络(One layer of a convolutional network)

1.8 简单卷积网络示例(A simple convolution network example)

1.9 池化层(Pooling layers)

1.10 卷积神经网络示例(Convolutional neural network example)

1.11 为什么使用卷积?(Why convolutions?)

第二周 深度卷积网络:实例探究(Deep convolutional models: case studies)

2.1 为什么要进行实例探究?(Why look at case studies?)

2.2 经典网络(Classic networks)

2.3 残差网络(Residual Networks (ResNets))

2.4 残差网络为什么有用?(Why ResNets work?)

2.5 网络中的网络以及 1×1 卷积(Network in Network and 1×1 convolutions)

2.6 谷歌 Inception 网络简介(Inception network motivation)

2.7 Inception 网络(Inception network)

2.8 使用开源的实现方案(Using open-source implementations)

2.9 迁移学习(Transfer Learning)

2.10 数据扩充(Data augmentation)

2.11 计算机视觉现状(The state of computer vision)