Deep-Learning

项目介绍

此项目是对深度学习内容的梳理，包括深度学习的基础内容以及深度学习中的常见模型，以及深度学习中的常用技巧以及模型部署。

目录

• 深度学习基础
  • 数据
  • 神经网络基本工作原理
  • 神经网络训练过程
  • 神经网络的主要能力
  • 反向传播，梯度下降与损失函数
    • 反向传播
    • 梯度下降
    • 损失函数
  • 数据集
    • 数据集的处理方式
    • 分类样本不均衡问题
  • 过拟合与欠拟合
    • 偏差与方差
    • 过拟合处理方法
  • 评价指标
    • 回归问题常用评价指标
    • 分类问题常用评价指标
  • 集成学习
• 深度学习模型
  • 神经网络(Neural Network)
    • 线性回归
    • 非线性回归
    • 线性分类
    • 非线性分类
    • 深度神经网络(DNN)
  • 卷积神经网络(CNN)
    • 基本概念
    • 单通道与多通道卷积
    • 各种卷积操作
    • 卷积整体流程
    • CNN的应用
  • 循环神经网络(RNN)
    • 普通循环神经网络
    • 长短期记忆(LSTM)
    • 门控制循环单元(GRU)
    • 循环神经网络的应用
  • 序列到序列模型(seq2seq)
  • 注意力机制(Attention Mechanism)
• 图神经网络
  • 推荐资源
• 深度学习Tips
  • 权重矩阵初始化
  • 梯度下降优化算法
  • 学习率调整
  • 批量归一化(Batch Normalization)
  • 过拟合处理方法
    • 正则化
    • 早停法(Early Stopping)
    • 丢弃法(Dropout)
    • 数据增强
    • 集成学习(Ensemble Learning)
• 模型部署
  • ONNX
  • tensorflow serving
  • 实战
• 参考文献

推荐阅读

{% embed url="https://github.com/microsoft/ai-edu" %}

{% embed url="https://nndl.github.io/" %}

{% embed url="https://book.douban.com/subject/27087503/" %}

{% embed url="https://blog.csdn.net/malefactor/article/details/82051716" %}