Awesome DeepLearning
深度学习入门课、资深课、特色课、学术案例、产业实践案例、深度学习知识百科及面试题库The course, case and knowledge of Deep Learning and AI
Install / Use
/learn @PaddlePaddle/Awesome DeepLearningREADME
一、项目简介
本项目是飞桨官方出品的一站式深度学习在线百科，飞桨致力于让深度学习技术的创新与应用更简单，更多飞桨内容欢迎访问飞桨官网。本项目内容涵盖：
📒课程类：零基础实践深度学习、产业实践深度学习、特色课程、飞桨套件课程汇总资料
📒书籍类：《动手学深度学习》飞桨版
📒宝典类：深度学习百问、面试宝典
📒案例类：飞桨产业实践范例库（包含智慧城市：火灾烟雾检测、 安全帽检测 ；智能制造：钢材缺陷检测 、 机械手抓取；互联网：财报识别与关键字段抽取 等。
从理论到实践，从科研到产业应用，各类学习材料一应俱全，旨在帮助开发者高效地学习和掌握深度学习知识，快速成为AI跨界人才。
<center><img src="./docs/images/cover/repo_cover1.png" width=60%></center>- 内容全面：无论您是深度学习初学者，还是资深用户，都可以在本项目中快速获取到需要的学习材料。
- 形式丰富：材料形式多样，包括可在线运行的notebook、视频、书籍、B站直播等，满足您随时随地学习的需求。
- 实时更新：本项目中涉及到的代码均匹配Paddle最新发布版本，开发者可以实时学习最新的深度学习任务实现方案。
- 前沿分享：定期分享顶会最新论文解读和代码复现，开发者可以实时掌握最新的深度学习算法。
<span id = '0'>如果本项目对您有帮助，欢迎点击网页右上方进行star❤️</span>
👨🏫我是高校用户
| 我希望： | 我可以学习： | | ------------ | ------------------------------------------------------------ | | 入门深度学习 | 零基础实践深度学习:arrow_heading_down:、深度学习百问:arrow_heading_down:、动手学深度学习paddle版:arrow_heading_down: | | 进阶深度学习 | 产业实践深度学习、深度学习百问:arrow_heading_down:、面试宝典:arrow_heading_down: | | 趣味深度学习 | 特色课程:arrow_heading_down:、飞桨产业实践范例库 |
👨💻我是企业用户
| 我希望： | 我可以学习： | | ------------ | ------------------------------------------------------------ | | 入门深度学习 | 零基础实践深度学习:arrow_heading_down:、深度学习百问:arrow_heading_down:、动手学深度学习paddle版:arrow_heading_down: | | 进阶深度学习 | 产业实践深度学习、特色课程:arrow_heading_down:、面试宝典:arrow_heading_down: | | 实践深度学习 | 飞桨产业实践范例库、飞桨各产品课程:arrow_heading_down: |
二、项目内容
👉课程类
<span id =1> 零基础实践深度学习</span>
-
AI Studio在线课程：《零基础实践深度学习》：理论和代码结合、实践与平台结合，包含20小时视频课程，由百度杰出架构师、飞桨产品负责人和资深研发人员共同打造。
<center><img src="./docs/images/cover/0_cover.png"/></center><br></br> -
《零基础实践深度学习》书籍：本课程配套书籍，由清华出版社2020年底发行，京东/当当等电商均有销售。
<center><img src="https://github.com/ZhangHandi/images-for-paddledocs/blob/main/images/readme/book.png?raw=true"/></center><br></br>
<span id ='3'>特色课 - Transformer系列</span>
飞桨教育官方出品的Transformer系列内容解读可以参考以下两个平台。
-
Transformer原理和实践系列课：https://aistudio.baidu.com/aistudio/education/group/info/24683
-
飞桨教育官方账号：https://aistudio.baidu.com/aistudio/personalcenter/thirdview/908086
| 领域 | 章节名称 | 课程简介 | notebook链接 | | ----------------------------------- | ------------------------------------------------------------ | ------------------------------------------------------------ | ------------------------------------------------------------ | | NLP | 经典的预训练语言模型(上)-预训练模型发展历史 | 介绍预训练语言模型的发展历史，word2vec，elmo，bert，gpt，bert一些拓展。 | notebook链接 | | NLP | 经典的预训练模型(上)-ELMo | 全面详细的介绍ELMo模型结构，优缺点等。 | notebook链接 | | NLP | 经典的预训练模型(上)-Transformer | 讲解Transformer的基本原理，包括Embedding，self-attention，encoder，decoder，复杂度计算，共享机制等内容。 | notebook链接 | | NLP | 经典的预训练模型(下)-GPT | 全面详细的介绍GPT的原理，预训练和finetune模式，GPT模型结构，优缺点等。 | notebook链接 | | NLP | 经典的预训练模型(下)-BERT | 全面详细的介绍BERT的基本原理，预训练任务和fine tune的方式，BERT本身的模型结构，优缺点等。 | notebook链接 | | NLP | 预训练模型之自然语言理解-RoBERTa | 讲解预训练模型在自然语言理解方面的改进--RoBERTa | notebook链接 | | NLP | 预训练模型之自然语言理解-ERNIE | 讲解预训练模型之自然语言理解的改进：ERNIE | notebook链接 | | NLP | 预训练模型之自然语言理解-KBERT | 讲解预训练模型之自然语言理解的改进：KBERT | notebook链接 | | NLP | 预训练模型之自然语言理解-THU-ERNIE | 讲解预训练模型之自然语言理解的改进：THU-ERNIE | notebook链接 | | NLP | 预训练模型之长序列建模-Transformer-XL | 讲解预训练模型之长序列建模的改进：Transformer-XL | notebook链接 | | NLP | 预训练模型之长序列建模-XLNet | 讲解自然语言理解之长序列建模的改进：XLNet | notebook链接 | | NLP | 预训练模型之长序列建模-Longformer | 讲解预训练模型之长序列建模的改进：Longformer | notebook链接 | | 模型优化 | 预训练模型-高效结构 | 基于ELECTRA的标点符号预测 | notebook链接 | | 模型优化 | 预训练模型-蒸馏 | 预训练模型蒸馏算法：Patient-KD、DistilBERT、TinyBERT、DynaBERT模型详解，以及使用DynaBERT策略对TinyBERT进行模型蒸馏 | notebook链接 | | CV | 图像领域的Transformer-Vit,DeiT | 详细讲解ViT 以及 DeiT原理 | notebook链接 | | CV | 图像领域的Transformer-Swin Transformer | 详细讲解Swin Transformer原理 | notebook链接 | | CV | CV领域的Transformer模型DETR在目标检测任务中的应用 | 详细讲解DETR原理及代码解析 | notebook链接 |
👉书籍类
<span id ='dive'>《动手学深度学习》paddle版</span>
本项目将《动手学深度学习》原书中MXNet代码实现改为PaddlePaddle实现。原书作者：阿斯顿·张、李沐、扎卡里 C. 立顿、亚历山大 J. 斯莫拉以及其他社区贡献者，GitHub地址：https://github.com/d2l-ai/d2l-zh。
本项目面向对深度学习感兴趣，尤其是想使用PaddlePaddle进行深度学习的童鞋。本项目并不要求你有任何深度学习或者机器学习的背景知识，你只需了解基础的数学和编程，如基础的线性代数、微分和概率，以及基础的Python编程。
<div align=center> <img width="500" src="./Dive-into-DL-paddlepaddle/docs/img/cover.jpg"> </div> 返回[:arrow_heading_up:](#0)👉宝典类
<span id ='2'>深度学习百问</span>
深度学习百问内容包含深度学习基础篇、深度学习进阶篇、深度学习应用篇、强化学习篇以及面试宝典，详细信息请参阅Paddle知识点文档平台。
-
深度学习基础篇
-
深度学习进阶篇
-
深度学习应用篇
-
产业实践篇
-
强化学习篇
-
<span id ='6'>面试宝典</span>
👉案例类
<span id ='5'>飞桨应用案例集</span>
| 领域 | 产业案例 | 来源
