PaddlePaddle/awesome-DeepLearning

PaddlePaddle/awesome-DeepLearning

Description: 深度学习入门课、资深课、特色课、学术案例、产业实践案例、深度学习知识百科及面试题库The course, case and knowledge of Deep Learning and AI

Language: Jupyter Notebook

License: Apache-2.0

Stars: 3636

Forks: 858

Open issues: 448

Created: 2019-12-11T11:14:49Z

Pushed: 2024-07-25T00:51:28Z

Default branch: master

Fork: no

Archived: no

README:

一、项目简介

本项目是飞桨官方出品的一站式深度学习在线百科，飞桨致力于让深度学习技术的创新与应用更简单，更多飞桨内容欢迎访问飞桨官网。本项目内容涵盖：

📒课程类：**零基础实践深度学习**、产业实践深度学习、[特色课程](https://aistudio.baidu.com/aistudio/education/group/info/24322)、飞桨套件课程汇总资料

📒书籍类：《动手学深度学习》飞桨版

📒宝典类：**深度学习百问**、面试宝典

📒案例类：[飞桨产业实践范例库](https://github.com/PaddlePaddle/awesome-DeepLearning/tree/master/Paddle_Industry_Practice_Sample_Library)（包含智慧城市：火灾烟雾检测、 安全帽检测 ；智能制造：钢材缺陷检测 、 机械手抓取；互联网：财报识别与关键字段抽取 等。

从理论到实践，从科研到产业应用，各类学习材料一应俱全，旨在帮助开发者高效地学习和掌握深度学习知识，快速成为AI跨界人才。

• 内容全面：无论您是深度学习初学者，还是资深用户，都可以在本项目中快速获取到需要的学习材料。
• 形式丰富：材料形式多样，包括可在线运行的notebook、视频、书籍、B站直播等，满足您随时随地学习的需求。
• 实时更新：本项目中涉及到的代码均匹配Paddle最新发布版本，开发者可以实时学习最新的深度学习任务实现方案。
• 前沿分享：定期分享顶会最新论文解读和代码复现，开发者可以实时掌握最新的深度学习算法。

如果本项目对您有帮助，欢迎点击网页右上方进行star❤️

---

👨‍🏫我是高校用户

| 我希望： | 我可以学习： | | ------------ | ------------------------------------------------------------ | | 入门深度学习 | 零基础实践深度学习[:arrow_heading_down:](#1)、深度学习百问[:arrow_heading_down:](#2)、动手学深度学习paddle版[:arrow_heading_down:](#dive) | | 进阶深度学习 | 产业实践深度学习、深度学习百问[:arrow_heading_down:](#2)、面试宝典[:arrow_heading_down:](#6) | | 趣味深度学习 | 特色课程[:arrow_heading_down:](#3)、飞桨产业实践范例库 |

👨‍💻我是企业用户

| 我希望： | 我可以学习： | | ------------ | ------------------------------------------------------------ | | 入门深度学习 | 零基础实践深度学习[:arrow_heading_down:](#1)、深度学习百问[:arrow_heading_down:](#2)、动手学深度学习paddle版[:arrow_heading_down:](#dive) | | 进阶深度学习 | 产业实践深度学习、特色课程[:arrow_heading_down:](#3)、面试宝典[:arrow_heading_down:](#6) | | 实践深度学习 | 飞桨产业实践范例库、飞桨各产品课程[:arrow_heading_down:](#fj) |

---

二、项目内容

👉课程类

零基础实践深度学习

• **AI Studio在线课程：[《零基础实践深度学习》](https://aistudio.baidu.com/aistudio/course/introduce/1297

)**：理论和代码结合、实践与平台结合，包含20小时视频课程，由百度杰出架构师、飞桨产品负责人和资深研发人员共同打造。

• 《零基础实践深度学习》书籍：本课程配套书籍，由清华出版社2020年底发行，京东/当当等电商均有销售。

特色课 - Transformer系列

飞桨教育官方出品的Transformer系列内容解读可以参考以下两个平台。

• Transformer原理和实践系列课：https://aistudio.baidu.com/aistudio/education/group/info/24683

• 飞桨教育官方账号：https://aistudio.baidu.com/aistudio/personalcenter/thirdview/908086

| 领域 | 章节名称 | 课程简介 | notebook链接 | | ----------------------------------- | ------------------------------------------------------------ | ------------------------------------------------------------ | ------------------------------------------------------------ | | NLP | 经典的预训练语言模型(上)-预训练模型发展历史 | 介绍预训练语言模型的发展历史，word2vec，elmo，bert，gpt，bert一些拓展。 | notebook链接 | | NLP | 经典的预训练模型(上)-ELMo | 全面详细的介绍ELMo模型结构，优缺点等。 | notebook链接 | | NLP | 经典的预训练模型(上)-Transformer | 讲解Transformer的基本原理，包括Embedding，self-attention，encoder，decoder，复杂度计算，共享机制等内容。 | notebook链接 | | NLP | 经典的预训练模型(下)-GPT | 全面详细的介绍GPT的原理，预训练和finetune模式，GPT模型结构，优缺点等。 | notebook链接 | | NLP | 经典的预训练模型(下)-BERT | 全面详细的介绍BERT的基本原理，预训练任务和fine tune的方式，BERT本身的模型结构，优缺点等。 | notebook链接 | | NLP | 预训练模型之自然语言理解-RoBERTa | 讲解预训练模型在自然语言理解方面的改进--RoBERTa | notebook链接 | | NLP | 预训练模型之自然语言理解-ERNIE | 讲解预训练模型之自然语言理解的改进：ERNIE | notebook链接 | | NLP | 预训练模型之自然语言理解-KBERT | 讲解预训练模型之自然语言理解的改进：KBERT | notebook链接 | | NLP | 预训练模型之自然语言理解-THU-ERNIE | 讲解预训练模型之自然语言理解的改进：THU-ERNIE | notebook链接 | | NLP | 预训练模型之长序列建模-Transformer-XL | 讲解预训练模型之长序列建模的改进：Transformer-XL | notebook链接 | | NLP | 预训练模型之长序列建模-XLNet | 讲解自然语言理解之长序列建模的改进：XLNet | notebook链接 | | NLP | 预训练模型之长序列建模-Longformer | 讲解预训练模型之长序列建模的改进：Longformer | notebook链接 | | 模型优化 | 预训练模型-高效结构 | 基于ELECTRA的标点符号预测 | notebook链接 | | 模型优化 | 预训练模型-蒸馏 | 预训练模型蒸馏算法：Patient-KD、DistilBERT、TinyBERT、DynaBERT模型详解，以及使用DynaBERT策略对TinyBERT进行模型蒸馏 | notebook链接 | | CV | 图像领域的Transformer-Vit,DeiT | 详细讲解ViT 以及 DeiT原理 | notebook链接 | | CV | 图像领域的Transformer-Swin Transformer | 详细讲解Swin Transformer原理 | notebook链接 | | CV | CV领域的Transformer模型DETR在目标检测任务中的应用 | 详细讲解DETR原理及代码解析 | notebook链接 |

返回[:arrow_heading_up:](#0)

-----

👉书籍类

《动手学深度学习》paddle版

本项目将《动手学深度学习》原书中MXNet代码实现改为PaddlePaddle实现。原书作者：阿斯顿·张、李沐、扎卡里 C. 立顿、亚历山大 J. 斯莫拉以及其他社区贡献者，GitHub地址：https://github.com/d2l-ai/d2l-zh。

本项目面向对深度学习感兴趣，尤其是想使用PaddlePaddle进行深度学习的童鞋。本项目并不要求你有任何深度学习或者机器学习的背景知识，你只需了解基础的数学和编程，如基础的线性代数、微分和概率，以及基础的Python编程。…