深度学习

概述

参考：

• Wiki, Deep_learning

Deep learning(深度学习) 是机器学习方法家族的一部分，它基于具有表示学习的人工神经网络。学习可以是监督的、半监督的或无监督的。

深度神经网络、深度信念网络、深度强化学习、递归神经网络、卷积神经网络和 Transformer 等深度学习架构已应用于计算机视觉、语音识别、自然语言处理、机器翻译、生物信息学、药物设计等领域、医学图像分析、气候科学、材料检验和棋盘游戏程序，它们在这些方面产生的结果可与人类专家的表现相媲美，在某些情况下甚至超过人类专家的表现

深度学习框架

TensorFlow # 基于 NumPy 构建，谷歌开发

PyTorch # 基于 Torch 构建，Facebook 开发

Paddle，百度飞桨

DeepSpeed

参考：

• GitHub 项目，microsoft/DeepSpeed

DeepSpeed Chat 一键式RLHF训练，让你的类 ChatGPT 千亿大模型提速省钱15倍