Hugging Face

概述

参考：

• GitHub 组织，huggingface
• 官网
• Wiki, Hugging_Face
• 知乎，Huggingface 超详细介绍

Hugging Face 即是一个工具包的集合，也是一个社区。

• 在 2017 年在 GitHub 上开源了非常著名的 Transformers 库。
• 在 2019 年推出了 Hugging Face Hub，一个用于共享和加载预训练模型和数据集的平台
• 后续也陆续开发了其他的工具包，例如 tokenizers、datasets、huggingface_hub、accelerate和peft，以及一个公共的推理API，为机器学习开发者提供了更多的便利和资源。

它提供了多种工具包，例如：

• transformers：一个用于构建和使用预训练语言模型的 Python 库，支持 PyTorch 和 TensorFlow。
• tokenizers：一个用于快速和高效地创建和使用词法分析器的 Python 库。
• datasets：一个用于轻松共享和加载数据集和评估指标的 Python 库。
• huggingface_hub：一个用于创建、删除、更新和检索仓库信息的 Python 库，也可以从仓库下载文件或将它们集成到你的库中。
• accelerate：一个用于轻松地训练和使用 PyTorch 模型的 Python 库，支持多 GPU、TPU 和混合精度。
• peft：一个用于实现参数高效微调（PEFT）方法的 Python 库，可以有效地将预训练语言模型（PLMs）适应于各种下游应用，而无需微调所有模型参数6。

使用 Hugging Face 可以帮助我们在 NLP 领域进行创新和探索。

Hugging face 起初是一家总部位于纽约的聊天机器人初创服务商，他们本来打算创业做聊天机器人，然后在github上开源了一个Transformers库，虽然聊天机器人业务没搞起来，但是他们的这个库在机器学习社区迅速大火起来。目前已经共享了超100,000个预训练模型，10,000个数据集，变成了机器学习界的github。

关联文件预配置

Hugging Face 相关代码库的缓存路径

• https://huggingface.co/docs/transformers/zh/installation#%E7%BC%93%E5%AD%98%E8%AE%BE%E7%BD%AE

Hugging Face 代码库处理的模型默认都保存在缓存路径中，e.g. 自己训练的、从 HF 网站下载的、etc.

Windows

• ~/.cache/huggingface/

[Environment]::SetEnvironmentVariable("HF_HOME", "D:\appdata\huggingface", "User")

Linux

使用如下代码查看当前 HF 的缓存路径

from huggingface_hub import constants
# 查看当前生效的 HF 根目录
print(f"HF Home: {constants.HF_HOME}")
# 查看模型具体的缓存目录
print(f"Hub Cache: {constants.HF_HUB_CACHE}")

最佳实践

Hugging Face下载大模型的相关文件说明

如何理解仓库中的模型文件