HugggingFace 推理 API、推理端点和推理空间相关模型部署和使用以及介绍-编程知识

HugggingFace 推理 API、推理端点和推理空间相关模型部署和使用以及介绍。

Hugging Face是一家开源模型库公司。

2023年5月10日，Hugging Face宣布C轮1亿美元融资，由Lux Capital领投，红杉资本、Coatue、Betaworks、NBA球星Kevin Durant等跟投，其估值增长到了20亿美元。
2023年5月16日，Hugging Face首次登上了福布斯北美人工智能50强榜单。
2023年7月2号，参数总量达1760亿的BLOOM大模型经过为期117天的训练宣告完成，其参数总量恰好比OpenAI已经发布了近三年的GPT-3多10亿。

接触 AI 的同学肯定对HuggingFace[1]有所耳闻，它凭借一个开源的 Transformers 库迅速在机器学习社区大火，为研究者和开发者提供了大量的预训练模型，成为机器学习界的 GitHub。在 HuggingFace 上我们不仅可以托管模型，还可以方便地使用各种模型的 API 进行测试和验证，部署属于自己的模型 API 服务，创建自己的模型空间，分享自己的模型。本文将介绍 HuggingFace 的推理 API、推理端点和推理空间的使用方法。

在这里插入图片描述

HuggingFace 推理 API
在 HuggingFace 托管的模型中，有些模型托管之后会提供推理 API，如果我们想快速验证模型是否可以满足我们的需求，可以使用这些 API 进行测试，下面以这个模型为例Salesforce/blip-image-captioning-base进行介绍，该模型可以通过图片生成英文描述。

HuggingFace是一个高速发展的社区，包括Meta、Google、Microsoft、Amazon在内的超过5000家组织机构在为HuggingFace开源社区贡献代码、数据集和模型。目前包括模型236,291个，数据集44,810个。刚开始大多数的模型和数据集是NLP方向的，但图像和语音的功能模型正在快速更新中。

HuggingFace GitHub可以看到包括常用的transformers、datasets、diffusers、accelerate、pef和optimum类库。

Hugging Face最初是一家总部位于纽约的初创企业，专注于聊天机器人服务。然而，他们在创业过程中开源了一个名为Transformers的库，并在GitHub上发布。虽然聊天机器人业务并没有取得成功，但这个库却在机器学习社区迅速走红。目前，Hugging Face已经分享了超过100,000个预训练模型和10,000个数据集，成为机器学习界的重要开源资源。

hugging face官网: https://huggingface.co/

更多好用又免费ai工具推荐
0. >>>免费cha/t/g/p/t中文版(免f墙版) : https://ymiai.top/
1.>>>免费ai绘画网站: : https://tusiart.com/
2.>>>免费ai写作网站: : https://chat.moyanaigc.com
3.>>>免费ai绘画网站 : https://www.acgnai.com/

Hugging Face之所以取得巨大的成功，原因有二。首先，它使得非专业人士，尤其是初学者，能够快速使用科研专家们训练出的强大模型。这为我们提供了便利，使我们能够在短时间内应用高质量的模型。其次，Hugging Face的开放文化、合作态度以及利他利己的精神吸引了大量人才。许多业界知名人士在Hugging Face上使用和提交新的模型，这让我们能够站在他们的肩膀上，不必从零开始。尽管我们没有像他们那样丰富的计算资源和数据集，但Hugging Face为我们提供了平台和工具，使我们能够与专家们共同合作。

在国内，Hugging Face也广泛应用于各个领域。许多开源框架本质上都是利用Hugging Face的Transformers库进行模型微调（当然也有许多专家默默地贡献模型和数据集）。许多自然语言处理工程师的招聘要求明确要求熟悉Hugging Face的Transformers库的使用。在我们简要介绍了Hugging Face的强大功能之后，让我们看看如何开始使用Hugging Face。因为它不仅提供了丰富的数据集，还提供了各种模型供我们自由下载和调用，所以入门非常简单。即使对于GPT和BERT等模型的细节了解不多，也可以使用它们的模型（当然，还是有必要了解一下我为你写的关于BERT的简介）。

2016年，一家名为Hugging Face的公司应运而生。

在成立初期的2016年，就像许多类似的初创公司一样，Hugging Face专注于聊天机器人领域。他们开发了一个基于LSTM的聊天机器人应用程序，主要面向青少年的情感和娱乐服务。然而，由于技术尚未成熟以及商业模式难以变现，尽管Hugging Face拥有一定的核心用户群体，但公司的发展速度相对缓慢。

直到2018年，面对发展瓶颈，创始人决定开放聊天机器人的AI模型，让用户自行开发服务，初衷是通过用户共创来获得灵感。这一出人意料的举动却成为Hugging Face进入高速发展的快车道，开启了取得成功的新篇章。

由于开源的AI模型数量有限，Hugging Face迅速成为人工智能开发者的聚集地。创始团队随后根据用户需求转变自身的聊天平台为开发者社区，并逐渐形成了全球最大的自然语言处理开源模型数据库。

同年，Hugging Face发布了Transformers框架，该框架基于注意力机制，在机器翻译、语音识别、文本生成等自然语言处理任务中得到广泛应用。Transformers框架以其高性能和开源属性成为机器学习工具库中最为重要的资源之一，使Hugging Face迅速提升了知名度和影响力。

如今，Hugging Face已经成为机器学习模型研究的中心，成为GitHub上增长最快的人工智能项目之一。

hugging face

打造机器学习领域的“GitHub”
Hugging Face致力于构建机器学习领域的”GitHub”，专注于自然语言处理（NLP）技术，并通过技术创新不断丰富产品与服务，成为广大研究人员和技术开发者的合作伙伴。

在Hugging Face的技术DNA中，核心项目是于2018年开源的Transformers，一种面向自然语言处理的预训练语言模型。Transformers基于注意力机制，在翻译、语音识别、图像分类、文本生成等NLP任务中得到广泛应用。Hugging Face开发的模型和数据集可以直接使用，实现推理和迁移学习，使Transformers框架在性能和易用性上处于业界领先地位。

BERT模型利用两个Transformers网络进行预训练，使模型能够同时学习当前和历史位置的信息。而GPT-3模型也利用Transformers进行训练，在语言生成方面展示了大型语言模型的巨大潜力。

Transformers彻底改变了深度学习在NLP领域的发展范式，降低了相关研究和应用的门槛。因此，Hugging Face迅速崛起成为行业翘楚，成为人工智能社区中最有影响力的技术供应商。通过提供高性能且易用的技术解决方案，Hugging Face为研究人员和开发者们带来了巨大的价值。

页面小组件
推理 API 有两种使用方式，一种是在模型页面的右侧找到推理 API 的小组件页面，初始界面如下图所示：

在这里插入图片描述

可以在这个页面中上传图片，然后就可以看到模型进行推理运行，等一会后推理结果就出来了，如下图所示：

在这里插入图片描述

推理结果为：“a dog wearing a santa hat and a red scarf”(一只狗戴着圣诞老人的帽子和红色的围巾)

页面小组件的方式是 HuggingFace 自动帮助模型创建的，具体的信息可以参考这里[2]。

代码调用
另外一种方式是通过代码对推理 API 进行调用，在右侧的Deploy菜单中选择Inference API，如下图所示：

在这里插入图片描述

打开菜单后可以看到几种代码调用方式，分别有 Python, JavaScript 和 Curl：

在这里插入图片描述

这里我们选择 Curl 方式来进行调用，我们可以直接复制界面上的 Curl 命令，注意其中包含了我们的 API token，所以不要随意分享出去，然后在终端上执行命令，就可以看到预测结果了：

$ curl https://api-inference.huggingface.co/models/Salesforce/blip-image-captioning-base \-X POST \--data-binary '@dogs.jpg' \-H "Authorization: Bearer hf_xxxxxxxxxxxxxxxxxxxxxx"# 输出结果
[{"generated_text":"a dog wearing a santa hat and a red scarf"}]%

HuggingFace 推理端点(Endpoint)
推理 API 虽然方便，但推理 API 一般用于测试和验证，由于速率限制，官方不推荐在生产环境中使用，而且也不是所有模型都有提供推理 API。如果想要在生产环境部署一个专属的推理 API 服务，我们可以使用 HuggingFace 的推理端点（Endpoint）。

推理端点的部署也比较简单，首先在Deploy菜单中选择Inference Endpoints，如下图所示：

在这里插入图片描述

打开菜单后可以看到新建推理端点的界面，如下图所示：
在这里插入图片描述

首先是服务器的选择，先选择云服务厂商，目前只有 AWS 和 Azure 两种，再选择机器区域节点。

然后是服务器的配置，HuggingFace 默认会给出模型的最低推理配置，如果我们想要更高的配置，可以点击2中的下拉框进行选择。

接着是推理端点的安全等级，有 3 种选择，分别是Protected、Public和Privaate

Pubulic：推理端点运行在公共的 HuggingFace 子网中，互联网上的任何人都可以访问，无需任何认证。

Protected：推理端点运行在公共的 HuggingFace 子网，互联网上任何拥有合适 HuggingFace Token 的人都可以访问它。

Privacy：推理端点运行在私有的 HuggingFace 子网，不能通过互联网访问，只能通过你的 AWS 或 Azure 账户中的一个私有连接来使用，可以满足最严格的合规要求。

最后显示的是服务器的价格，按小时算，根据配置的不同，价格也会有所不同。HuggingFace API 是免费的，但 HuggingFace 的推理端点是要收费的，毕竟是自己专属的 API 服务。因为推理端点部署是收费的，所以在部署之前需要在 HuggginFace 中添加付款方法，一般使用国内的 Visa 或 Master 卡就可以了。

信息确认无误后点击Create Endpoint按钮创建推理端点，创建成功后可以进入推理端点的详情页面看到如下信息：

在这里插入图片描述

其中Endpoint URL就是部署好的推理端点地址，我们可以跟调用推理 API 一样的方式来使用它，示例代码如下：

$ curl https://your-endpoint-url \-X POST \--data-binary '@dogs.jpg' \-H "Authorization: Bearer hf_xxxxxxxxxxxxxxxxxxxxxx"

HuggingFace 模型空间(Space)
HuggingFace 推理端点是部署 API 服务，但是如果我们想要分享自己的模型，让别人可以直接在浏览器中使用模型的功能，这时候就需要使用 HuggingFace 的模型空间（Space）了。

要部署一个模型空间，首先在模型的Deploy菜单中选择Spaces，如下图所示：

在这里插入图片描述

选择菜单后可以看到空间创建的引导界面，如下图所示：

在这里插入图片描述

界面中显示了启动模型的 Python 脚本，然后我们点击Create new Space按钮进入空间的创建页面，如下图所示：

在这里插入图片描述

在模型创建页面中，我们需要设置以下信息：

首先要指定空间的名称，一般以模型的名称命名。

然后选择空间的 SDK，目前有Streamlit、Gradio、Docker和Static 四种。

Streamlit：Streamlit 是一个可以帮助我们快速创建数据应用的 Python 库，可以在浏览器中直接使用模型，它相比Gradio可以支持更加丰富的页面组件，界面也更加美观。

Gradio：Gradio 也是一个编写 GUI 界面的 Python 库，相对Streamlit来说，它的 GUI 功能虽然比较少，但它的优势在于简单易用，一般演示的 Demo 用它就足够了。

Docker：推理空间也可以使用 Docker 容器进行部署，它内部支持了 10 种模版。

Static：静态页面，我理解是包括 Html、Js、Css 等前端资源来作为页面展示。

然后选择空间硬件，HuggingFace 为每个空间提供了一个免费的配置：

2 核 CPU 16G 内存，用这个配置部署推理空间是免费的，如果你想要更高的配置，也可以选择付费的配置。

在这里插入图片描述

最后是安全等级，有Public和Private两种，Public 是公开的，任何人都可以访问，但只有你的组织成员可以修改，Private 是私有的，只有你的组织成员可以访问。

设置完后点击Create Space按钮就开始创建推理空间了，创建完成后会自动跳转到空间的页面，如下图所示：

在这里插入图片描述

如果推理空间的安全等级设置为 Public，你就可以将空间的 URL 分享给其他人使用了。想查看 HuggingFace 推理空间更多的信息，可以参考这里[3]。

总结
本文介绍了 HuggingFace 的推理 API、推理端点和推理空间的使用方法，推理 API 是免费的，使用 HuggingFace 自建的 API 服务，推理端点是部署自己专属的 API 服务，但需要收取一定的费用。推理空间是部署模型的 Web 页面，可以直接在浏览器中使用模型的功能，可以用于演示和分享模型，有一定的免费额度。

参考:
[1] HuggingFace: https://huggingface.co/
[2] https://huggingface.co/docs/hub/models-widgets
[3] https://huggingface.co/docs/hub/spaces