18｜开源模型：如何使用Hugging Face上的模型

1. Hugging Face 是一个知名的 AI 模型开源社区，提供各种模型、数据集和部署应用，以及相关工具如 transformers 程序库和 Gradio。 2. 使用 Hugging Face 模型可以通过高层接口的管道（pipeline）调用，也可以通过底层实现调用，底层实现的流程包括将输入转换成 Token、模型生成内容、将生成的 Token 转换成文本。 3. 在高层接口中，可以使用 pipeline 调用不同用途的模型，如文本生成和翻译，而底层实现则需要手动处理 Token 和模型生成的内容。 4. Hugging Face 上提供了多种模型，可以用于不同的任务，用户可以根据需求选择合适的模型。 5. Hugging Face 模型的使用需要与对应的 Tokenizer 结合使用，通常它们的模型名字是一致的。 6. Hugging Face 提供了 Streamer 的概念，可以实现模型的流式输出，包括 TextStreamer 和 TextIteratorStreamer，以及在 pipeline 上增加流式输出的能力。 7. Hugging Face 是一个值得挖掘的宝藏，为我们提供了大量可以完成各种工作的模型。 8. 调用 Hugging Face 的模型有两种方式，高层的管道方式更易用，而底层的方式则需要对大模型的处理流程有所了解。 9. 除了使用大模型生成文本之外，Hugging Face 上还有大量的不同用途的模型，用户可以根据自己的需要选择相应的模型。 10. Hugging Face 为我们提供了大量可以完成各种工作的模型，是一个值得挖掘的宝藏。