原文：
www.kdnuggets.com/getting-started-with-llmops-the-secret-sauce-behind-seamless-interactions
作者提供的图片
大型语言模型（LLMs）是一种新型的人工智能，经过大量文本数据的训练。它们的主要能力是在回应各种提示和请求时生成类似人类的文本。
1. 谷歌网络安全证书 - 快速入门网络安全职业。
2. 谷歌数据分析专业证书 - 提升你的数据分析技能
3. 谷歌 IT 支持专业证书 - 支持你所在的组织在 IT 领域
我敢打赌你已经对像 ChatGPT 或 Google Gemini 这样的流行 LLM 解决方案有所了解。
但你有没有想过这些强大的模型是如何提供如此迅速的响应的？
答案在一个名为 LLMOps 的专业领域中。
在深入了解之前，让我们先尝试可视化这个领域的重要性。
想象一下你正在和朋友对话。你期望的正常情况是，当你提问时，他们会立刻给你回答，对话自然流畅。
对吧？
这种流畅的交流是用户在与大型语言模型（LLMs）互动时所期望的。想象一下，如果与 ChatGPT 对话时，每次发送提示都要等几分钟，那几乎没人会使用它，至少我肯定不会。
这就是为什么 LLMs 旨在通过 LLMOps 领域在其数字解决方案中实现这种对话流畅性和有效性。本指南旨在成为你在这个全新领域的首步伴侣。
LLMOps，即大型语言模型操作，是确保大型语言模型（LLMs）高效和可靠运行的幕后魔力。它代表了一种对熟悉的 MLOps 的进步，专门设计用于解决 LLMs 所带来的独特挑战。
虽然 MLOps 专注于管理通用机器学习模型的生命周期，但 LLMOps 专门处理 LLMs 特有的需求。
当通过网络接口或 API 使用来自 OpenAI 或 Anthropic 等实体的模型时，LLMOps 在幕后工作，使这些模型作为服务可用。然而，当为特定应用部署模型时，LLMOps 的责任就落在我们身上。
可以把它想象成一个主持人负责讨论的流程。就像主持人保持对话的流畅和与讨论主题的一致，始终确保没有不当言辞并尽量避免假新闻，LLMOps 确保 LLM 以最佳性能运行，提供无缝的用户体验并检查输出的安全性。
使用大型语言模型（LLMs）创建应用程序带来了不同于传统机器学习的挑战。为了解决这些问题，开发了创新的管理工具和方法，形成了 LLMOps 框架。
这就是为什么 LLMOps 对任何 LLM 驱动的应用程序的成功至关重要：
图片由作者提供
-
速度是关键： 用户期望在与 LLM 交互时获得即时回应。LLMOps 优化了这个过程，以最小化延迟，确保你在合理的时间内得到答案。
-
准确性至关重要： LLMOps 实施各种检查和控制措施，以确保 LLM 的响应准确且相关。
-
增长的可扩展性： 随着 LLM 应用的受欢迎，LLMOps 帮助你有效扩展资源，以处理不断增加的用户负载。
-
安全至关重要： LLMOps 通过实施严格的安全措施，保护 LLM 系统的完整性和敏感数据。
-
成本效益： 运行 LLM 可能会因其显著的资源需求而变得财务昂贵。LLMOps 采用经济的方法来最大化资源利用效率，确保不会牺牲高性能。
LLMOps 确保你的提示准备好供 LLM 使用，并尽快返回响应。然而，这一点并不容易。
这个过程包括几个步骤，主要是 4 步，可以在下面的图像中看到。
图片由作者提供
这些步骤的目标是什么？
使提示对模型清晰易懂。
这些步骤的详细说明如下：
提示经过第一次处理步骤。首先，它被分解为更小的片段（令牌）。然后，清理任何拼写错误或奇怪的字符，并且格式保持一致。
最后，令牌被嵌入为数值数据，以便 LLM 理解。
在模型处理我们的提示之前，我们需要确保模型理解整体情况。这可能涉及参考你与 LLM 进行的过去对话或使用外部信息。
此外，系统识别提示中提到的重要内容（如名称或地点），以使响应更加相关。
就像拍摄现场有安全规则一样，LLMOps 确保提示被适当地使用。系统会检查诸如敏感信息或潜在冒犯内容等问题。
只有通过这些检查后，提示才准备好进入主要环节——LLM！
现在我们已经准备好让提示由 LLM 处理。然而，它的输出也需要进行分析和处理。所以在你看到之前，第四步还需要做一些调整：
记得提示转换成的代码吗？响应需要被翻译回人类可读的文本。之后，系统会对响应进行语法、风格和清晰度的润色。
所有这些步骤得以无缝进行，归功于 LLMOps，这位无形的团队成员确保了 LLM 体验的顺畅。
给人留下深刻印象，对吧？
这里是一个设计良好的 LLMOps 设置的一些基本构建块：
-
选择合适的 LLM： 在众多 LLM 模型中，LLMOps 帮助你选择最符合你特定需求和资源的模型。
-
针对特定性进行微调： LLMOps 使你能够微调现有模型或训练自己的模型，为你的独特用例进行定制。
-
提示工程： LLMOps 提供了编写有效提示的技术，指导 LLM 达到预期结果。
-
部署与监控： LLMOps 简化了部署过程，并持续监控 LLM 的性能，确保最佳功能。
-
安全保障： LLMOps 优先考虑数据安全，通过实施强有力的措施来保护敏感信息。
随着 LLM 技术的不断发展，LLMOps 将在未来的技术进展中发挥关键作用。最新流行解决方案，如 ChatGPT 或 Google Gemini 的成功，大部分归功于它们不仅能够回应各种请求，还能提供良好的用户体验。
正因为如此，通过确保高效、可靠和安全的操作，LLMOps 将为更多创新和变革性的 LLM 应用铺平道路，覆盖到更多人群。
通过对 LLMOps 的深入理解，你将能够充分利用这些 LLM 的强大功能，创造出开创性的应用。
Josep Ferrer** 是一位来自巴塞罗那的分析工程师。他毕业于物理工程专业，目前在应用于人类流动性的领域从事数据科学工作。他还是一名兼职内容创作者，专注于数据科学和技术。Josep 书写关于人工智能的所有内容，涵盖了这一领域的持续爆炸性增长的应用。**