【Udemy中英字幕】LLMOps & ML Deployment: Bring LLMs and GenAI to Production

LLMOps 和 ML 部署：将 LLM 和 GenAI 投入生产

Llama 3、GPT、ML-Ops、Ray、MLFlow、LoRa、AWQ、GPTQ、LLMOps、部署、生成式 AI、LLM、Flash 分页注意力、成本

讲师：The Fuzzy Scientist

双语IT资源独家Udemy付费课程，独家中英文字幕，配套资料齐全！

用不到1/10的价格，即可享受同样的高品质课程，且可以完全拥有，随时随地都可以任意观看和分享。

您将学到什么

• 学习精确设置、配置和部署大型语言模型，确保在生产环境中顺利运行。
• 通过 MLflow 获得 ML-Ops 的实用技能，实现有效的模型管理和部署。
• 进行成本效益分析并应用战略规划来实现经济的人工智能项目管理。
• 实施最新的 LLM 优化和缩放技术以增强模型性能。

要求

• 学习者只需对机器学习有基本的了解并熟练掌握 Python。所有其他概念都在课程中。

描述

欢迎参加本课程，您将学习如何使用LLMOps和尖端技术在生产环境中有效地部署和扩展大型语言模型。

本课程旨在为您提供将大型机器学习模型应用到现实世界所需的知识和技能。

涵盖的关键主题：

• 部署前要点：
  • 模型评估：确保模型正确性的技术。
  • 性能调整：部署之前优化模型性能（准确性和速度）的有用策略。
• 使用 ML-Ops 进行高级模型管理：
  • MLflow 精通：动手指导设置和使用 MLflow 我们自己的 mlflow 服务器
  • 操作实践：对模型跟踪、服务和部署的 ML-Ops 实践进行实践练习和见解。
  • 端到端集成：如何将这些概念安全地集成到现有管道中。
• 最先进的部署技术：
  • 效率策略：学习和实施高级批处理、动态批处理和量化。
  • LLM 优化的最新进展：我们将介绍 Flash Attention、Paged Attention、GPTQ、AWQ、LoRa 等前沿概念！
  • 创新扩展：深入研究 ZeRo 和 Deepspeed 等高级扩展技术。
• 机器学习推理的经济学：
  • 成本效益分析：平衡部署的经济性与技术可行性。
  • 战略规划：了解部署决策对业务的影响。
• 集群管理以实现可扩展性：
  • 分布式部署：跨集群管理 LLM 的技术。
  • 分布式数据流：了解如何使用 RabbitMQ 在服务器集群之间移动大规模大数据。
  • 分布式计算：实现 AI 工作负载扩展框架，并使用它们来加速多台机器上的 LLM 推理。
  • 真实世界的应用：大规模部署的实用、动手指导。

您将学到什么：

• 自信部署：从环境设置到高级 LLM 部署，获得可直接转化为真实场景的实践经验。
• 战略部署见解：掌握速度和准确性之间的平衡，并学会驾驭机器学习项目的复杂经济性。
• 成本效率和商业视角：了解如何在不牺牲质量的情况下削减 AI 项目的成本。从成功的 AI 集成和失败中学习，重点关注实用的、业务驱动的成果。
• 成功部署 AI：识别 ML-Ops 和可扩展性方面的最佳实践和常见陷阱。掌握洞察力，做出明智的决策，确保您的 AI 项目增加价值并推动业务成功。
• 尖端技术：通过最新的优化保持领先地位，以提高模型性能和效率。
• 从理论到实践：利用真实案例研究和专家见解来了解成功的策略和常见的挑战。

本课程适合哪些人：

• 人工智能爱好者和专业人士：无论您是加深专业知识还是刚刚起步，本课程都为参与人工智能和机器学习项目的任何人提供宝贵的知识。
• 实践学习者：非常适合那些寻求将理论知识与部署大型语言模型的实践经验相结合的人。

入学福利：

• 全面学习：通过结构化的、循序渐进的指南了解 LLM 部署的复杂性。
• 专家指导：向具有实际经验的行业专家学习。
• 实践经验：通过实践练习和案例研究来获得适用的技能。

您准备好成为部署大型语言模型的大师了吗？

立即报名并开始您的精通之旅！

本课程适合哪些人：

• 本课程专为人工智能从业者、数据科学家、软件工程师和商业专业人士量身定制，旨在将人工智能融入其运营中，深入了解如何部署大型语言模型，重点关注可扩展性、成本效率和 ML-Ops，对于任何希望利用人工智能获得战略优势的公司来说都具有价值。