【Udemy中英字幕】Quantization for GenAI Models

GenAI 模型的量化

解锁模型优化的力量！了解如何应用量化并使用 Python 提高 GenAI 模型的效率

讲师：Start-Tech Academy

双语IT资源独家Udemy付费课程，独家中英文字幕，配套资料齐全！

用不到1/10的价格，即可享受同样的高品质课程，且可以完全拥有，随时随地都可以任意观看和分享。

您将学到什么

• 了解模型优化技术：修剪、提炼和量化
• 了解 FP32、FP16、BFloat16 和 INT8 等数据类型的基础知识
• 掌握从 FP32 到 BF16 以及从 FP32 到 INT8 的向下转换
• 了解对称量化和非对称量化之间的区别
• 通过真实示例在 Python 中实现量化技术
• 应用量化使模型更高效、更易于部署
• 获得优化边缘设备和资源受限环境模型的实用技能

探索相关主题

要求

• 建议具备基本的 Python 知识，但不需要以前的 AI 经验。

描述

如果您是开发人员、数据科学家或机器学习爱好者，想要优化和部署高效的 AI 模型，那么本课程非常适合您。您想让您的模型更快、更节省资源，同时保持性能吗？您是否想学习如何应用量化技术来更好地部署模型？本课程将教您如何实施实用的量化技术，使您的模型精简并可在边缘设备上部署。

在本课程中，您将：

学习量化、修剪和提炼的核心概念。

1. 了解不同的数据类型，如 FP32、FP16、BFloat16 和 INT8。

2. 探索如何将 FP32 转换为 BF16 和 INT8 以实现有效的模型压缩。

3. 使用 Python 和实际应用实现对称和非对称量化。

4. 了解如何将模型参数从 FP32 降至 INT8 以进行部署。

5. 获得基于 Python 的量化实践经验，使您的模型适用于移动和物联网设备。

为什么要学习量化？量化可以减少模型的大小和计算负荷，使其适用于智能手机、物联网设备和嵌入式系统等资源受限的设备。通过掌握量化，您可以确保您的模型更快、更节能、更易于部署，同时保持准确性。

在整个课程中，您将学习如何实施量化技术并优化模型以适应实际应用。本课程完美平衡了理论和实际应用，可提高机器学习模型的效率。

课程结束时，您将对量化有深入的了解，并能够在边缘设备上优化和部署高效模型。

准备好优化您的 AI 模型以提高效率和性能了吗？立即报名并开始您的旅程！

本课程适合哪些人：

• 机器学习初学者希望学习量化等实用的模型优化技术
• 希望优化模型以在资源受限的设备上部署的 AI 专业人士和学生