【Udemy中英字幕】LLMs Mastery: Complete Guide to Transformers & Generative AI

LLMs精通：Transformer 和生成式 AI 完整指南

生成式人工智能、r1、法学硕士、ChatGPT、GPT4、o1、Llama3、解码器、T5、BERT、LoRA、FSDP、4bit、机器学习、数据科学

讲师：The Fuzzy Scientist | LLM Expert

双语IT资源独家Udemy付费课程，独家中英文字幕，配套资料齐全！

用不到1/10的价格，即可享受同样的高品质课程，且可以完全拥有，随时随地都可以任意观看和分享。

您将学到什么

• 掌握 NLP 基础知识：了解从基于规则的系统到高级 LLM（如 Llama3、Gemma2、Phi3 和 Mistral）的演变。
• 掌握 Transformers 和 LLM：深入了解 Transformers 的架构和应用。包括标记化、嵌入、预训练和微调。
• 了解生成式 AI 原理：培养使用 RLHF 和聊天模板为实际应用构建和微调生成模型的技能
• 使用 Transformer 模型：概述 LLM 和编码器-解码器模型，如 BERT、GPT、T5、Llama 等，它们可用于许多不同的 NLP 任务：个人助理、评论、问答
• 专业技术：实现 8 位和 4 位训练，并使用 DeepSpeed 和 FSDP 等工具以及 PeFT、LoRA、FlashAttention 等。

探索相关主题

要求

• 对 Python 编程有基本的了解，对机器学习概念有一定的了解，并渴望深入研究 LLM 和自然语言处理。

描述

欢迎来到“LLM 精通：生成式 AI 和 Transformers 完整指南”！

本实用课程旨在让您掌握使用尖端技术构建高效、可用于生产的大型语言模型的知识和技能。

涵盖的关键主题：

• 生成式人工智能：了解生成式人工智能在创建新数据实例的原理和应用。
• ChatGPT 和 GPT4：深入研究 ChatGPT 和GPT4等高级 AI 模型的工作原理。
• LLM：从 LLM 的基础知识开始，学习它们如何解码、处理输入和输出，以及如何教导它们进行有效的沟通。
• 编码器-解码器：掌握 Transformers 背景下的编码器-解码器模型的概念。
• T5、GPT2、BERT：获得使用 T5、GPT2 和 BERT 等流行 Transformer 模型的实践经验。
• 机器学习和数据：了解机器学习和数据在训练强大的人工智能模型中的作用。
• 先进技术：复杂的训练策略，如PeFT、LoRa、管理数据内存和合并适配器。
• 专业技能：  尖端的训练技术，包括8 位、4 位训练和Flash-Attention。
• 可扩展的解决方案：掌握使用DeepSpeed和FSDP等先进工具来有效扩展模型训练。

课程优势：

•职业提升：将自己定位为技术团队中的宝贵资产，能够应对重大的人工智能挑战和项目。

•实际应用：边做边学——构建项目，展示您在现实世界中应用高级 LLM 技术的能力。

•创新方法：掌握塑造机器学习未来的技术，始终站在人工智能技术的前沿。

您将学到什么：

自然语言处理基础

• NLP 演进历程：从基于规则的系统到高级嵌入。

• NLP 基础：为自然语言处理的高级学习奠定基础。

Transformer 简介

• Transformer 架构：了解编码器、解码器和注意力机制。

•模型策略：了解预训练、微调、标记化和嵌入。

热门变压器型号

•探索关键模型：深入了解 BERT、GPT 和 T5 及其独特功能。

•深化模型洞察：发掘Transformer技术的潜力和多功能性。

使用 Transformer（实用）

•实践经验：在现实场景中应用 Transformers。

•高级技术：掌握标记化、嵌入和 MLM。

•项目实施：建立语义搜索索引。

NLP 任务和应用（实践）

•实际应用：使用 BERT 回答问题、使用 GPT 进行个人助理、使用 T5 撰写评论。

•实用的NLP技能：体验NLP任务的直接应用。

大型语言模型的基础

• LLM 简介：了解基本架构和功能。

•沟通技巧：利用 RLHF 增强模型响应能力。

•输入/输出过程：探索 LLM 如何处理 AI 交互的数据。

高级配置和优化

•聊天模板设计：构建 LLM 交互的实践经验。

•模型选择框架：选择 LLM 的战略决策。

•生成技术：通过交互式学习定制 LLM 输出。

专业训练技巧

•高级模型训练：关注序列长度、标记计数和数值精度。

•效率方法：学习 8 位和 4 位训练以使模型适应约束。

•扩展工具：实现 DeepSpeed 和 FSDP 以实现高效的模型扩展。

法学硕士的实际应用

•在情境中应用：在模拟的真实世界项目中应用 LLM 技能。

•特定任务训练：针对内存管理和效率等特定任务优化模型。

本课程适合哪些人：

• 技术专业人士：提升您在尖端人工智能技术方面的技能和知识。
• 有抱负的人工智能从业者：获得从基本原理到高级应用的全面法学硕士学位。
• 研究人员和学生：深入了解最新发展以及如何应用它们来解决复杂问题。

准备好深入生成式人工智能和变形金刚的世界了吗？

立即报名并开始您的精通之旅！

本课程适合哪些人：

• 那些希望了解 LLM 的新世界、chatGPT、GPT4 和 Llama 如何工作以及如何构建自己强大的语言模型的人。