机器学习和生成式 AI

在 2022 年 11 月 30 日 ChatGPT 首次发布后，人们对人工智能的兴趣变得十分广泛。ChatGPT（GPT 代表生成式预训练 Transformer）是由 OpenAI 开发的对话式 AI 系统，任何人都可以尝试并使用它，因为它促进了人与机器之间的自然对话。

在很短的时间内，ChatGPT 让我们思考 AI 如何影响我们的社会和经济。但有一点是肯定的，AI 正成为我们生活中不可或缺的一部分，并将塑造我们未来几年的发展。

就像生成式 AI 是 ChatGPT 和 Dall-E3 等工具背后的“大脑”一样，人们可以将“机器学习”和“深度学习”视为塑造生成式 AI 的主要组成部分。阅读本章，了解 ML 和 DL 的概述，以及这两个概念如何在塑造生成式 AI 的当前形式中发挥关键作用。

AI 不是一个孤立的学科，它是帮助超越人类能力的每项技术的总称。借助下图，让我们了解各个学科之间以及与 AI 之间的关系。

生成式 AI 是 AI 的最新子类型，它正在重塑创造力和创新的格局。AI 的其他子类型，即机器学习和深度学习，奠定了生成式 AI 的基础。在本章中，我们将简要概述生成式 AI 的基础，包括机器学习、其子类型和深度学习。

机器学习 - 简要概述

机器学习是人工智能的一个子集，它使计算机系统或机器能够通过使用算法或方法从原始数据中提取模式。它通过从经验和可用数据中学习来构建模型本身，而无需被明确编程。

根据训练方法以及数据可用性，机器学习有以下三种基本学习类别：

在这种机器学习类别中，算法使用带标签的数据集进行训练。基本上，监督学习中的算法或模型被提供输入-输出对，其中每个输入都与相应的输出或标签匹配。主要目标是使模型学习输入和输出之间的关系，使其能够准确地预测或分类新的、未见过的数据。

在这种类别中，与监督学习相反，模型在没有标签数据集的情况下进行训练。它学习自主分析和推导出数据中的见解。主要目标是使模型学习未标记数据中的关系。

在这种机器学习范式中，模型不是使用带标签或未标记的数据，而是借助代理和环境进行训练。代理通过与环境交互来学习做出决策。

首先它在环境中采取行动，然后以奖励或惩罚的形式接收反馈。最后，代理使用反馈来改进其决策过程。

让我们了解机器学习如何为生成式 AI 的基础做出贡献：

在开发的早期阶段，生成式 AI 模型使用监督学习来训练模型，以便它们可以根据学习到的输入和输出之间的关系生成内容。

生成式 AI 利用无监督学习来发现模式和关系。它帮助生成式 AI 模型从未标记数据中生成新内容。

在生成式 AI 中，适应性非常重要，尤其是在需要持续改进的任务中。生成式 AI 模型使用强化学习根据反馈和奖励来改进其输出。实际上，ChatGPT 使用**基于人类反馈的强化学习 (RLHF)**，其中涉及少量人类反馈来改进代理的学习过程。

生成式 AI 模型使用 ML 优化技术来微调参数。它增强了它们的性能，并且它们可以生成更准确的内容。

生成式 AI 使用另一种称为迁移学习的 ML 范式来预训练其模型。它有助于模型加速特定内容生成过程的学习。

深度学习是受人脑结构和功能启发的 ML 的一个子集。它使用称为人工神经网络 (ANN) 的多层算法结构从输入数据中提取复杂特征。

与算法相比，深度学习算法一旦设置后需要较少的人工干预。它也需要较少的测试时间，因此可以即时生成结果。

让我们了解深度学习如何为生成式 AI 的基础做出贡献：

为了生成多样化的内容，生成式 AI 需要学习数据的层次表示。深度神经网络（具有多层的神经网络），一种深度学习模型，帮助生成式 AI 模型做到这一点。

它是一种用于分析图像的 ANN（人工神经网络）。它们使用卷积层从输入图像中自动学习特征的空间层次结构。生成式 AI 模型使用 CNN 从视觉数据中提取特征并促进跨模态任务，如文本到图像生成。这使得 CNN 成为推动生成式 AI 能力发展的强大工具。

它们是具有闭环的前馈神经网络，即所有节点都连接到所有其他节点。RNN 中的每个节点都充当输入和输出。生成式 AI 模型使用 RNN 从示例中学习并创建遵循其学习到的模式的新数据序列。

为了训练生成式 AI 模型，我们需要访问大规模数据集。深度学习模型有助于处理此类数据集。

生成对抗网络 (GAN) 是一种用于生成建模的深度神经网络架构类型。GAN 因其生成逼真图像、视频和其他内容生成类型的创新方法而被证明非常有效。

在本章中，我们解释了 AI 的各个学科是如何相互关联的。我们还概述了机器学习和深度学习，以及它们如何在为生成式 AI 的卓越能力奠定基础中发挥重要作用。

我们还重点介绍了各种 ML 范式，包括监督学习、无监督学习和强化学习。很明显，机器学习和深度学习将在释放生成式 AI 的全部潜力的过程中发挥至关重要的作用。

打印页面