[人工智能]生成式AI：模型、应用与流程

本文系统介绍生成式AI的主要模型类型、应用场景以及工程流程，并通过若干示意图和表格展开说明。文档内容适合形成超过4页的技术参考，用于教学或工程背景说明。

图1：GAN中生成器与判别器损失随迭代轮次变化的示意。

图2：生成模型潜在空间中样本分布的示意散点图。

图3：生成文本或序列长度的示意直方图。

表1：主要生成模型类型及典型应用领域。

表2：生成式AI的常见应用场景。

表3：生成式AI项目的典型工作流程。

1. 什么是生成式AI？

生成式AI关注构建能够生成新数据样本的模型，使其分布与训练数据接近。与传统预测型模型不同，生成模型不仅对输入进行评分或分类，还可以合成新的文本、图像、音频、代码等。

生成式AI的核心目标包括样本质量、多样性和可控性（例如按提示生成特定风格或内容）。训练稳定性、评估与安全性是工程实践中的关键挑战。

2. 生成模型家族

GAN通过生成器与判别器的对抗训练来学习数据分布，生成器尝试“骗过”判别器，判别器则尽力区分真实与合成样本。这类模型对图像生成尤为成功，但训练过程容易出现模式崩塌和不稳定现象。

VAE通过重构损失加上变分约束学习潜在空间，适合表示学习和插值操作；自回归模型和扩散模型则分别在文本和图像生成领域占据主导地位，其中大规模Transformer语言模型是现代文本生成的核心架构。

3. 条件生成与可控性

许多生成式AI应用需要对生成结果进行控制，例如指定图像风格或文本主题。常见条件生成技术包括在模型输入中拼接标签或嵌入向量、通过交叉注意力引入提示（prompt）信息以及训练专门的控制模块。

工程上，Prompt设计、指导策略（如扩散模型中的无分类器指导）以及基于领域数据的微调是提升可控性和任务相关性的常见手段。

4. 生成模型的评估

定量评估指标包括图像生成中的FID（Fréchet Inception Distance）、IS（Inception Score），文本中的BLEU/ROUGE等，以及面向下游任务的性能指标。

由于自动指标通常无法完全反映人类感知质量，实际评估往往需要结合人工评价，关注连贯性、相关性、风格以及安全性等维度。

5. 风险、安全与负责任使用

生成式AI在不受约束的情况下可能产生误导性或有害内容，例如虚构事实、带偏见或冒犯性的文本，以及用于深度伪造或垃圾信息的滥用。

负责任使用需要在模型训练和部署阶段加入安全策略，如内容过滤、安全微调、合理的指令设计以及数据来源和用途的治理，并向用户明确说明模型的局限性和适用范围。

6. 生成式AI的工程流程

生成式AI项目通常包括数据准备、模型选择（如在GAN、扩散模型或语言模型之间进行权衡）、训练或微调、评估以及集成到应用中。

工程层面需要考虑训练任务的扩展性、算力成本、推理时延优化以及为用户提供可控接口（提示、参数）的同时保证安全行为。