大模型，英文名为 Large Model，早期也被称作 Foundation Model（基础模型），完整的叫法是 “人工智能预训练大模型”，简称为 “大模型”。人工智能（Artificial Intelligence, AI）是模拟人类智能的技术，其核心目标是通过计算机程序实现类似于人类的认知功能，主要涉及云计算、大数据处理、高性能计算算力、人工神经网络、机器学习以及深度学习等技术和方法。云计算提供强大的计算资源，使大规模数据存储与分析成为可能；大数据是训练 AI 模型的基础，AI 通过学习海量数据提取模式并做出预测；神经网络和深度学习模仿生物神经系统工作机制，应用于图像识别、自然语言处理等领域；机器学习方法让系统能从经验中自动改进性能，无需显式编程指令。
大模型类型丰富多样。我们日常口头所说的大模型，通常特指使用最多的一类 —— 语言大模型（Large Language Model，简称 LLM）。除了语言大模型，还有视觉大模型（CV 大模型）、多模态大模型等。现在，所有类别的大模型合集被称为广义的大模型，而语言大模型则被称为狭义的大模型。
从应用场景分类，大模型可分为通用大模型（L0），如 GPT - 4，具备跨领域泛化能力，能完成 “通识任务”，其参数规模通常超千亿级，依赖海量通用数据预训练，但需垂直领域数据微调提升专业度；行业大模型（L1），针对特定行业数据及需求优化，在通用模型基础上通过行业数据迁移学习实现领域适配，例如 Med - PaLM 2（医疗）、天镜（金融风控）、华为盘古 CV（千亿参数级工业视觉模型）；垂直大模型（L2），专注单任务高精度输出，如 Grounded - SAM（图像分割）、法律文书生成模型、医疗领域的 Med - PaLM 2 等，其价值在于解决传统算法在专业场景中泛化性不足的问题，如医疗影像分析、合同审查等。
按技术架构分类，有 Transformer 架构，以自注意力机制为核心，支持并行计算，成为大语言模型（如 GPT、LLaMA）和多模态模型（如 CLIP）的主流架构；卷积神经网络（CNN），是早期视觉模型基础架构（如 ResNet），擅长局部特征提取，应用于图像分类、目标检测等任务；混合专家系统（MoE），通过稀疏激活机制降低计算成本，典型代表为 GPT - 4（1.8 万亿参数，MoE 架构），优势在于保持模型规模的同时提升推理效率，适合边缘设备部署。
按模态类型分类，包括单模态大模型，代表有 GPT - 3（文本）、ViT（视觉），核心是专注单一模态数据处理，应用于文本生成、图像分类等场景；多模态大模型，代表如 DALL - E3、GPT - 4O，核心是跨模态信息融合与生成，应用于图文问答、视频摘要等场景；科学基础模型，代表有 AlphaFold2、风乌 GHR，核心是解决物理 / 生物等科学问题，应用于蛋白质预测、气象预报等场景。
按训练阶段分类，预训练模型是在大规模无标注数据上学习通用表征（如 BERT、GPT - 3），参数冻结后作为下游任务基座；微调模型通过指令微调（如 LoRA 技术）或领域数据适配（如金融文本微调），将通用能力迁移至具体场景；持续学习模型支持动态更新知识库（如 RAG 技术），解决传统大模型知识滞后问题。
按参数规模分类，小型模型（≤10 亿参数）适合边缘计算（如手机端部署）；中型模型（10 - 100 亿）平衡性能与成本（如 LLaMA - 7B）；超大规模模型（≥千亿级），如 GPT - 4（1.8 万亿参数），需万卡级算力支撑训练。
|
