训练基础模型 · 第 1 题,共 12 题
在基础模型的预训练(pre-training)过程中会发生什么?
有 1 个正确答案。 简单 由 AI 生成
显示答案
答案
- C 它从海量数据中学习通用模式
解析
预训练期间,模型处理海量且大多未标注的数据集,学习语言、知识和模式,通常通过预测下一个 token 来实现。这是生命周期中成本最高的一步,也是之后所有定制的基础。
训练基础模型 · 第 1 题,共 12 题
有 1 个正确答案。 简单 由 AI 生成
预训练期间,模型处理海量且大多未标注的数据集,学习语言、知识和模式,通常通过预测下一个 token 来实现。这是生命周期中成本最高的一步,也是之后所有定制的基础。