单选题 在 Transformer 模型中,Multi-Head Attention 的主要作用是:

A、 减少计算量
B、 捕获不同子空间的特征
C、 降低过拟合风险
D、 加快收敛速度
下载APP答题
由4l***15提供 分享 举报 纠错

相关试题

单选题 下列哪种优化器在大模型训练中较少使用:

A、Adam
B、SGD
C、RMSprop
D、Adagrad

单选题 下列哪种方法不属于大模型的高效微调技术:

A、LoRA
B、Adapter
C、全量微调
D、IA³

单选题 大模型的 “幻觉” 现象主要指:

A、模型输出与输入无关的内容
B、模型输出错误但看似合理的内容
C、模型拒绝回答某些问题
D、模型输出重复内容

单选题 下列哪种量化方式对模型性能影响最大:

A、INT8
B、FP16
C、INT4
D、BF16

单选题 在 RAG 系统中,检索模块的主要作用是:

A、生成自然语言回答
B、从知识库中查找相关信息
C、微调语言模型
D、评估回答质量

单选题 关于 Prefix Tuning 和 LoRA 的区别,正确的是:

A、LoRA 需要修改模型结构
B、Prefix Tuning 在推理时没有额外开销
C、LoRA 只在训练时添加额外参数
D、Prefix Tuning 更适合视觉模型

单选题 大模型训练中,学习率调度通常不会采用哪种策略:

A、线性衰减
B、余弦退火
C、指数增长
D、常数学习率

单选题 关于模型并行和数据并行的区别,下列说法正确的是:

A、数据并行需要更多的通信开销
B、模型并行适用于数据量极大的场景
C、数据并行将模型拆分到不同设备
D、模型并行将数据拆分到不同设备