前言

        目前有前辈整理的专业领域QA对,但是质量不能算太好,模型效果也有提升的空间。在垂域大模型微调中,QA对通常能够带来更好的生成能力和上下文理解能力,特别是在需要生成详细回答的场景中。选择题则更适合需要推理和选择的场景,能够提高模型的准确性和推理能力。打算将部分QA对转化为选择题的形式。

对于微调来说,什么是好的选择题?

        在构造选择题之前,我们的先要明白什么样的选择题对于大模型微调之后的效果是有提升。

1、并不是题目越难越复杂,SFT的效果就越好。选择题难度对SFT的影响:

2、题目知识深度分级的核心价值:

3、对题目难度分级评估(Bloom分类法):

4、题目难度分解的理想分布:

如果需要多次微调:

流程:

        #先验分析阶段

        1、对现有QA对进行Bloom分级统计

        2、计算当前语义相似度基线

        #迭代优化流程

        3、生成初版选择题

        4、自动分级

        5、难度校准

        6、抽样审核——>反馈:7、调节生成策略

基于QA对去生成选项的方案

        生成高难度选择题,增强模型判断答案完整性的能力,增强模型判断关键参数正确性的能力。

错误选项生成策略:

  1. 复述原始答案生成新版本
  2. 将复述版本拆分成2个选项 / 将原答案拆分成2个选项
  3. 随机错误选项
  4. 原答案基于术语库的语义相似错误 / 复述版本基于术语库的语义相似错误

生成的数据样例:

{"id": "mold_textbook_250221@#$89549", "question": "为何在层压板制造中需要预先制作与成品相似的模具?", "answer": "在层压板制造中,预先制作与成品相似的模具是为了确保层压材料在成型过程中能够按照预定的形状流动和固化。由于层压材料的流动性有限,通过预先制作与最终制品形状相似的模具,可以有效控制材料的流动方向和成型效果,从而获得高质量的层压制品。\n\n在制作层压制品时,模具的设计和制作至关重要。模具需要精确反映最终制品的形状和尺寸,以确保层压材料在压机中的流动和分布符合设计要求。具体来说,模具的表面质量和精度直接影响层压制品的表面质量和尺寸精度。此外,模具的材料选择、表面处理和冷却系统的设计也是影响层压制品质量的重要因素。\n\n因此,预先制作与成品相似的模具是层压板制造中的关键步骤,不仅能够确保层压材料的流动性和成型效果,还能提高生产效率和产品质量,减少废品率。模具的设计和制作需严格遵循相关标准和规范,以确保最终层压制品的性能和可靠性。", "options": ["在层压板制造中,预先制作与成品相似的模具是为了确保层压材料在成型过程中能够按照预定的形状流动和固化。由于层压材料的流动性有限,通过预先制作与最终制品形状相似的模具,可以有效控制材料的流动方向和成型效果,从而获得高质量的层压制品。\n\n在制作层压制品时,模具的设计和制作至关重要。模具需要精确反映最终制品的形状和尺寸,以确保层压材料在压机中的流动和分布符合设计要求。具体来说,模具的表面质量和精度直接影响层压制品的表面质量和尺寸精度。此外,模具的材料选择、表面处理和冷却系统的设计也是影响层压制品质量的重要因素。\n\n因此,预先制作与成品相似的模具是层压板制造中的关键步骤,不仅能够确保层压材料的流动性和成型效果,还能提高生产效率和产品质量,减少废品率。模具的设计和制作需严格遵循相关标准和规范,以确保最终层压制品的性能和可靠性。", "违反标准:在层压板制造中,预先制作与成品相似的模具是为了确保层压材料在成型过程中能够按照预定的形状流动和固化(不符合GB/T 8844)", "由于层压材料的流动性有限,通过预先制作与最终制品形状相似的模具,可以有效控制材料的流动方向和成型效果,从而获得高质量的层压制品 在制作层压制品时,模具的设计和制作至关重要 模具需要精确反映最终制品的形状和尺寸,以确保层压材料在压机中的流动和分布符合设计要求 具体来说,模具的表面质量和精度直接影响层压制品的表面质量和尺寸精度 此外,模具的材料选择、表面处理和冷却系统的设计也是影响层压制品质量的重要因素 因此,预先制作与成品相似的模具是层压板制造中的关键步骤,不仅能够确保层压材料的流动性和成型效果,还能提高生产效率和产品质量,减少废品率 模具的设计和制作需严格遵循相关标准和规范,以确保最终层压制品的性能和可靠性", "在层压板制造中,预先制作与成品相似的模具是为了确保层压材料在成型过程中能够按照预定的形状流动和固化由于层压材料的流动性有限,通过预先制作与最终制品形状相似的模具,可以有效控制材料的流动方向和成型效果,从而获得高质量的层压制品。", "在层压板制造中,预先制作与成品相似的模具是为了保证层压材料在成型过程中能够按照预定的形状流动和固化。由于层压材料的流动性有限,通过预先制作与最终制品形状相似的模具,可以有效控制材料的流动方向和成型效果,从而获得高质量的层压制品。\n\n在制作层压制品时,模具的设计和制作至关重要。模具需要精确反映最终制品的形状和尺寸,以确保层压材料在压机中的流动和分布符合设计要求。具体来说,模具的表面质量和精度直接影响层压制品的表面质量和尺寸精度。此外,模具的材料选择、表面处理和冷却系统的设计也是影响层压制品质量的重要因素。\n\n因此,预先制作与成品相似的模具是层压板制造中的关键步骤,不仅能够确保层压材料的流动性和成型效果,还能提高生产效率和产品质量,减少废品率。模具的设计和制作需严格遵循相关标准和规范,以确保最终层压制品的性能和可靠性。(参数未验证)(专业设计错误)"], "correct_index": 0, "source_line": 2}

代码地址(调用大模型脚本,生成选项脚本,评测脚本):1cixin/QA2Quiz: 将QA对转化为选择题。目的:增强模型判断答案完整性的能力,增强模型判断关键参数正确性的能力。

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐