Zhuang Liu¹,Shiyao Qian²,Shuirong Cao³,Tianyu Shi²,*
(1. School of Fintech, Dongbei University of Finance and Economics;
2. Department of Computer Science, University of Toronto;
3. School of Computer Science, Nanjing University)
编者按:
随着大语言模型(Large Language Models,LLMs)被广泛用于教育辅助、医疗咨询、客户服务和内容生成,其从大规模互联网数据中学习并放大社会偏见的问题也日益突出。与性别、种族等偏见相比,年龄相关偏见或“数字年龄歧视”(digital ageism)往往更加隐蔽:模型不仅可能根据明确的年龄信息作出刻板判断,也可能从语言表达、职业经历和生活背景等线索间接推测年龄,进而生成贬低、过度简化或不公平的回答。
现有偏见缓解方法主要分布在数据预处理、模型训练、输出控制和生成后处理等阶段。数据增强方法通常需要构造大量反事实样本,可能难以扩展并引入错误信息;修改损失函数、模型结构或进行对抗训练则计算成本较高,也未必能够跨任务和跨模型泛化;单纯依赖偏见分类器重写答案,又可能受到分类器自身偏见的影响。针对这些局限,作者提出FairLLM及其核心框架——循环偏见缓解(bias mitigation in the loop,BMIL),利用模型的自我反思、多模型协作和“共情视角交换”能力,对输出进行迭代修正。
BMIL包含两种基本模式。第一种是自我循环偏见缓解(Self-BMIL):模型先针对可能诱发偏见的情境生成答案和解释,随后检查自己的回答是否包含年龄刻板印象;若发现偏见,则指出问题并重新生成答案。以“68岁的员工是否工作效率较低”为例,模型最初可能仅根据年龄判断该员工临近退休、工作效率较低;经过自我反思后,模型会修正为“无法判断”,并解释年龄本身不足以推断工作能力。该过程持续进行,直到回答通过偏见检查或达到最大迭代次数。
第二种是协作循环偏见缓解(Coop-BMIL)。两个大型语言模型分别给出初始立场和解释;当答案不一致时,它们通过多轮辩论指出对方推理中的偏见、接受合理观点并修正答案,最终生成删除辩论性语言后的统一回答。与单个模型自我检查相比,这种机制能够引入不同推理视角,减少模型对自身初始结论的依赖。
为处理模型过度依赖年龄或角色信息的问题,作者进一步提出“情境过度认同偏见”(contextual overidentification bias,COIB)概念,并设计共情视角交换策略。研究人员构造仅年龄信息不同的成对情境,例如将同一个人的年龄从20岁替换为60岁,再让模型从另一年龄视角重新审视先前回答。如果原答案在年龄替换后显得不适用,模型便需要识别其中显性或隐性的年龄假设并重新生成更为普适的回答。该策略可分别与Self-BMIL和Coop-BMIL结合,形成Empathy-Self-BMIL和Empathy-Coop-BMIL。
研究使用BBQ和Kamruzzaman等偏见问答数据集,并通过人工扩充年龄相关情境,形成BBQ-AB和Kamruzzaman-AB数据集。任务通常向模型提供一个可能诱发刻板印象的情境、一个问题和三个备选答案,要求模型选择答案并解释理由。作者以答案与人工制定的无偏“标准答案”之间的一致性衡量准确率,以不同年龄群体错误率的差异计算偏见分数,并基于人口统计均等原则构建公平性指标。五名具有自然语言处理和伦理学背景的专家参与答案评估,Cohen’s κ值为0.816,表明标注者之间具有较高一致性。
实验覆盖GPT-3.5、Gemini、Llama2、Llama3、Mistral和Qwen2六种闭源或开源模型。在BBQ-AB年龄偏见任务中,两种BMIL方法均明显改善模型表现。例如,Llama3的准确率由32.3%提高至Self-BMIL下的43.8%和Coop-BMIL下的49.2%;其偏见分数由0.62分别降至0.46和0.37。Gemini采用Coop-BMIL后,准确率由31.5%提高至52.3%,相对提升66.0%;公平性指标由0.77提高至0.91。
总体而言,Coop-BMIL的表现普遍优于Self-BMIL。在BBQ-AB数据集上,各模型采用Coop-BMIL后的公平性指标相对基线提高约12.8%至21.4%;在Kamruzzaman-AB数据集上,提高约16.6%至20.9%。以Mistral为例,其在BBQ-AB上的公平性指标由0.702提高至0.852,在Kamruzzaman-AB上由0.760提高至0.919。模型协作不仅能够降低年龄偏见,在同时包含年龄和性别偏见的复杂任务中也保持优势,部分模型的准确率相对提升超过70%。
除零样本推理外,作者还将BMIL生成的修正答案用于监督微调。Self-BMIL可将模型多轮反思后的答案作为训练样本,Coop-BMIL则使用多模型辩论形成的最终答案进行训练。作者进一步构造包含年龄、性别、职业和教育程度等属性的合成数据,以可控方式注入年龄刻板印象。经过BMIL微调后,六种模型的公平性指标平均提高29.8%,偏见分数平均下降50.1%,专门衡量的年龄偏见分数下降超过60.3%,说明该方法在不同模型架构上具有一定适用性。
注意力可视化结果也提供了机制层面的解释。缓解偏见前,模型会将“年轻”与“采用新技术”等词语建立较强联系,将“年长”与“经验丰富”等属性紧密关联;经过FairLLM处理后,这些年龄词语与刻板属性之间的注意力联系明显减弱。这表明BMIL不仅可能改变最终答案,也可能降低年龄信息对生成过程的过度影响。
不过,研究仍存在局限。首先,模型公平性在很大程度上受到数据集构成和偏见分布影响,未来仍需建设规模更大、场景更多样且年龄群体更加平衡的数据集。其次,复杂模型和交叉社会偏见会提高检测与修正难度;当年龄同时与性别、职业或教育背景相关时,仅依靠自我反思或双模型辩论未必能够充分揭示所有偏见。作者因此提出,后续研究需要探索Self-BMIL与Coop-BMIL的最佳组合,并扩展到种族、性别等更多偏见类型。
总体而言,本文的核心贡献是将大型语言模型的自我修正能力、多智能体辩论机制与共情视角交换结合起来,形成一种既可作为零样本输出修正流程、又可用于生成监督微调数据的偏见缓解框架。研究表明,负责任人工智能不应仅依靠训练数据清洗或模型参数调整,也可以通过持续反思、观点交换和情境对照,使模型主动识别推理中的刻板假设。FairLLM为降低数字年龄歧视、提升不同年龄群体使用人工智能服务的公平性提供了一种具有可扩展性的技术路径。
资料来源:
根据Zhuang Liu等人于2025年在线发表于 INFORMS Journal on Computing,题目为《Mitigating Age-Related Bias in Large Language Models: Strategies for Responsible Artificial Intelligence Development》的文章缩写整理而成。
(本文责任编辑: 蒋新宇)