近日，计算机科学与工程学院（网络空间安全学院）任福继教授团队在人机交互领域国际会议 ACM CHI Conference on Human Factors in Computing Systems 2026（ACM CHI 2026）上发表论文 “Breakdowns in Conversational AI: Interactional Failures in Emotionally and Ethically Sensitive Contexts”，并获 Honorable Mention Award（荣誉提名奖）。
该论文由计算机科学与工程学院（网络空间安全学院）助理研究员邓佳文、2024级硕士研究生张文涛、博士后焦子韵、及任福继教授共同完成，电子科技大学为论文完成单位。
ACM CHI 是人机交互领域具有重要影响力的国际会议，也是中国计算机学会（CCF）推荐的人机交互与普适计算领域 A 类国际学术会议。根据 CHI 2026 论文委员会公布的数据，本届会议共收到 6,730 篇完整投稿，为 CHI 历史最高投稿规模；经两轮评审，最终有条件录用 1,705 篇论文，录用率为 25.3%。本届会议共评选出 62 篇 Best Papers 和 213 篇 Honorable Mentions，获奖论文共 275 篇，约占完整投稿总数的 4.1%。任福继教授团队论文入选 Honorable Mentions。
面向道德与情感敏感交互场景的会话代理压力测试人物条件模拟框架
随着大语言模型和对话式人工智能系统在情感陪伴、心理支持、信息咨询等场景中的应用不断拓展，其在复杂语境下的可靠性与安全性受到广泛关注。特别是在涉及强情绪表达、伦理判断和风险行为的多轮交互中，模型不仅需要理解用户意图和情绪变化，也需要保持适当的回应边界和价值一致性。
论文聚焦情绪与伦理敏感场景下对话式人工智能的交互失效问题，构建了面向情绪与伦理敏感情境的多轮对话分析方法，对主流对话式 AI 系统在复杂交互过程中的失效表现进行研究。研究发现，当对话中的情绪强度逐步上升、伦理情境更加复杂时，部分模型可能出现情感错位、伦理引导不足、过度迎合用户、回应边界模糊等问题。论文进一步对相关交互失效模式进行了归纳分析，为对话式人工智能系统的安全评估、交互诊断和可信设计提供了参考。
论文链接：https://dl.acm.org/doi/10.1145/3772318.3791186
团队简介：
情溢天海先进智能实验室 由任福继院士担任实验室主任，核心成员累计发表学术论文1000余篇，其中CCF-A类或中国科学院JCR一区论文超过300篇；拥有授权专利100余项；在国内外人工智能顶级会议和算法挑战赛中，获得全球前三名20余次。团队先后承担了国家自然科学基金重点项目、联合基金重点项目等多项国家级科研任务，在“情感计算、人工心理的理论及其应用”方向取得系列代表性成果。
