情绪识别技术的问题、风险与规治

摘要：

情绪识别技术是人工智能领域的一项新技术,既能提升人的情绪识别能力也能增强机器的智能水平,进而可能带来新的人机交互革命.情绪识别技术有其特殊的理论基础和本质特征,它们必然地引发了相应的问题和风险.该技术的主要风险是:低效易错的情绪识别设备将给人带来生理和心理上的双重伤害,恶化人机关系;高效准确的情绪识别设备可能会侵犯个人隐私,并带来社会公平正义等诸多问题;越界使用导致了不可控风险.为了尽可能减少相应风险,需要针对该技术的理论基础与本质特点进行规范和治理.一个金字塔式综合规治方案是:(1)在顶层提炼情绪识别技术的基本伦理原则.(2)在中层进行分级治理.审视科学证据是否支持情绪识别技术完成特定领域的任务,考察每一类应用普遍化的过程合理性和伦理后果,最终划定风险等级以便精细化治理.(3)在底层提出情绪评估强度概念.根据不同的风险等级,为机器定制不同的情绪评估强度.

关键词：情感计算、情绪算法、情绪评估强度、可疑人工智能、治理策略

所属期刊栏目：45

分类号：B842.6(心理学)

资助基金：上海市社科规划青年课题"经典伦理学与认知科学哲学视域下的机器伦理研究"项目2020EZX001

在线出版日期：2023-04-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：82-90