人工智能社会实验:伦理规范与运行机制

瞿晶晶王迎春赵延东

摘要：

人工智能正推动社会进入智能化时代.社会实验被认为是系统性认识人工智能社会影响的重要途径,但其本身又叠加了多重风险,急需科学研判并形成共识性实验规范.本文从技术、社会以及二者双向互动的角度分析了人工智能社会实验的潜在风险,并结合生命医学、心理学、社会科学与人类学的代表性实验及其伦理规范,从实验对象权利保护、实验因素制约、实验过程可控性以及实验效益伦理性等维度提出9条实验规范.在此基础上,尝试性提炼形成了涉及主体参与、运行反馈和程序公正等层面的人工智能社会实验运行机制,以期助力实现人工智能稳健发展.

关键词：社会实验、人工智能、实验规范、技术治理

分类号：G312(科学研究工作)

资助基金：科技创新新一代人工智能重大项目;上海市科技创新行动计划软科学重点项目;中国人民大学双一流跨学科重大创新规划平台数字社会治理跨学科交叉平台

在线出版日期：2023-01-05（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：74-82