人工智能道德增强的限度

摘要：

人工智能道德增强是从属于"人类道德增强"思潮的一个子话题——希望通过"人工道德建议者(AMA)""客观"的道德表征能力与强大的信息获取能力协助人类提高道德认知水平.但由于AMA毕竟无法达到"理想观察者(IO)"的标准,其必然会陷入专家主义的窠臼.此外,诉诸构建"道德机器"的研究者们在通过学习算法构架自动道德分类与决策机器的时候也预设了某种10视角.通过瓜里尼的道德案例分类器(MCC)的实验研究,我们发现无预分类的假设函数无法拟合,这意味着与IO契合的普遍主义AMA无法建成.鉴于此,我们建议另外一个不同的"道德增强"方案——一种"作为他者的AMA",并寄希望于通用人工智能成为其实现基础.

关键词：人工智能、道德增强、理想观察者、通用人工智能

所属期刊栏目：42

分类号：N0(自然科学理论与方法论)

资助基金：江苏省高校哲学社会科学研究基金项目"自由意志问题范式转换——计算主义自由意志研究"项目编号:2018SJA1353

在线出版日期：2021-03-19（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：80-87