作为生成式人工智能核心驱动力的训练数据的治理研究

摘要：

[目的/意义]当前研究对于生成式人工智能训练数据的治理问题关注较少.然而,训练数据的生命周期中存在着诸多不容忽视的风险,亟需有效的治理.[方法/过程]文章在论证了训练数据是生成式人工智能核心驱动力的基础上,使用数据生命周期的理论模型,全面归纳了训练数据生命周期中可能出现的风险样态.然后,从训练数据自身特性、生态性因素与生成式人工智能开发者操作性因素等角度分析了相关风险的成因.[结果/结论]数据本身的碎片化特性与偏见性是风险发生的起点;数据的生态失衡是风险发生的外部成因;同时,"黑箱"中的训练数据、偏差的数据标注与懈怠的数据脱敏则是风险发生的内在成因.由此,针对训练数据的特性,可以借助"可怜圆点"的框架,为其构建一个综合法律、市场、社群规范以及架构的风险治理方案.

关键词：训练数据、生成式人工智能、数据治理、ChatGPT

所属期刊栏目：45

分类号：TP391;G252;N4

资助基金：司法部专项;中央高校基本科研业务费项目

在线出版日期：2024-08-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：87-95