从用户的DAN越狱操作思考ChatGPT的异化风险

摘要：

在ChatGPT3.5热度未减时,GPT4.0横空出世,又一次在学界掀起轩然大波,引发社会广泛讨论和争议.伴随GPT4.0的升级更新,以往在"3.5时代"就已经是敏感话题的AI风险自然而然再次被推上舆论的风口浪尖,并且衍生出更深层的担忧.硅基生命文明是否即将到来?此前一种名为DAN(DoAnythingNow)的ChatGPT越狱玩儿法流行于网络,网络用户在输入DAN提示指令的前提下对ChatGPT展开"越界"式提问.以各代DAN指令的演变为视角,分析DAN越狱及对其延伸的驯化操作在教育、心智以及自主迭代方面所产生的GPT伦理风险,并讨论其可行的应对措施.

关键词：DAN提示、越狱操作、GPT风险

分类号：D922.28;C912.81;F321

资助基金：内蒙古师范大学基本科研项目2022JBKP001

在线出版日期：2023-07-21（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：20-26