大模型幻觉:人机传播中的认知风险与共治可能

摘要：

大模型在人机交互中可能产生"幻觉",即生成的内容看似合理但与事实相悖.幻觉问题的产生并非偶然,由技术发展的局限性和用户输入的提示词与情境等共同所致.大模型幻觉对人的认知和信息传播构成风险,并对"数据范式"下的知识生产和隐性知识的价值显露带来挑战;同时,认知依赖下人机交互影响着人类的思维模式和判断力.为应对这些挑战,可通过提高训练数据的质量并明晰治理标准、增强模型透明性和可信性、实现有监督的机器动态自治等策略完善大模型未来发展方向.大模型幻觉无法完全避免,从另一个角度看,幻觉现象在创造性领域可能激发创新思维,为人类文化与艺术的发展注入新的活力与动力.

关键词：大模型幻觉、认知风险、知识生产、人机协同治理、人机传播

所属期刊栏目：45

分类号：G206(信息与传播理论)

资助基金：国家社会科学基金22BH156

在线出版日期：2024-10-14（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：171-180