聪明反被聪明误:ChatGPT错误内容生成的类型学分析

被引:33
|
作者
方师师 [1 ,2 ]
唐巧盈 [1 ]
机构
[1] 上海社会科学院新闻研究所
[2] 上海社会科学院互联网治理研究中心
关键词
ChatGPT; 内容生成; 类型学; 人工智能;
D O I
暂无
中图分类号
TP18 [人工智能理论]; G206 [传播理论];
学科分类号
050302 ; 081104 ; 0812 ; 0835 ; 1405 ;
摘要
大量使用实践和用户体验发现,基于ChatGPT的内容生成会出现多种错误形态,本文对此进行了类型学分析。研究发现,基于ChatGPT生成的错误内容可以从“错误事实”与“错误认知”的双重角度进行维度提取,存在事实错误、逻辑错误、推理错误、编程错误、文本输出、过度拟合、综合问题7大类别,并从“可核验性、可证明性、可体验性、可识别性”4个维度进行认知与测量。本文从系统内部性和系统外部性两个方向对ChatGPT的错误内容生成进行了解释与分析,并提出了未来可供探索的研究议程。
引用
收藏
页码:31 / 42
页数:12
相关论文
共 8 条
  • [1] 作为媒介性的生成性:作为世界的媒介
    胡翼青
    谌知翼
    [J]. 新闻记者, 2022, (10) : 3 - 15
  • [2] 技术的本质[M]. 浙江人民出版社 , (美) 阿瑟, 2014
  • [3] What ChatGPT and generative AI mean for science[J] . StokelWalker Chris,Van Noorden Richard.Nature . 2023 (7947)
  • [4] A systematic literature review on disinformation: Toward a unified taxonomical framework
    Kapantai, Eleni
    Christopoulou, Androniki
    Berberidis, Christos
    Peristeras, Vassilios
    [J]. NEW MEDIA & SOCIETY, 2021, 23 (05) : 1301 - 1326
  • [5] Artificial Intelligence in Service
    Huang, Ming-Hui
    Rust, Roland T.
    [J]. JOURNAL OF SERVICE RESEARCH, 2018, 21 (02) : 155 - 172
  • [6] Can we trust Big Data? Applying philosophy of science to software
    Symons, John
    Alvarado, Ramon
    [J]. BIG DATA & SOCIETY, 2016, 3 (02): : 1 - 17
  • [7] 谷歌. .
  • [8] Language models are few-shot learners. Brown T,Mann B,Ryder N,et al. Advances in Neural Information Processing Systems . 2020