近期,期刊 AI & SOCIETY 发表文章《The digital erosion of intellectual integrity: why misuse of generative AI is worse than plagiarism》,文章作者认为,滥用生成式 AI 的行为比抄袭剽窃更糟糕。
一般而言,捏造、伪造和抄袭剽窃被视为学术不端行为的“三大罪行”。其中抄袭剽窃涉及窃取他人作品、欺骗读者和违反有关规定的恶性行为。使用 AI 工具生成论文与传统的抄袭剽窃非常相似,同样涉及欺骗和破坏规则。然而,使用生成式 AI 工具比抄袭剽窃要容易得多——抄袭至少还需要在选择所抄袭的内容上花费精力,并将抄袭的内容与自己的文本进行整合,而使用 AI 直接生成则完全不需要这种繁琐的过程。同时因为 AI 生成文本相较抄袭剽窃更加隐蔽,发生这一行为的可能性比抄袭剽窃更高。
对于高校学生而言,滥用生成式 AI 的行为危害性不仅因其行为不易发现导致对学生实际学习情况难以做出客观判断,依赖生成式 AI 代写论文的学生更因为逃避了信息收集、消化和汇报的完整学习过程,不能在课程中收获应有的学习价值。更值得关注的是,即便是诚信守规、从未想过用 AI 工具作弊的学生,也可能因生成式 AI 崛起(以及部分高校对 AI 工具的推波助澜)导致的课程体系重构而收获更少的知识——学生不仅因逃避作业而自损教育质量,还有可能助推了导致课程体系“降智化”的恶性循环。
另外,越是依赖 AI 代劳,学生自主思考的空间就越小。这一点在中国科学报《为什么越使用 AI,越活得像个 AI 》一文提到的相关研究中同样被发现:研究将193名学生分为“人+人”组、“人+AIGC”组。前者为3名学生,后者为2名学生以及为他们配备的生成式 AI 电脑。经过对不同组别在生成产品创意、商业分析报告等多类型任务完成效果的长期对比分析后,研究发现过度使用生成式 AI 容易形成技术依赖危机,降低学生批判性思考能力。在养成技术依赖后突然暴露在没有生成式 AI 的任务环境中时,超过62%的学生出现了较明显的无助、焦虑等负面情绪。长期使用生成式 AI 协作完成任务也抑制了学生其发散性思维,降低了他们在无 AI 辅助情境下的创新表现,平均得分下降7%。
除了上述文章中提到的负面影响,相关研究还发现长期依赖 AI 开展工作还可能出现以下问题:
■ 人机协作在提高学生产生创新想法数量的同时,也容易使学生对自己的创新表现给出较低的自我评价的负效应。而长期使用生成式 AI 后学生对自身创新思维评价又会出现与现实不符的“自我夸大”。近11%的学生甚至养成了“把作业拖到最后,利用 AIGC 短时间完成的不良习惯”。
■ 使用生成式AI容易导致“创新同质化”加剧。相比于“人+人”组,“人+AIGC”组的产品创意和道德决策创新相似性分别提升11%和9%。由此可见,生成式 AI 的标准化模式忽略了个性化教育的本质。部分学生通过与生成式 AI 的同质化互动进而导致个体认知僵化,过度依赖 AIGC 的已有知识而忽视新的创造性知识。
■ 长期使用生成式 AI 可能阻碍学生之间的人际互动,妨碍学生情感智力和同理心的发展,甚至出现了“小组作业不讨论,学生们各自提问 AI”的情况。同时,部分不太会使用 AIGC 的学生,则由于意识到自己的技术能力不足而感到被边缘化。
■ 生成式 AI 并未缩小学生之间的表现差异,而可能进一步加剧不平等。正如相关领域专家所言:“你是什么水平,AI 就是什么水平。”学生对需要解决的内容越了解,提供给 AI 的提示词越详细、准确,答案就越充分。反之,如果提示词大而化之、模棱两可,提供给 AI 的有用信息有限,回答也就相应地简单甚至敷衍。
不可否认的是,AI 和学术、教育共存在当下已经成为一种常态。引导学生正确使用 AI 工具的同时,需要意识到阅读能力、批判性思维和逻辑能力等基本功在 AI 时代依然重要。与其在技术的滚滚洪流中困惑、迷茫,不如坚持学习学习再学习,在 AI 的助力下抵达远方。
文中部分内容来源:
[1] The digital erosion of intellectual integrity: why misuse of generative AI is worse than plagiarism - AI & SOCIETY
[2] 为什么越使用 AI,越活得像个 AI - 中国科学报
[3] AI 时代,该怎样看待学习?-人民日报
图源:pixabay