常用AI写论文会变蠢?吓得我打开ChatGPT查一下
2024-04-01 22:05

常用AI写论文会变蠢?吓得我打开ChatGPT查一下

本文来自微信公众号:新硅NewGeek(ID:XinguiNewgeek),作者:Josie,编辑:董道力,题图来自:视觉中国

文章摘要
本文讨论了使用AI工具写论文的现象以及其对学生学习表现的影响。研究发现,学生过度依赖AI工具会导致拖延症、记忆力减退和学业成绩下降。文章还提到了AI可能对人类认知发展产生的潜在风险。

• 💡 使用AI工具写论文在学生中普遍存在,但其会导致学习表现不佳。

• 💡 学生过度依赖AI工具容易产生拖延症和记忆力减退。

• 💡 AI工具可能对人类认知发展造成负面影响,需谨慎使用。

经常延毕的同学都知道,写论文最怕的当然是查重。


自己辛辛苦苦写(拼)的论文,一看查重率,直接去翟天临微博下问候十几条评论。


不过这问题自去年各种AI工具出现以后,似乎就再没引起过讨论,早有知乎大V手把手教学如何使用AI降重。



但AI的能力远不止降重这么简单,小到写一篇论文,大到通过司法考试,它都能做到。


沃顿商学院教授发现,ChatGPT在MBA课程运营管理中的考试成绩超过了不少学生。而能力更强的GPT4,刚发布时,就以平均分75的成绩通过了美国法考,超过了90%的人类考生。


面对拥有超能力的AI,大家也是来者不拒。有些人甚至直接用AI写的内容投稿,改都不改。


今年4月的一篇医学论文《成功治疗4个月大女婴的医源性门静脉及肝动脉损伤:病例报告及文献综述》中,直接出现了“我是一个AI大模型,所以没有真实的病人数据”这样的内容。



但ChatGPT能力再强,其本质也只是对已有的内容进行模仿重复,用它来写论文和考试作弊没什么区别。不少期刊已经开始不鼓励或者拒绝AI生成的学术内容。


我国在学位法(草案)中,直接将人工智能代写论文定义为学术不端行为。



但无论如何禁止学生使用AI写论文,总有人会冒险,只有让学生自发地、从心底里抗拒用AI作弊才行。


就像疫情期间为了让所有人都戴上口罩,专家跑出来说病毒会影响性功能一样。


巴基斯坦国立计算机与新兴科学大学(正经大学,2023年QS全球排名421)的学者Muhammad Abbas,另辟蹊径,做了个严谨的实验,试图证明用AI写论文会导致智商下降,让学生拒绝使用AI写作业。



Abbas表示:“在过去一年里,我观察到我的学生们在完成我布置的各项作业和项目时,越来越多地、不加批判地依赖生成式AI工具。这促使我深入探究他们使用这些工具的根本原因和后果”。


该研究分为两个阶段进行。


首先,研究人员开发了一个变量表,用来衡量学生在学习上使用ChatGPT情况。


变量表的类目包括“我使用ChatGPT来完成课程作业”“我依赖ChatGPT来帮助我的学习”“ChatGPT是我校园生活的一部分”等。


这一块是想测量到底有多少学生会使用AI来完成学业,并且是否依赖AI。


此表为了检测变量是否相关,简单来说就是作者在学术上为了证明这张表不是胡编的


第二阶段,研究者调查影响学生使用ChatGPT的原因,包括学术工作量、时间压力、对成绩的担心程度以及对内容质量的感知程度等。


测量后,研究者会评估使用ChatGPT对学生在拖延症、记忆力是否减退和学习成绩等方面的影响,并每隔一至两周进行复查。


作者的研究模型


研究发现,高强度的学术工作量(H1)和时间压力(H2)是ChatGPT使用量增加的主要因素,这意味着在面临高学业负担和时间紧迫的情况下,学生更有可能求助于AI工具。


这很好理解,作业都快做不完了,AI这根救命稻草能抓牢还是要抓一下的,当然,也有可能是因为大学生天然就有拖延症属性。


而更担心成绩的学生则不太愿意使用ChatGPT,他们担心使用AI工具可能会危害分数。


这是什么隔壁小孩式的发言?对于老师不允许做的事情,他们不敢越雷池一步。


有趣的是,研究并没有发现质量敏感性与使用ChatGPT之间的显著关系(H4),这表明学生对学术内容质量的重视程度并不一定会影响其使用AI工具。


也就是说,学生其实并不在意AI做出来的东西质量高不高,能交差就行。


此表是呈现什么原因会导致学生使用ChatGPT,以及使用ChatGPT的后果


简单解释一下这张表(同下表),Path列代表路径,比如H1行中,学术工作量(Workload)会导致学生使用ChatGPT。


系数(Coefficient)代表两个因素之间的关系,以H1的0.133为例,代表学生的学术工作量越大,就越会使用ChatGPT。


T和P列,是为了在学术上证明这个研究假设在统计学上成立不成立。


其实!我们直接看最后一列Status就好了,统计量大小对于看乐子的我们没多大影响。


再来看一下,使用ChatGPT会对学生学习表现会造成什么影响(H5、H6、H7)


一句话,研究发现使用ChatGPT对学生个人能力和学业成绩都会产生显著的不利影响。越依赖ChatGPT的学生,越容易拖延,记忆障碍也更频繁出现,并对学业成绩产生负面影响。


原因也很简单,不论AI给出的回答是好是坏,都让作业变得更简单了,全权交给AI完成,而不用自己的脑子思考,怎么还会有心思规划作业进度、复习知识点呢?


想想也是啊,反正作业考试都有AI帮忙,学生学习的时候也不会认真,课后也缺乏思考。


作者对学生使用ChatGPT的原因,以及对学业表现的影响做了更深度的分析。


此表是呈现学生因为各种原因使用ChatGPT后,对学习表现的影响


作者发现了一个连锁反应:那些被作业和时间紧迫感压得喘不过气来的学生,更容易一头扎进ChatGPT的怀抱,同时也更容易染上拖延的恶习。


这就像是开启了一个恶性循环,记忆力随之每况愈下,学习成绩自然也就一落千丈。


而担心成绩的学生则相反,他们不太使用ChatGPT,因此拖延和记忆力衰退的程度更低,但这种自我约束对学业成绩并没有显著影响。


既然作业多、时间紧,那是不是老师不布置那么多学业任务就好了?(这才是重点)


看完后硅基君发现,这研究是针对学生的,打工人完全不用担心了?!


当然不是,Abbas表示:“普通人应该认识到过度使用生成式AI的阴暗面。虽然这些工具提供了便利,但它们也可能导致负面后果”。


同月《神经心理学》杂志发表了一篇关于AI可能影响人类认知发展的论文。狠狠打了硅基君的脸。


该论文的作者同样表达了对学生利用AI工具的担忧,“像ChatGPT这样工具的出现,让我担心学生可能会使用它来完成任务,从而阻止对认知功能的刺激”。



作者提出了一个论点,AI可以充当“认知假体(cognitive prosthesis)”。


AI可以代表人类去执行认知任务,就像假肢替代失去的肢体一样,不仅仅包括计算、安排时间等简单任务,还扩展到了更复杂的认知功能,例如决策、解决问题等人类特有的能力。


短期来看,生成式AI增强决策的功能可以帮助个人更快更好做出选择,更专注于重要任务,但是长期来看可能会带来潜在风险。


关键问题就在于“认知卸载(cognitive offloading)”。


简单来说过度依赖AI会导致我们独立执行认知任务的能力下降。就像肌肉不锻炼会萎缩一样,人们不经常使用认知能力,它也会逐渐退化。


也就是说,如果人们不“卸载”,一直使用AI,是不是就不会有问题了?(来自硅基君的垂死挣扎)


总而言之,AI对于人类认知的影响可不单单作用在学业上,任何人过度使用AI工具的负面影响都不容小觑。


自ChatGPT诞生之后,AI工具就已经成为了学生们的新型“学习伙伴”。


早在去年1月,根据在线课程供应商Study.com对美国1000名18岁及以上的学生进行的一项调查,每10个学生中就有超9个知道ChatGPT,超过89%的学生承认使用ChatGPT来帮助完成家庭作业。


让学生完全禁止使用AI工具似乎不太可能,面对AI的潜在风险,我们能做到也许只有保持自己的大脑不断运转。


想象中AI像个家庭教师,为每个学生提供个性化教学,但现实是,AI帮学生写作业。


当然,这两项研究告诉我们的不仅仅是学生该谨慎使用AI,而是我们每个人都要注意不能过分依赖AI。


别在AI替代人类之前,人类就已经成为了技术的奴隶了。


本文来自微信公众号:新硅NewGeek(ID:XinguiNewgeek),作者:Josie,编辑:董道力

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定