审稿人或难识别AI撰写的论文摘要
应警惕人工智能论文对科研完整性和准确性的破坏
审稿人或难识别AI撰写的论文摘要
科技日报北京1月16日电 (记者张梦然)据近日发表在预印本服务器bioRxiv上的一项研究,人工智能(AI)聊天机器人ChatGPT已可写出令人信服的假研究论文摘要,甚至连审稿科学家也无法发现。
聊天机器人ChatGPT会根据用户提示创建逼真文本,它通过消化大量现有的人类生成文本来学习执行任务。美国的软件公司OpenAI于去年11月发布了该工具,并供用户免费使用。
自发布以来,研究人员一直在努力解决相关伦理道德问题,因为它大部分输出可能很难与人类撰写的文本区分开来。近日美国西北大学的一个研究小组使用ChatGPT生成人工研究论文摘要,以测试科学家是否可辨别它们。
研究人员要求机器人基于发表在《美国医学会杂志》《新英格兰医学杂志》《英国医学杂志》《柳叶刀》和《自然·医学》上的50篇研究编写摘要。然后,他们通过抄袭检测器和AI输出检测器将这些摘要与原始摘要进行比较,并要求一组医学研究人员找出编造的摘要。
结果,ChatGPT生成的摘要通过了抄袭检查器,原创性得分中位数为100%,表明没有检测到抄袭。人工智能输出检测器发现了66%的生成摘要,但人工审稿人只正确识别了68%的生成摘要和86%的真实摘要,他们错误地将生成摘要中的32%识别为真实,将14%的真实摘要识别为编造。
研究人员称,ChatGPT写出了能骗过人类的科学摘要,如果科学家无法确定研究是否属实,或会产生"可怕的后果"。
研究人员表示,在虚假信息会危及人们生命安全的医学等领域,期刊需要采取更严格的方法来验证信息的准确性。而这些问题的解决方案,不应集中在机器人本身,"而是导致这种行为的不正当激励措施,例如通过论文数量进行招聘和晋升审查,而不考虑其质量或影响"。
【总编辑圈点】
大火的ChatGPT,不止是聊天工具,它在教育领域的渗透已经引起了广泛关注和讨论,当然,随之而来的还有忧虑。如果你使用过ChatGPT,也会惊讶于它撰写报告的能力。给它一个主题,它就能在几秒内生成大纲,也能在几秒内进行细化,而且看起来非常是那么回事。这次,科研人员发现它撰写的论文甚至能骗过审稿人。这又是一个人如何使用新技术的经典伦理问题。工具本身无罪,但应用边界应该清晰,使用者也要对自己的行为负起责任。
用电水壶烧水对身体有危害吗?大家好,我是天山青年,喜欢我的文章,就点赞关注我吧!每天我和大家分享一个美好话题?水是生命的源泉,对人体非常重要。生活中经常喝水可以促进身体健康,通常指热水。与冷水相比,热水对人体
山东科协每日科普白发突然增多可能是这几种原因有时候照镜子,会突然发现长了一些白头发,有人认为是衰老的征兆,有人则认为是营养不足所导致。一起来看看到底是怎么回事吧!为什么会长白头发?毛囊中的酪氨酸酶是毛发富含黑色素的细胞,使头
能不能长寿,你的身体早已告诉你,具备7个特征的人更长寿活到一百岁是每个人的愿望,虽然不是每个人都能做到,但就算不能活到那么久,也一定要身体健康吧?边肖为你提供了一系列健康指标。你遇到他们越多,你就越健康!满足以下7个特征,身体健康。1
注意以下3个细节,才能喝对水,上了年纪的老年人尤其得当心一位名人曾经说过,自然界的一切中唯有水最珍贵,我们在日常生活中也随处可见节约用水的宣传标语,这些都足以说明水的重要性。细细想来也的确如此,大家吃的食物须得靠水浇灌,很多能提供给我们
要注意啦!夏季最容易出现这几种疾病夏季新陈代谢的速度加快,全身血液循环的速度也有所加快,出汗多,下体部位长期处于封闭状态,汗液挥发不畅,容易引发生殖感染疾病。夏季最容易出现哪些疾病?前列腺炎前列腺炎是中年男性很常见
吃什么食物可以亮丽头发?营养师9类元素可帮忙我们都想要一头漂亮的头发,但是如何通过饮食营养我们的头发,拥有一头亮丽的秀发呢?那么,今天我们就来详细聊一聊。1维生素C首先是富含有维生素C的食物,比如橘子猕猴桃等。因为研究人员发
亲近大自然,夏日亲子游乡村振兴游万木葱茏,鸟语蝉鸣,莲叶满池。炎炎夏日,将乐县东越文曲村推出夏日亲子游活动,让孩子们在感受夏的脉搏促进亲子关系中,拓宽视野亲近自然。夏日亲子游分为家庭类(单个家庭)与团队类(多个家
中国最美的十大自然景点中国幅员辽阔,自然风光壮丽从桂林到阳朔漓江沿岸风景如画的喀喀喀特地貌,到张家界自然公园陡峭的石柱,从湖边经过神奇的张掖国家地质公园九寨沟和彩虹岩的色彩。就像中国的历史和文化一样,它
主动降噪声音保真,体验易拾音消噪宝日常生活中的很多场景都需要消除噪音,在嘈杂的街市公交地铁都需要保持通话声音的清晰保真,在现有音频设备的基础上,用什么方式能够快速有效的降低噪音,易拾音(AENC)ES260AI麦克
华山齐烟九点之一的华山,与鹊山卧牛山呈犄角之势,它兼鹊山的险和卧牛的平,远看华山是个平滑的几字,待进得其中,尽显奇石怪峰。老虎嘴刀刃雄关一棵树观光台鹞子翻身很多登山点已约定成俗,除了刀
去广西必点的5道桂菜,是桂菜之魂,老板以为你是广西人桂林山水甲天下广西,一个神奇的地方,奇山异水,人杰地灵。独特的地理环境养育了朴实勇敢的广西人,也酝酿了独具特色的广西美食。广西人特别喜欢吃酸,外地人将它称为吃酸大省,不管是啥都要加