应对AI论文造假,不妨“以AI检测AI”

版次:08  2024年05月27日

淮南日报社严正声明


长期以来,淮南市部分自媒体、政务新媒体未经淮南日报社授权同意,肆意、擅自、无偿转载、链接、转贴或以其他方式复制、录制发表淮南日报社(含淮南日报、淮河早报、淮南网以及淮南日报官方微博、微信、抖音、视频号、掌上淮南新闻客户端等平台)记者采写的新闻稿件,特别是部分自媒体、政务新媒体不注明稿件来源、原创作者(或者采取隐匿、模糊形式处理稿件来源、原创作者),肆意、擅自删节、修改淮南日报社记者原创新闻稿件,严重违背新闻职业准则和道德,严重侵害淮南日报社版权,严重损害淮南日报社新闻记者权益。

现声明如下:

凡淮南日报社记者署名的文字、图片以及短视频等新媒体形态作品和融新闻作品,版权均属淮南日报社所有。未经授权,任何媒体、网站,不得转载、链接、转贴或以其他方式复制发表,各类自媒体和各级政务新媒体不得转载、链接、转贴或以其他方式复制发表。已经授权的媒体、网站,在使用时必须在醒目处以醒目和规范方式注明来源、作者。违者,淮南日报社将依法追究法律责任。

论文代写,一直是学术作弊黑灰产中的隐疾。而随着人工智能时代到来,AI又成了其中得力的生产工具。近日,据新京报卧底调查,在论文代写产业链中,黑灰产团队已经开始通过AI工具来批量编造论文,并在各大平台接单生产售卖。

报道中值得注意的细节是,有代写团队成员向暗访记者表示,因为AI代写工具的出现,使得论文代写的门槛降低,甚至出现了“职高生用AI工具帮博士生代写论文”的现象。

在AIGC(人工智能生成内容)工具出现之初,行业普遍认为人工智能将能够提升内容生产效率,但或许令人意想不到的是,AI工具暂时还没有来得及在严肃的学术研究生产中得到广泛应用,却率先成为了黑灰产业提高产量的工具。

而要对抗“AI代写”的黑灰产,需要监管者更快升级技术工具,同时,建立更加严格的行业性规范。一方面,用“AI来检测AI”;另一方面,要对“AI工具如何使用”建立明确的标准。

当前,国内外已经开始研发专门针对“AIGC内容”的检测工具。在部分内容平台上,已经开始对疑似“AI生成内容”进行了异常标注。从数据检测识别的逻辑看,这类AI造假内容的特征相对更加明显,通过对文本结构、用词与语言模型等进行检测,应当可以识别察觉出AI的创作痕迹。

因此,在传统的抄袭查重系统之外,至少目前,可以尽早将针对“AI内容”的检测工具也应用到学术论文的检测流程之中,并对疑似AI造假的内容进行标注,辅助审核人员进行判断。

在技术性防范手段之外,针对AI论文造假,学术界也可以迅速行动起来,为AI工具的应用设定清晰的边界。例如,可以使用AI辅助制作插图,但不得进行任何文本、数据生成。

当然,随着AI被应用于检测预警,以及行业共同规范的建立与调整,AI造假的漏洞终将被迅速填平。从长期来看,人工智能仍然会是创新的朋友,而不是造假的同伙。马尔文 来源:新京报