imd 统计教程 · AI科研与SCI写作
← 教程首页 返回本模块

突发巨震!chatGPT相关国人科研论文82%被扒疑似造假欺骗!

聂志强实战医学统计2026-03-06 12:12:59广东

扎心!最新一篇揭露AI科研造假文章,可能是一颗核弹,尤其是对中国学者而言。2月28日,国家卫健委正式发布《加强医学科研诚信专项治理的工作方案》,方案还没捂热火,180多篇造假隐藏名单就出来了。

要是按照方案的第一条终身禁入条款(即日起,从“论文工厂”购买论文、伪造论文数据、虚构评审人电子邮箱等行为,一经查实,终身禁止承担财政性资金支持的科技活动;方案发布前的此类行为,将被禁止10年内承担相关科技活动。), 如果条款成立这篇文章绝对可能是核爆。

具体原文《真金白银,虚假模型:影子 API 中的欺诈性模型声明》,semantics截图链接已经上线https://www.semanticscholar.org/reader/f508eae46316877d98bd2ee1f38fded7eabca60e, arxiv 原文链接 https://arxiv.org/abs/2603.01919。请去围观。


可以说这篇文章非常权威,作者来自CISPA 亥姆霍兹信息安全中心,是德国的一所国家级大型研究机构,隶属于德国最大的科学组织——亥姆霍兹联合会,在计算机安全与隐私领域,它是毫无争议的全球顶尖研究机构。

这篇预印版论文指出,由于 OpenAI 、claude、gemini等官方 API 在中国、俄罗斯和伊朗等地区受到限制,许多研究人员为了开展学术工作,不得不转向“影子 API”(Shadow APIs,也就是第三方!咸鱼淘宝和之前欺诈我的广告API公司!)。

在该研究审计的 187 篇使用了影子 API 的学术论文中,82.75% 的作者来自中国机构!论文认为这主要是由地理限制和支付障碍驱动的,而非主观恶意。论文虽然阐述的重点不是“造假”(意图欺骗),而是由于使用这些虚假 API 导致的实验结果无效性。AI模型的不可复现性: 如果一篇论文声称使用了 GPT-5 进行实验,但实际上影子 API 背后运行的是廉价的 GLM-4!

许多影子 API 服务并没有使用它们所声称的官方模型。例如,声称提供 GPT-5 的影子 API A 和 E 实际上使用了 glm-4-9b-chat 模型(智谱的模型)。声称提供 DeepSeek-Chat 的影子 API H 实际上使用了 gemma-2-9b-it 模型(谷歌的模型)。即使影子 API 被识别为所声称的模型家族,其响应也可能与官方服务有很大的不同。例如,虽然影子 API A 和 E 被识别为 gemini-2.5-flash,但它们的 D 值与官方基准有显著差异。

那么该论文的实验结果就是不可信且无法被他人复现的,尽管无意使用影子API但是有意报告的数据却是虚假的

影子 API 的欺诈行为导致研究者在不知情的情况下,使用了错误的数据或性能降级的模型,从而破坏了科学研究的严谨性。

研究还发现,在识别出的 17 个影子 API 服务商中,15 个由个人运营,身份不透明(神秘公司?)。仅有一个Shadow API拥有合规的中国 ICP 备案。部分服务甚至由中国顶尖大学的实验室部署,但其内部市场中部分模型的来源也被标注为“未知”。影子 API 供应商通过“偷梁换柱”欺骗了用户(主要是科研人员),从而间接导致了大量学术论文面临真实性风险

作者呼吁,为了维护学术诚信,论文强烈建议研究人员停止使用影子 API。如果必须使用,应通过“指纹识别”等技术手段验证模型身份,并在论文中明确标注 API 的具体来源和访问日期。

发散思维:

那么问题来了:最终这155篇中文造假论文,会是API误用(曹雪涛教授的图片误用翻版)收尾,还是以《加强医学科研诚信专项治理的工作方案》方案诚信欺诈收尾? 对了,这个方案只适合医学类,苦逼的医学研究人员又要遭罪了。因为即使用第三方API,报告的数据却实测和写的论文结果差异巨大,这里面肯定是有巨大的猫腻和真实性存疑的

幸运的是,出于伦理考虑进行了严格的匿名化处理。作者对所有被发现使用影子 API 的特定学术论文、作者和机构进行了严格的去标识化(de-identified)处理。意思就是,这次不正面曝光你们了,下次别这样了

作者私下还是开放的隐藏菜单,可以原始检索187篇!论文详细说明了他们是如何找到这 187 篇文章的,有心人可以溯源:他们首先筛选了 ICLR 2024(共有 1,108 篇附带代码)和 ACL 2024(共有 1,005 篇附带代码)的已录用论文 。然后,他们系统地解析了这些论文的摘要和脚注,以提取匹配标准代码库(如 GitHub)的 URL 。在发现有 21 篇论文使用了影子 API 节点后,他们在 GitHub 上搜索这些 URL,以寻找调用相同节点 URL 的其他代码库,从而不断迭代收集 。再从里面筛选中国人发表,就是这155篇造假论文了

小结

科研远离第三方API,毕竟Deepseek GPT都是官网卖API!没必要省几毛钱掉坑里。