谷歌学术作为一款流行的在线研究工具，为全球用户提供了一个跨学科文献的平台，促进了研究与分析。然而，一项新研究揭示了其存在的一个严重问题：平台上出现了由AI生成的超过一百篇虚假科学论文，这不仅破坏了科学诚信，还可能对公众对科学研究的信任造成重大影响。
瑞典农业科学大学的研究人员发现，这些由AI捏造的虚假论文正通过搜索引擎广泛传播，引发了关于科学真实性和可靠性的深刻担忧。图书馆与信息科学博士Björn Ekström指出，这种现象增加了“证据黑客”的风险，即错误结论可能会渗入社会并影响重要决策过程。例如，从这些虚假信息中得出的错误结果已经在互联网上的多种研究工具中出现，并且已经影响到了社交媒体和其他渠道上的数百万用户。
随着AI生成的论文数量持续增长，这对传统的同行评审过程构成了额外挑战。由于AI能够大规模生产虚假的科学出版物，评审人员面临的工作量增大，使得区分真假研究变得更加困难，可能导致评审标准不一致以及评审人员疲劳的问题。
图书馆与信息科学教授Jutta Haider在解释GPT（生成预训练变换器）生成的可疑研究的影响时强调，人们很容易从这些错误信息中得出错误结论。她提到，理解不同方法和激励措施之间的关系有助于识别出分布点和机制，从而帮助研究人员辨别高质量、经过同行评审的研究来源。
这项研究提醒我们，仅仅因为一篇论文出现在谷歌学术上，并不能保证它的准确性和可靠性。为了应对这一挑战，需要采取措施提高识别潜在AI捏造科学论文的能力，同时强化学术数据库的质量控制，确保所包含的研究都是经过严格审查的。这对于维护科学研究的真实性和公众对科学的信任至关重要。（来源）
发表回复