周日在北京，超过100名研究人员齐聚第二届玉渊潭研究诚信大会，讨论人工智能在学术出版中的负责任使用。该大会发布了《学术出版中AI生成内容使用边界指南3.0》。专家强调验证AI输出以防止错误，并推动全球标准。
周日，北京举办的第二届玉渊潭研究诚信大会吸引了超过100名研究人员，焦点是如何让人工智能工具辅助而非扭曲研究和出版过程。中国科学技术信息研究所主办此次活动，并发布了学术出版中AI生成内容使用边界指南3.0版。
指南详细规定了AI在文献综述阶段的使用：研究人员可利用AIGC工具收集关键词或主题相关参考文献、分类并总结结论，以提供背景材料。但由于AI生成的参考可能伪造或过时，必须手动验证所有引用，并由人类主导决策。指南还警告在使用“深度思考”等功能时，确保来源数据库的可信度，并交叉检查推荐参考或结论，以防AI幻觉。
该指南涵盖研究其他阶段，包括数据收集、统计分析、图表生成、手稿提交、同行评审和出版后，提供了具体建议。谭铁牛，中国科学院院士兼南京大学党委书记，强调研究人员作为AI使用者的主要责任，并呼吁标准化学术论文中AI使用的披露。他表示：“我们应推动全球协作治理，达成AI使用规范和治理技术的国际共识，推动中国标准。”
爱思唯尔（Elsevier）最近发布的《未来研究报告》显示，中国研究人员是全球AI使用最活跃群体，69%报告采用AI，高于全球平均58%。66%的中国受访者认为AI将提升研究质量。爱思唯尔高级副总裁Gemma Hersh称：“中国在技术和创新方面总是领先。”她补充说，过去5至10年，中国研究质量显著提升，AI采用可能助力这一转变。
基于113个国家3200多名研究人员的调查，仅22%全球受访者认为AI可信，45%表示缺乏AI技能。Hersh指出，提高透明度和可追溯性是研究社区的共同需求，爱思唯尔正通过Scopus AI、ScienceDirect AI等工具提供支持。中国推动合规AI使用的努力正树立国际榜样。天津外国语大学传播学院副教授耿鹏表示，该指南澄清了学术出版边界、研究规范和学科评估，帮助研究人员将AIGC作为科学工具和助手，提供明确指导。
此次会议凸显了AI在学术领域的双刃剑效应：它加速创新，但需严格规范以维护诚信。