AI科研信任危机：从工具到合作者的可验证性实践

1. 当AI开始写论文，我们到底在兴奋什么

第一次看到AI独立完成一篇完整科研论文的新闻时，我正坐在实验室里手动调参。屏幕上那篇由AI生成的论文，从摘要到实验设计再到结论，结构完整、逻辑自洽，甚至引用了十几篇真实存在的参考文献。那一刻我的感受很复杂——不是恐惧，而是一种“终于来了”的确认感。

过去两年，AI在科研领域的渗透速度远超大多数人的预期。从辅助文献综述、生成假设、设计实验方案，到自动编写代码跑数据、分析结果、撰写论文初稿，AI正在从“工具”变成“合作者”，甚至在某些环节里变成“主导者”。你给一个模型输入某个领域的研究现状，它能在一小时内产出三到五个可验证的假设，附带实验路径和预期结果。这种效率，放在传统科研流程里，可能需要一个博士生花上几周甚至几个月。

但真正让我开始认真思考这件事的，不是AI能做什么，而是它做出来的东西，我凭什么信。

这个“信”字，才是当前AI科研最核心的瓶颈。不是算力不够，不是模型不够聪明，而是当AI告诉你“这个假设成立”“这个实验结果显著”“这篇论文的结论可靠”时，你没有办法像信任一个受过训练的研究者那样去信任它。因为你不清楚它的推理链条在哪里断了，不知道它的数据来源有没有偏差，更不知道它在哪个环节“编”了一个看起来合理但实际不存在的事实。

我见过太多这样的案例：AI生成的论文里，参考文献的作者名字是对的，期刊名字是对的，年份也是对的，但你去数据库一查，这篇文章根本不存在。或者实验设计看起来严谨，但仔细一看，对照组和实验组的样本量计算方式完全不符合统计学规范。更隐蔽的是，有些AI生成的结论在逻辑上无懈可击，但前提假设本身就是错的，而它不会主动告诉你这一点。

所以，当我们在讨论“AI开始自己做科研”时，真正需要拆解的问题不是“AI能不能做”，而是“AI做出来的东西，在什么条件下可以被信任”。这个问题的答案，决定了AI科研是从此走向规模化落地，还是永远停留在demo阶段。

这篇文章，我想从实际从业者的视角，把AI科研的信任问题拆开来看。我会聊清楚三件事：AI在科研流程里到底能承担哪些环节、每个环节的信任门槛在哪里、以及目前有哪些可落地的方案能让AI的产出变得“可验证”。如果你正在尝试把AI引入自己的研究流程，或者只是对这个话题感兴趣，下面的内容应该能帮你少走一些弯路。

2. AI在科研链条上的真实能力边界

2.1 从文献综述到假设生成：效率提升最明显的环节

AI在科研流程里最先站稳脚跟的环节，是文献综述和假设生成。原因很简单：这两个环节的核心任务是“信息处理”和“模式识别”，而这恰好是大语言模型最擅长的事情。

传统文献综述的做法是，你在数据库里输入关键词，筛选出几十上百篇相关论文，然后一篇篇读摘要、读方法、读结论，最后归纳出研究现状和空白点。这个过程耗时巨大，一个成熟的综述往往需要几个月。AI介入之后，你可以把领域内核心论文的摘要和关键段落喂给模型，让它帮你做聚类分析、提取共识、识别矛盾点。我实测下来，一个包含200篇论文的综述任务，AI能在两小时内完成初步归纳，准确率大概在70%到80%之间。剩下的20%到30%，需要人工复核和补充。

假设生成环节更有意思。你给AI输入某个领域的已知机制和未解决问题，它能基于模式迁移生成一些人类研究者可能忽略的假设。比如在材料科学里，AI可以通过分析不同材料的性能数据，提出某种掺杂比例可能带来意想不到的导电性提升。这种假设的质量参差不齐，但确实能提供一些“跳出框架”的思路。

但这里有一个关键问题：AI生成的假设，往往缺乏对物理约束的深层理解。它可能提出一个在数据上看起来合理的假设，但这个假设违反了热力学定律或者实验上根本无法实现。这就是信任问题的第一个门槛——AI不知道什么是“不可能”。

2.2 实验设计与数据分析：能力很强但隐患不少

实验设计是AI科研里争议最大的环节。支持者认为AI能优化实验参数、减少试错成本；反对者认为AI设计的实验往往缺乏对实际条件的考量。

我自己的经验是，AI在实验设计上的表现取决于任务的类型。如果是参数优化类的实验，比如寻找最佳反应温度、最佳配比，AI确实能通过贝叶斯优化等方法快速收敛到较优解。但如果是探索性的实验设计，需要考虑到设备限制、样本获取难度、伦理约束等因素，AI的表现就不太稳定了。

数据分析环节是AI的强项，但也是信任问题最集中的地方。AI可以快速完成统计检验、回归分析、聚类分析等任务，但问题在于：它不会主动告诉你它做了什么假设。比如你做的是一个t检验，AI默认你的数据满足正态性和方差齐性，但如果你的数据实际上不满足这些条件，AI不会提醒你，它只会给你一个p值。这个p值看起来显著，但实际上是无效的。

更危险的是多重比较问题。AI在分析数据时，可能会自动尝试多种统计方法，然后选择那个“最显著”的结果呈现给你。这在传统统计学里是严重的错误，因为多重比较会大幅增加假阳性率。但AI不会告诉你它试了多少种方法，它只会给你一个看起来漂亮的结论。

2.3 论文撰写与同行评审：最像“科研”但最不可信

论文撰写是AI最“像”科研的环节。你给AI一个研究框架和实验数据，它能生成一篇结构完整、语言流畅的论文初稿。我试过用AI写方法部分和结果部分，效率确实高，初稿质量也过得去。但问题在于，AI在撰写过程中会“脑补”很多细节。

比如你告诉AI你做了一个关于某种催化剂性能的实验，但没有提供具体的表征手段。AI在写方法部分时，可能会自动加上“采用XRD和TEM对催化剂进行了表征”这样的句子。如果你不仔细检查，这篇论文投出去之后，审稿人问你XRD图谱在哪里，你就傻眼了。AI不会标注“这部分是我猜的”，它会把所有内容都写得像真的一样。

同行评审环节更微妙。现在已经有期刊在尝试用AI辅助审稿，主要用来检查格式问题、统计方法是否恰当、参考文献是否完整。但AI审稿有一个根本性的缺陷：它无法判断一项研究的“重要性”。一篇论文可能在方法上无懈可击，但研究的问题本身没有价值。AI能看出方法错误，但看不出“这个问题不值得研究”。

2.4 可重复性危机：AI科研的信任底线

可重复性是科学研究的底线。一项研究如果无法被重复，它的结论就没有意义。AI科研在这个问题上面临的挑战比传统科研更大，因为AI的“黑箱”特性让重复变得更加困难。

传统研究里，你读一篇论文，能知道作者用了什么试剂、什么设备、什么统计方法。你可以按照论文里的步骤去重复实验。但AI科研不一样。如果一篇论文的核心结论是AI通过分析大量数据得出的，你很难知道AI到底是怎么分析的。它用了什么模型、什么参数、什么训练数据，这些信息往往不完整。即使作者公开了代码，你还需要相同的计算环境、相同的随机种子、相同的库版本，才能得到相同的结果。

我见过一个案例，某研究团队用AI发现了一种新的材料组合，论文发表后，三个独立团队尝试重复，只有一个团队得到了类似的结果。后来发现，差异来自于AI模型在训练时使用的数据集中，有一部分数据被错误标注了。这个错误在原始论文里完全没有被提及，因为AI不会主动报告“我的训练数据可能有问题”。

这就是AI科研信任问题的核心：不是AI做错了什么，而是AI不知道自己可能做错了什么，也不会告诉你。

3. 信任门槛到底卡在哪里

3.1 黑箱推理：你不知道AI为什么给出这个结论

AI科研最根本的信任障碍，是推理过程的不透明。一个人类研究者得出某个结论，你可以问他“你为什么这么想”，他能给你一个逻辑链条。但AI不行。你问它为什么认为这个假设成立，它可能会给你一个看起来合理的解释，但这个解释往往是“事后编造”的，而不是它真正的推理过程。

这在科研场景里是致命的。因为科研的本质不是“得到答案”，而是“得到可验证的答案”。如果一个结论的推导过程无法被检验，那这个结论就不能被称为科学知识。AI可以生成假设，但假设需要被验证。如果AI不能解释它为什么提出这个假设，验证的方向就会变得盲目。

目前有一些可解释性研究在尝试解决这个问题，比如注意力可视化、特征重要性分析等。但这些方法只能提供“部分解释”，而且解释的可靠性本身也需要验证。在实际操作中，我通常会把AI的结论当作“线索”而不是“答案”，然后手动去追溯它的推理路径。这个过程很耗时，但至少能让我知道哪些环节是可靠的，哪些环节需要打问号。

3.2 数据污染：训练集里的“脏数据”如何影响结论

AI模型的输出质量，高度依赖于训练数据的质量。但问题在于，你很难知道一个模型到底在什么数据上训练过。即使模型开发者公开了训练集的来源，你也无法确认这些数据里有没有错误、偏差或者被污染的内容。

在科研场景里，数据污染的影响尤其严重。比如一个用于预测蛋白质结构的模型，如果训练数据里有一部分蛋白质结构被错误标注了，模型就会学到错误的模式。当它用这个错误模式去预测新蛋白质时，给出的结果看起来合理，但实际上是错的。更麻烦的是，这种错误很难被发现，因为模型不会告诉你“我这个预测是基于一个可能错误的数据点”。

我自己的做法是，在使用任何AI模型做科研分析之前，先用一个小规模的、已知答案的数据集做验证。如果模型在这个数据集上的表现符合预期，我再把它用到实际数据上。这个方法不能完全消除数据污染的风险，但至少能过滤掉一些明显有问题的模型。

3.3 统计幻觉：AI如何“制造”显著性

统计幻觉是AI科研里最隐蔽的信任陷阱。AI在分析数据时，会默认你提供的数据是“干净”的，然后按照标准流程做统计检验。但实际科研数据往往不干净——有缺失值、有异常值、有测量误差。AI不会主动处理这些问题，它只会按照你给的指令跑分析。

更危险的是，AI在生成论文时，会倾向于“制造”显著性。比如你告诉AI你的实验组和对照组有差异，但没有提供具体数据。AI在写结果部分时，可能会自动加上“差异具有统计学意义（p<0.05）”这样的句子。如果你不核对原始数据，这个p值就是凭空捏造的。

我见过一个极端的案例：某研究团队用AI分析了一组数据，AI给出的结论是“处理组显著优于对照组”。但后来发现，AI在分析时把一组异常值当成了正常数据，导致均值被拉高，差异变得显著。如果研究者手动检查一下数据分布，这个问题很容易被发现。但因为他们信任AI的输出，直接用了这个结论，最终导致论文被撤稿。

3.4 责任归属：当AI犯错时，谁来负责

责任归属是AI科研信任问题的制度层面。如果一篇由AI辅助完成的论文被发现有错误，责任应该由谁承担？是使用AI的研究者，还是开发AI的公司，还是AI本身？

目前学术界的共识是，责任由署名作者承担。也就是说，如果你在论文里用了AI工具，你需要对AI生成的所有内容负责。这个原则看起来很合理，但在实际操作中很难执行。因为AI生成的内容量很大，研究者很难逐字逐句核实。而且有些错误非常隐蔽，比如一个统计方法的误用，如果不具备专业统计知识，很难发现。

我自己的做法是，在论文里明确标注哪些部分使用了AI辅助，以及使用了什么工具、做了什么验证。这样做虽然会增加一些工作量，但至少能让审稿人和读者知道哪些内容需要额外关注。从长远来看，AI科研的信任建设需要一套新的规范，明确AI的使用边界、验证流程和责任分配。

4. 让AI科研变得可信的实操方案

4.1 建立“人在回路”的验证机制

让AI科研变得可信的第一步，是建立“人在回路”的验证机制。简单来说，就是AI负责生成，人负责验证。这个机制的核心不是“不信任AI”，而是“把AI的输出当作待验证的假设，而不是最终结论”。

具体操作上，我会把AI的产出分成三类：事实性内容、推理性内容和创造性内容。事实性内容包括参考文献、数据引用、实验方法描述等，这些内容必须逐条核实。推理性内容包括假设、结论、因果分析等，这些内容需要检查逻辑链条是否完整、前提假设是否成立。创造性内容包括研究思路、实验设计等，这些内容需要评估可行性和创新性。

这个分类验证的过程很耗时，但它是目前最可靠的方案。我通常会把AI生成的内容打印出来，用不同颜色的笔标注三类内容，然后逐项处理。事实性内容直接查数据库，推理性内容画逻辑图，创造性内容做可行性分析。一套流程走下来，一篇AI辅助生成的论文初稿，验证时间大约是生成时间的三到五倍。

4.2 用“对抗性测试”暴露AI的弱点

对抗性测试是我在实践中发现的一个非常有效的方法。它的核心思路是：不要问AI“这个结论对不对”，而是问AI“这个结论在什么情况下会错”。通过主动寻找AI结论的边界条件，你能快速定位它的弱点。

具体操作上，我会对AI生成的每个核心结论做三件事。第一，构造一个反例，看看AI能否识别出这个反例。第二，改变一个前提条件，看看结论是否还成立。第三，问AI“如果这个结论是错的，最可能的原因是什么”。这三个问题能帮我快速判断AI的结论是“真可靠”还是“看起来可靠”。

举个例子，AI生成一个假设：“增加X的浓度会提高Y的产率”。我会问它：“如果温度降低到Z，这个关系还成立吗？”如果AI回答“成立”，但我知道在这个温度下X会分解，那这个假设就有问题。如果AI回答“不成立，因为X在低温下会分解”，那说明它对反应机制有基本的理解，这个假设的可信度就更高。

4.3 数据与代码的透明化实践

透明化是解决AI科研信任问题的根本方案。具体来说，就是让AI使用的数据、代码、模型参数、随机种子等信息全部公开，让其他人能够重复你的分析过程。

我自己的做法是，在项目开始时就建立一个“可重复性文档”，记录以下内容：AI模型的版本和来源、训练数据的来源和处理方式、分析代码的完整版本、随机种子和运行环境、以及所有中间结果的保存路径。这个文档会随着项目进展不断更新，最终作为论文的补充材料一起提交。

这个做法看起来繁琐，但实际执行下来，它带来的好处远超预期。首先，它强迫我在每个环节都保持清醒，知道自己在做什么。其次，当审稿人质疑某个结果时，我能快速定位到具体的代码和数据，给出准确的回应。最后，它让我的研究更容易被其他人重复和验证，这对学术声誉的积累非常有帮助。

4.4 从“信任AI”到“信任流程”

最终，AI科研的信任问题，不是靠“信任AI”来解决的，而是靠“信任流程”来解决的。一个可靠的科研流程，应该包含以下要素：明确的AI使用边界、标准化的验证步骤、透明的数据与代码管理、以及清晰的责任分配。

我在自己的研究组里推行了一套“AI辅助科研流程规范”，核心内容包括：AI只能用于生成假设和初稿，不能用于生成最终结论；所有AI生成的内容必须经过至少一名研究者的独立验证；论文中必须明确标注AI的使用范围和验证方式；所有数据和代码必须公开可查。

这套规范执行了半年之后，我们组的论文投稿命中率反而提高了。原因很简单：审稿人能看到我们的验证过程，对结论的可靠性更有信心。而且因为我们在验证环节投入了更多精力，论文里的错误明显减少，返修次数也下降了。

5. 几个真实场景里的踩坑记录

5.1 参考文献“张冠李戴”的排查过程

有一次我用AI辅助写一篇综述，AI生成了大约80篇参考文献。我随机抽查了10篇，发现其中3篇的作者名字和期刊名字是对的，但文章标题和实际发表的内容对不上。比如AI写的是“Zhang et al. (2021) 发现X导致Y”，但我去查原文，发现Zhang et al. (2021) 那篇文章研究的是完全不同的东西。

这个问题的根源在于，AI在生成参考文献时，会把不同来源的信息“拼接”在一起。它可能从一篇论文里提取了作者名字，从另一篇论文里提取了期刊名字，然后组合成一个看起来合理的引用。这种错误非常隐蔽，因为格式上完全正确，只有去查原文才能发现。

我的排查方法是：对每一篇参考文献，至少核对三个信息——作者、标题、期刊。如果这三个信息在数据库里能对应上同一篇文章，那这篇引用就是可靠的。如果有一个对不上，就需要进一步核实。这个工作量很大，但参考文献是论文的基石，不能马虎。

5.2 统计方法误用的发现与修正

有一次AI帮我分析一组实验数据，给出的结论是“处理组和对照组差异显著（p=0.03）”。我一开始没太在意，因为p值确实小于0.05。但后来我在整理数据时发现，处理组和对照组的样本量分别是8和12，而且两组数据的方差差异很大。

我重新检查了AI用的统计方法，发现它默认用了Student‘s t-test，但这个检验的前提是两组方差齐性。在我的数据里，方差齐性假设不成立，应该用Welch’s t-test。我用Welch‘s t-test重新跑了一遍，p值变成了0.08，差异不再显著。

这个案例让我意识到，AI在统计方法选择上非常“机械”。它会按照默认设置跑分析，不会主动检查前提假设。所以我现在养成了一个习惯：每次AI给出统计结果，我都会手动检查一遍前提假设，包括正态性、方差齐性、独立性等。如果前提假设不满足，就换用更合适的方法。

5.3 实验设计中的“理想化”陷阱

AI在设计实验时，往往会忽略实际条件的限制。有一次我让AI帮我设计一个材料合成实验，它给出的方案需要用到一种非常昂贵的试剂，而且反应条件要求极高（高温高压）。从理论上讲，这个方案是可行的，但在我的实验室里根本做不了。

这个问题的根源在于，AI的训练数据里包含了大量“理想化”的实验方案，这些方案来自高水平的论文，但论文里往往不会详细描述实际操作的困难。AI学到了这些方案的模式，但不知道在实际操作中需要做哪些妥协。

我的应对方法是，在让AI设计实验之前，先给它输入一组“约束条件”，包括可用设备、预算限制、时间要求、安全规范等。然后让AI在这些约束条件下设计方案。这样做虽然会降低方案的“创新性”，但能保证方案是可执行的。

5.4 论文查重时的意外发现

有一次我帮同事检查一篇AI辅助写的论文，查重系统显示重复率异常高。我们一开始以为是引用格式的问题，后来仔细一看，发现AI在写引言部分时，直接“复制”了某篇论文的段落，只是把几个词换成了同义词。这种“洗稿式”的重复，查重系统能识别出来，但人工阅读时很难发现。

这个问题的根源在于，AI在生成文本时，会倾向于使用它在训练数据里见过的表达方式。如果训练数据里某篇论文的引言写得很好，AI在写类似主题的引言时，就会“借用”这些表达。虽然它做了一些改写，但核心结构和句式还是相似的。

我的解决方法是，在AI生成初稿之后，用查重系统先跑一遍。如果重复率超过10%，就手动重写那些重复率高的段落。重写的时候，我会刻意改变句式结构，用自己的语言重新表达同样的意思。这个过程很耗时，但能有效避免学术不端的问题。

6. 从工具到合作者：AI科研的下一步

6.1 当前阶段的合理定位：AI是“实习生”不是“教授”

经过这两年的实践，我对AI在科研里的定位有了一个比较清晰的认识：AI是一个能力很强但需要监督的实习生，不是一个可以独立工作的教授。

这个定位很重要，因为它决定了你如何使用AI。如果你把AI当成教授，你会期待它给出可靠的结论，然后直接采用。但如果你把AI当成实习生，你会知道它的输出需要验证，它的错误需要纠正，它的成长需要指导。

在实际操作中，我会把AI用在那些“容错率高”的环节，比如文献综述的初步整理、实验方案的初步设计、论文初稿的撰写。这些环节即使AI犯了错，也能被后续的验证步骤发现。而那些“容错率低”的环节，比如最终结论的确定、关键数据的分析、论文的最终定稿，我会完全自己来做，或者至少做深度介入。

6.2 可验证性设计：让AI的每一步都留下痕迹

可验证性设计是我目前最关注的方向。它的核心思路是，在AI参与科研的每一个环节，都留下可追溯的痕迹。这样即使AI犯了错，也能快速定位到错误发生的环节。

具体操作上，我会要求AI在生成内容时，同时输出它的“推理日志”。比如在生成一个假设时，AI需要列出它参考了哪些文献、基于什么逻辑、有哪些不确定性。在分析数据时，AI需要说明它用了什么方法、做了什么假设、有哪些局限性。这些日志会作为补充材料保存，方便后续核查。

这个做法会增加一些工作量，但它带来的好处是巨大的。首先，它让AI的推理过程变得透明，我能知道它的结论是怎么来的。其次，它让错误更容易被发现，因为我能看到AI在哪个环节做了错误的假设。最后，它让研究更容易被重复，因为其他人能看到完整的分析过程。

6.3 人机协作的最佳实践：分工、验证、迭代

人机协作的最佳实践，可以总结为三个关键词：分工、验证、迭代。

分工的意思是，明确哪些任务交给AI，哪些任务自己做。我的原则是：信息处理类的任务交给AI，判断决策类的任务自己做。比如文献筛选、数据清洗、初稿撰写这些任务，AI的效率远高于我。但研究方向的确定、实验方案的选择、结论的可靠性判断，这些任务必须我自己来做。

验证的意思是，对AI的每一个输出都做独立验证。验证的方法包括：查数据库核实事实、画逻辑图检查推理、做对抗性测试寻找边界条件。验证的深度取决于内容的重要性，核心结论需要深度验证，辅助内容可以快速抽查。

迭代的意思是，把AI的输出当作起点而不是终点。AI生成一个初稿，我验证之后给出反馈，AI根据反馈修改，我再验证。这个循环通常需要三到五轮，才能得到一个可靠的版本。虽然耗时，但最终的质量比一次性生成要高得多。

6.4 未来展望：信任基础设施的构建

从长远来看，AI科研的信任问题需要一套“信任基础设施”来解决。这套基础设施应该包括：标准化的AI使用规范、可验证的推理日志格式、透明的数据与代码管理平台、以及独立的第三方验证机制。

目前已经有一些机构在尝试建立这样的基础设施。比如有些期刊要求作者在投稿时提供AI使用声明，有些平台提供AI推理过程的可视化工具，有些团队在开发AI输出可靠性的自动评估系统。这些尝试虽然还在早期阶段，但方向是对的。

我个人的判断是，未来三到五年内，AI科研的信任问题会从“完全不可信”过渡到“有条件可信”。这个过渡的关键，不是AI变得更聪明，而是我们建立起了一套让AI的输出变得可验证的流程和工具。到那个时候，AI才能真正从“工具”变成“合作者”。

7. 我自己的操作清单和几个小技巧

7.1 每次使用AI前的检查清单

在让AI参与任何科研任务之前，我会先过一遍这个检查清单：

• 任务类型：这个任务是信息处理类还是判断决策类？如果是判断决策类，AI只能提供参考，不能直接采用。
• 数据质量：我提供给AI的数据是否干净？有没有缺失值、异常值、标注错误？如果数据质量不过关，AI的输出也不可靠。
• 验证方案：我打算怎么验证AI的输出？有没有明确的验证步骤和标准？如果没有，先想清楚再开始。
• 责任归属：如果AI的输出有错误，谁来负责？我是否愿意承担这个责任？如果答案是否定的，就不要用AI做这个任务。
• 透明化要求：我是否需要公开AI的使用方式和验证过程？如果需要，我是否准备好了相关的文档？

这个清单看起来简单，但能帮我避免很多低级错误。我见过太多人因为跳过这一步，直接让AI跑分析，最后发现结果不可用，浪费了大量时间。

7.2 让AI输出更可靠的提示词技巧

提示词的质量直接影响AI输出的可靠性。我总结了几条实用的技巧：

第一，明确约束条件。不要只告诉AI“帮我设计一个实验”，而是告诉它“帮我设计一个实验，可用设备包括X、Y、Z，预算不超过W，时间不超过T”。约束条件越明确，AI的输出越可执行。

第二，要求AI标注不确定性。在提示词里加上“对于你不确定的内容，请明确标注‘不确定’并说明原因”。这样你能快速识别哪些内容需要重点验证。

第三，要求AI提供推理过程。不要只让AI给结论，而是让它“先给出推理过程，再给出结论”。这样你能检查它的逻辑是否成立。

第四，要求AI列出反例。在生成假设或结论时，让AI“列出至少三个可能导致这个结论不成立的情况”。这能帮你快速定位结论的边界条件。

第五，分步骤生成。不要一次性让AI完成整个任务，而是分成多个步骤，每一步都验证之后再进入下一步。这样即使某一步出了问题，也能快速定位和修正。

7.3 验证AI输出的“三查”原则

验证AI输出时，我会遵循“三查”原则：

查事实：所有事实性内容，包括参考文献、数据引用、实验方法描述，都要去原始来源核实。不能因为AI写得像真的就相信它。

查逻辑：所有推理性内容，包括假设、结论、因果分析，都要画逻辑图检查。看看前提是否成立、推理是否严密、结论是否唯一。

查边界：所有核心结论，都要做对抗性测试。构造反例、改变条件、寻找例外，看看结论在什么情况下会失效。

这个“三查”原则执行下来，一篇AI辅助生成的论文初稿，验证时间大约是生成时间的三到五倍。虽然耗时，但这是保证质量的必要投入。

7.4 建立自己的“AI科研日志”

我从去年开始养成了一个习惯：每次用AI做科研相关的工作，都会在一个专门的日志文件里记录以下内容：日期、任务类型、使用的AI工具和版本、输入的提示词、AI的输出摘要、验证过程和结果、发现的问题和修正方案。

这个日志看起来不起眼，但积累下来之后，它成了我最有价值的参考资料。当我遇到类似的任务时，我能快速查到之前是怎么做的、踩过哪些坑、哪些提示词效果好。而且这个日志也是我向合作者展示AI使用透明度的依据，能有效建立信任。

我建议你也建立自己的AI科研日志。不需要很复杂，一个简单的Markdown文件就够了。关键是坚持记录，并且在每次任务结束后花几分钟做总结。这个习惯的长期收益，远超你的预期。