不可验证者，皆不可信

流畅不等于正确

自动化输出无论对错，读起来都显得权威。一个自信的错误答案比一个明显错误的更危险，因为它诱使你跳过核查。在专业风险面前，验证流程并非可选的润色，而是核心工作。

四项独立的验证手段：

- 溯源：每项声明、数字或引用的来源是什么？将其追溯至可核查的来源。若输出引用了你无法定位的判例、法规、研究或数据，在证实之前，它即为捏造。

- 独立交叉验证：通过不同于生成该结果的路径来验证结果。手动重新计算总和、自行运行查询、询问第二个系统，或对照已知正确的参考值。两种方法结果一致即为证据；一种方法自我重复则不是。

- 合理性界限：答案是否落在物理和商业现实允许的范围内？无论计算过程看起来如何，若估算值、剂量、负载数值或价格违背了数量级预期，则视为错误，除非另有解释。

- 对输出进行红队测试：主动尝试打破它。设想敌对审查者、审计员或对方律师会攻击哪里。寻找自信草稿中轻描淡写的失效模式。

验证的成本随风险等级而变。一份一次性使用的内部摘要只需扫一眼即可。而一份提交给监管机构、患者或法庭的数字，则需要执行全部四个步骤并留下完整的书面记录。

验证高风险草稿

你是一名财务分析师。一个自动化系统生成了一份估值备忘录，用于你所在公司明天向投资委员会提交的收购提案。该备忘录结论显示目标公司价值为 6.12 亿美元，引用了三笔可比交易，预测 22% 的收入增长率，并包含一个现金流折现模型。它读起来无懈可击。

工具不能成为借口

责任不可委托

您可以委托他人完成工作，但不能委托他人承担其责任。当成果以您的名义发布时，判断其是否适合发布的职业判断属于您，如果其不合格，失败的责任也属于您。

“是系统生成的”这一说法，客户、监管机构、发证机构或法院都不会接受。工具没有可被吊销的执照，没有会受损的名誉，也没有对客户承担注意义务。而您这三者皆有。这种不对称性正是您的签字具有价值的原因：您是闭环中负责的人类。

这将验证从一项差事重新定义为自我保护。您跳过的每一项检查，都是您个人承担的一项责任。声称“我把它输入系统然后发布了”的专业人士并没有节省精力；他们签署了一份自己未读过的文件。

所有权还意味着在必要时进行披露：知道何时客户、同事或记录有权知晓自动化生成了初稿，并且绝不将未经验证的机器输出呈现为您自己深思熟虑的判断。

当自动化输出出现错误时

你是一名持有执照的结构工程师。一套自动化系统为你上个月签字盖章的一套图纸中的承重梁进行了尺寸计算。现在，一名初级工程师指出该系统使用了错误的荷载组合，导致梁的尺寸不足。这些图纸已经交付给承包商了。

保留你委派出去的能力

如果你无法亲自完成，你就无法有效监督

委派中存在一个隐蔽的陷阱：你交给机器的技能，正是你停止练习的技能，而停止练习的技能会退化。一位从不手动驾驶的飞行员，会在自动驾驶失效时失去恢复操控的感觉；一位从不手动构建模型的数据分析师，会失去识别错误模型的直觉。危险不在于机器会失败，而在于当机器失败时，你已经失去了发现并纠正问题的能力。

这就是监督悖论。将任务委派给自动化系统，实际上要求你具备更多而非更少的基础技能，因为你剩下的工作是最难的部分：判断输出结果是否正确，并在其出错时接管任务。你无法验证你不再理解的东西。

刻意保留是应对之策。即使机器能够完成这些任务，你也要有意识地保持核心能力的活跃：

- 定期手动执行任务，并与自动化结果进行对比。任何偏差都是信号，无论方向如何。

- 继续做那些能建立直觉的高难度练习；委派的是工作量，而不是技能本身。

- 保持对如何构建正确答案的心智模型，这样你才能识别出输出中的推理存在缺陷，而不仅仅是数值有误。

目标是要保持监督能力、捕捉错误并重新掌控局面。委托是为了提速，而不是为了盲目。

为你的团队制定一项保留计划

你领导着一个软件团队，该团队已采用自动化系统来生成大部分初稿代码。生产力提高了。但你注意到，你的中级工程师越来越多地接受了他们无法完全解释的生成代码，而你的实习生在能够阅读堆栈跟踪或推理数据结构之前，就已经学会了如何向系统提示。

自动化不应涉足的领域

有些工作原则上必须保留给人类

授权存在硬性边界。即使系统能够生成看似合理的草稿，有些工作也不应自动化，因为使自动化变得安全的那些前提条件在此处并不存在。识别这些情况与知道何时授权同样体现专业性。

在以下情况下不要自动化：

- 决策是不可逆的。 高风险的“单向门”（如用药指令、法律提交截止日期、不可撤销的财务承诺）剥夺了你撤销错误输出的能力。可逆性是授权机制具有容错性的基础；一旦失去可逆性，整个安全网便不复存在。

- 情况确实存在模糊性。 当问题尚未被明确界定，当正确的问题尚不清晰，或者当情境新颖且超出常规分布时，一份自信的草稿恰恰掩盖了此刻所需的判断力。

- 利害关系涉及伦理。 那些分配伤害、权衡公平或承载道德重量的决策，需要一位可问责的人类，能够对选择中蕴含的价值观负责。

- 关系本身即是实质。 艰难的对话、信任、关怀、慰问、谈判。关系并非传递内容的渠道；它就是工作本身，且需要在场的人类。

- 你无法验证输出结果。 如果你没有独立的方法来检查结果是否正确，那么将其委托出去并非提高效率；而是以你的名义进行无问责的赌博。

发布前检查清单

在我发布自动化输出之前

这是一道具体的关卡，每次以你的名义发布通过自动化生成的输出时都应执行。如果任何答案都不令人满意，你就尚未准备好发布。

1. 来源追溯：我能否将每一项声明、数字和引用追溯到我已审查过的来源？

2. 独立验证：我是否通过一条与产生该结果不同的路径验证了结果？

3. 合理性边界：答案是否落在现实情况和我的领域预期所允许的范围内？

4. 红队测试：我是否像敌对审查者、审计员或对手那样攻击过这个结果？

5. 风险与可逆性：如果这是错的，代价是什么，我能撤销它吗？风险越高且可逆性越低，就越需要更多的检查，或者要求我亲自执行。

6. 禁止自动化的触发条件：这是否不可逆、存在真正的歧义、涉及伦理权衡、关乎人际关系或无法验证？如果是，为什么机器要碰它？

7. 胜任力：我是否仍然足够理解它，以便发现错误并接管？

8. 所有权：我是否准备好签署并作为我自己的专业判断来为此负责？

运行关卡。然后发布，并承担责任。

划定界限

考虑一下某个专业人员在一下午内可能处理的四项任务：(a) 为 A/B 测试生成五十种广告文案变体，(b) 为特定员工起草解雇通知的措辞，(c) 对 200 张传入的支持工单进行分诊以确定哪些是紧急的，以及 (d) 决定是否向监管机构披露新发现的安全缺陷。

一页纸实战手册

你现在掌握的内容

与自动化系统高效协作是一种专业素养，而非简单地接受或拒绝工具。你已经为此建立了判断力：

- 分工委托：根据风险、可逆性、可验证性和比较优势对工作进行分类。将繁琐且可并行化的工作自动化；保留判断力、人际关系和问责制。

- 验证：流畅不等于正确。追溯来源，通过独立路径交叉核对，对照合理性界限进行测试，并对输出进行红队测试（对抗性测试）。根据风险等级调整验证力度。

- 所有权：你签署并交付工作，因此失败的责任在于你，而非工具。每一次被跳过的检查都是你个人承担的风险。

- 技能保留：保留你所委托工作的核心能力，以便你能够继续监督、发现错误并接管控制权。委托是为了提速，而不是为了盲目。

- 边界：拒绝将不可逆、真正模糊、涉及伦理、承载人际关系以及无法验证的工作自动化。

还有两个理念贯穿始终。可以委派工作，但绝不能委派责任。 并且在将你的名字署于任何成果之前，务必执行发布前检查清单。 在自动化领域中蓬勃发展的专业人士，既不是那些抵制工具的人，也不是那些盲目信任工具的人；而是那些善于监督工具的人。