可靠性的终点
自动化具有形状
每个自动化系统都有一个它能正常工作的区域和一个它会失效的区域。在平面上画出这两个区域，你就得到了一条能力边界：一条将可靠行为与失败分隔开来的曲线。
在其下方设置两个坐标轴。水平轴衡量任务复杂度与新颖性：任务距离系统所针对的常规案例有多远。垂直轴衡量风险：错误输出的代价有多大。
在原点附近，任务是常规且低风险的。系统可以轻松处理它们。这是可靠区域：在此区域内自由工作。
远离原点，任务新颖且风险极高。系统只能猜测，且这些猜测代价高昂。这是失效区：这部分工作请你自己完成。
在它们之间，沿着前沿本身延伸出一条带状区域。在这里，系统通常是对的，但无法保证始终正确。这是验证带：让机器起草，但在信任之前，务必检查每一项输出。
与自动化协作的整个学科可以归结为一种几何习惯：明确你的任务处于哪个区域，并据此行动。
解读三个区域
一位同事将一个新工具引入你的工作流，并说：“让它对所有任务都运行吧。”
两条曲线与一个交叉点
什么该委托是一个交叉点
知道某项任务位于边界之内，告诉你机器能够做它。但这并不告诉你机器应该做它。为了判断这一点，请绘制两条曲线。
将你的任务沿水平轴排列，从机器处理得最差的（左侧）到处理得最好的（右侧）。在垂直轴上，绘制每项任务的技能水平。
在这些任务上绘制人类技能曲线和机器技能曲线。它们会在某处相交。这个交叉点就是“我应该委派什么？”这一问题的几何答案。
在交叉点右侧，机器曲线位于人类曲线之上：将这些任务交出去。在左侧，人类曲线位于上方：保留这些任务。
微妙之处在于比较优势，而非绝对优势。你可能在几乎所有方面都比机器快。但委派那些机器相对较强的任务仍然是值得的，因为这能释放你的时间，用于你优势最大的任务。交叉点关乎相对斜率，而非孤立地看谁更优秀。
这是经济学家用于两个生产者之间贸易的相同几何原理：当每个生产者都专注于其相对优势所在时，总产出会上升，即使其中一个生产者在所有方面都更优秀。
寻找那条线
你经营一家小型工作室。在每项你执行的任务上，你个人都比你的自动化工具更出色。你的一周排得满满当当，因此花在一处的小时无法花在另一处。
误差随产出扩展
杠杆双向放大
自动化是一种杠杆。只需拉动一次，就能以一份努力获得大量产出。产出随你处理的项目数量呈线性增长：交付 N 个项目，获得 N 个结果。
关键在于，错误也搭乘同一根杠杆。如果系统在每个项目上产生错误结果的概率为 p，那么在 N 个项目中，预期错误数量为：
预期错误数 = p x N
这仅仅是 N 次独立试验之和的均值，每次试验出错的概率为 p。你的吞吐量翻倍，预期缺陷数也随之翻倍。错误数量不是一次性支付的固定成本；它随着你的杠杆效应而增长。
这一行公式重塑了你的验证方式。当 N = 10 时，2% 的错误率意味着大约一个预期错误：肉眼很容易发现。当 N = 100,000 时，同样的 2% 意味着 2,000 个预期错误被发布到世界上。同样的系统，同样的单项目可靠性，暴露风险却天差地别。
因此规则是：验证必须随杠杆效应扩展。 杠杆放大你的产出越多，它放大的、你必须捕捉的错误就越多，你的检查预算必须随 N 增长，而不是保持固定。
计算缺陷数量
一条自动化流水线对商品列表进行格式化。在每个列表上，它以概率 p = 0.02（即 2% 的错误率）引入一个错误。你在一个批次中对 N = 4,000 个列表运行该流水线。
在产品规模较大处进行验证
两个维度，一个乘积
预期错误数量告诉你会有多少错误。它并没有告诉你每个错误的代价有多大。一份格式错误的内部备忘录 & 一份税务申报中的错误数字，并不是同一种缺陷。
因此，增加第二个维度。在一个轴上放置出错概率。在另一个轴上放置单次错误的成本。每个任务都是该平面上的一个点，& 应当驱动你验证努力程度的量是乘积：
验证努力应与（出错概率）x（错误成本）成正比
将其视为一个曲面，该乘积在两者都高的角落处上升，在两者都低的角落处下降。你的验证注意力应跟随该曲面的高度。
角落的情况很容易理解。频繁 & 灾难性的：严格验证。罕见 & 微不足道的：几乎不检查。具有启发性的案例是对角线之外的角落。罕见但灾难性的错误仍然需要大量验证，因为巨大的成本即使在概率很小时也能支撑起乘积。频繁但微不足道的错误可能几乎不值得验证，因为微小的成本无论发生频率多高，都会使乘积保持低位。
这就是为什么“它有多可靠？”是错误的单一问题。可靠性是一个轴。成本是另一个轴。你沿着两者的乘积进行验证。
哪一个应受到审视
你的店铺中有两个自动化任务在运行。
任务 A 起草例行的内部提醒。它经常出错，但错误的提醒几乎没有任何代价：有人只需微笑一下并修正它即可。
任务 B 提交监管文件。它很少出错，但一旦提交错误，后果将是灾难性的：罚款、法律风险、信任丧失。
专业人士的几何学
结论所在
自动化系统如今已置身于人类与日益增长的商务及知识工作之间。它们负责起草、分类、定价、路由及摘要。能与它们良好协作的专业人士，并非信任度最高或最低的那一位，而是能够读懂其“几何结构”的人。
三种形态承载着这种判断：
- 前沿（The frontier）：知晓可靠性在哪里终结。在内部进行委派，在边界上进行验证，将外部事务保留在人类手中。
- 交叉点（The crossover）：知晓该移交什么。将机器占优的一侧进行委派，并记住有限的时间使相对优势成为决定性因素。
- 杠杆与错误表面：预期错误 = p x N 会随着规模增长，因此验证必须与杠杆同步扩展，并按“概率 x 成本”加权，使你的注意力落在那些既可能发生又代价高昂的错误上。
这一切都与机器的内部机制无关。它关乎几何：区域、边界、交叉点与乘积。几何正确，工具就会放大你的能力；几何错误，它也会以同样的速率放大你的失误。
自动化的几何学：总结
你学到了什么
决定自动化什么，是一门应用几何学：
- 能力边界：可靠区域与失败区域之间的曲线。在内部进行委派，在边界带进行验证，将外部保留在人类手中。
- 比较优势交叉点：排列你的任务，绘制人类技能与机器技能的曲线，并将机器具有优势的一侧交接出去。有限的时间使得相对优势成为决定因素，即使你在绝对能力上更优。
- 杠杆与规模：输出随数量线性增长，错误也随之增长。预期错误数 = p x N。在 4,000 个项目中，2% 的错误率意味着 80 个预期缺陷，因此验证必须随杠杆效应同步扩展。
- 错误成本曲面：验证程度应与（错误概率）x（错误成本）成正比。罕见但灾难性的错误可能比频繁但微不足道的错误优先级更高。
机器会放大你所指向的一切。正确解读这种几何关系，它会放大你的能力范围；解读错误，它同样会加速放大你的错误。