可靠性的終點
自動化具有形狀
每個自動化系統都有其運作的區域與失效的區域。將這兩個區域繪製在平面上，便得到能力邊界：一條分隔可靠行為與失敗的曲線。
在其下方設定兩個座標軸。水平軸衡量任務複雜度與新穎性：任務距離系統設計初衷的常規案例有多遠。垂直軸衡量風險代價：錯誤輸出造成的損失有多大。
在原點附近，任務是常規且低風險的。系統能輕鬆處理它們。這是可靠區域：在此區域內可自由運作。
遠離原點，任務是嶄新且高風險的。系統會進行猜測，而這些猜測的代價高昂。這就是失敗區域：這類工作請自行處理。
在兩者之間，沿著邊界本身延伸出一個帶狀區域。在這裡，系統通常是正確的，但並非可靠地正確。這就是驗證帶：讓機器起草，但在信任之前，務必檢查每一項輸出。
與自動化協作的整個學科，歸結為一個幾何習慣：了解你的任務位於哪個區域，並據此採取行動。
解讀三大區域
一位同事將一個新工具引入你的工作流程，並說「直接讓它處理所有事情就好」。
兩條曲線與一個交叉點
什麼該委派，是一個交叉點
知道某項任務位於邊界之內，告訴你機器能做這件事。但這並不代表機器應該做這件事。為了判斷這一點，你需要繪製兩條曲線。
將您的任務沿著水平軸排列，從機器處理最差的任務（左側）到處理最好的任務（右側）。在垂直軸上，繪製每項任務的技能水平。
繪製人類技能曲線與機器技能曲線，橫跨這些任務。在某處它們會相交。那個交叉點就是「我應該委派什麼？」的幾何學答案。
在交叉點的右側，機器曲線位於人類曲線之上：將這些任務交出去。在左側，人類曲線位於上方：保留這些任務。
微妙之處在於比較優勢，而非絕對優勢。您可能在幾乎所有事情上都比機器快。但委派那些機器相對較強的任務仍然是值得的，因為這能釋放您的時間，用於您優勢最大的任務。交叉點取決於相對斜率，而非誰在孤立情況下更優秀。
這是經濟學家用於兩個生產者之間貿易的相同幾何原理：當每個生產者都專注於其相對優勢所在的領域時，總產出會增加，即使其中一個生產者在所有方面都更優秀。
尋找那條線
您經營一家小型工作室。在您的每項工作中，您個人的能力都優於您的自動化工具。您的週程滿載，因此花在一處的時間無法花在另一處。
錯誤隨產出規模擴大
槓桿作用雙向放大
自動化是一種槓桿。只需拉動一次，就能以一份努力換取大量產出。產出會隨你處理的項目數量呈線性增長：交付 N 個項目，就會獲得 N 個結果。
問題在於，錯誤也會搭上同一根槓桿。如果系統對每個項目產生錯誤結果的機率為 p，那麼在 N 個項目中，預期錯誤數量為：
預期錯誤數 = p x N
這只是 N 個獨立試驗之和的均值，每個試驗出錯的機率為 p。將你的處理量翻倍，預期缺陷數也會翻倍。錯誤數量不是一次性支付的固定成本；它會隨著你的槓桿效應而增長。
這一行公式徹底改變了你驗證的方式。當 N = 10 時，2% 的錯誤率意味著大約一個預期錯誤：很容易用肉眼發現。當 N = 100,000 時，同樣的 2% 意味著 2,000 個預期錯誤被釋放到世界中。相同的系統，相同的單項可靠性，卻有截然不同的風險暴露。
因此法則是：驗證必須隨槓桿效應擴展。 槓桿放大的產出越多，它放大的、你需要捕捉的錯誤也越多，而你的檢查預算必須隨 N 增長，而不是保持固定。
計算缺陷數量
一條自動化管線負責格式化產品清單。對於每個清單，它引入錯誤的機率為 p = 0.02（即 2% 的錯誤率）。你在一個批次中對 N = 4,000 個清單執行此操作。
在產品值較大的地方進行驗證
兩個維度，一個乘積
預期錯誤數量告訴您預期會有多少錯誤。但它沒有告訴您每個錯誤的嚴重程度。一份格式錯誤的內部備忘錄與一份稅務申報表中的錯誤數字，並非同一種缺陷。
因此，增加第二個維度。在一個軸上放置錯誤的機率，在另一個軸上放置單一錯誤的代價。每個任務都是該平面上的點，而應該驅動您驗證努力的量是乘積：
驗證努力應與（錯誤機率）x（錯誤代價）成正比
將其視為一個曲面，該乘積會向兩者皆高的角落上升，並向兩者皆低的角落下降。您的驗證注意力應跟隨該曲面的高度。
角落的情況很簡單。頻繁且災難性的：嚴格驗證。罕見且微不足道的：幾乎不用檢查。具有啟發性的案例是離對角線的角落。一個罕見但災難性的錯誤仍然需要嚴格的驗證，因為巨大的代價在機率很小時仍能支撐起乘積。一個頻繁但微不足道的錯誤可能幾乎不需要驗證，因為微小的代價無論發生多頻繁，都能使乘積保持低水平。
這就是為什麼「它有多可靠？」是錯誤的單一問題。可靠性是一個軸。代價是另一個軸。您應沿著兩者的乘積進行驗證。
誰該受到審查
你的商店中有兩項自動化任務在運行。
任務 A 起草例行的內部提醒。它出錯的頻率相當高，但錯誤的提醒幾乎沒有代價：有人會笑著把它修正過來。
任務 B 提交監管文件。它很少出錯，但一旦提交錯誤，後果將是災難性的：罰款、法律風險、信任喪失。
專業人士的幾何學
此處的落點
自動化系統如今已置身於人類與日益增長的商業及知識工作之間。它們負責起草、分類、定價、路由及摘要。能與這些系統良好協作的專業人士，並非信任度最高或最低的那一位，而是能解讀其幾何結構的人。
有三種形態承載著這種判斷力：
- 前沿（The frontier）：知道可靠性在哪裡結束。在前沿內部進行授權，沿著前沿進行驗證，並將前沿之外的部分保留在人類手中。
- 交叉點（The crossover）：知道該移交什麼。將機器佔優的交叉側面進行授權，並記住有限時間使相對優勢成為決定性因素。
- 槓桿與錯誤表面：預期錯誤 = p x N 會隨規模擴大而增加，因此驗證必須與槓桿同步擴展，並依「機率 x 成本」加權，讓你的注意力落在錯誤既可能發生且代價高昂之處。
這些都不是關於機器內部運作。而是關於幾何：區域、邊界、交叉點與乘積。幾何正確，工具便會放大你的能力；幾何錯誤，它也會以相同速率放大你的錯誤。
自動化的幾何學：總結
你已學到的內容
決定要自動化什麼，本質上是一種應用幾何學：
- 能力邊界（Competence Frontier）：可靠區域與失敗區域之間的曲線。在邊界內授權，在邊界帶進行驗證，邊界外則保留由人類處理。
- 比較優勢交叉點（Comparative-advantage Crossover）：排列你的任務，繪製人類技能與機器技能的曲線，並將機器具有優勢的交叉點另一側的工作移交給機器。有限的時間使得相對優勢成為決定因素，即使你在絕對能力上更強。
- 槓桿與規模（Leverage & Scaling）：產出隨數量線性增長，錯誤也隨之線性增長。預期錯誤數 = p x N。若錯誤率為 2%，處理 4,000 個項目，預期缺陷數為 80 個，因此驗證機制必須隨槓桿效應同步擴展。
- 錯誤成本曲面（Cost-of-error Surface）：驗證投入應與（錯誤概率）x（錯誤成本）成正比。一個罕見但災難性的錯誤，其優先級可能高於一個頻繁但微不足道的錯誤。
機器會放大你所指向的一切。若正確理解幾何關係，它將放大你的影響力；若理解錯誤，它也會以同樣的速度放大你的錯誤。