信頼性が終わる場所
自動化には形がある
すべての自動化システムには、機能する領域と破綻する領域がある。これら2つの領域を平面上に描くと、能力の境界が得られる。これは、信頼できる動作と失敗を分ける曲線である。
その下に2つの軸を置く。横軸はタスクの複雑さと新規性を測定する。つまり、システムが構築された通常のケースからタスクがどれだけ離れているかである。縦軸はリスク（利害）を測定する。つまり、誤った出力がどれほどのコストを伴うかである。
原点付近では、タスクはルーティンであり、リスクが低い。システムはそれらを容易に処理する。これは信頼できる領域であり、その内部では自由に作業を行える。
原点から遠く離れた場所では、タスクは新しく、リスクが高い。システムは推測を行い、その推測は高コストである。ここは失敗領域であり、この作業は自分で実行すべきである。
その間には、フロンティアに沿った帯域が走っている。ここではシステムはしばしば正しくあるが、信頼できるほど正確ではない。ここは検証帯であり、マシンに下書きさせつつ、信頼する前にすべての出力を確認すべきである。
自動化との協働という学問全体は、一つの幾何学的習慣に集約される。タスクがどの領域に位置しているかを知り、それに応じて行動することである。
3つの領域を読む
同僚が新しいツールをあなたのワークフローに導入し、「すべてに実行させればいい」と言った。
2つの曲線と交差点
何を委譲するかは交差点の問題である
タスクがフロンティア（境界）の内側にあることを知ることから、機械がそれをできることはわかります。しかし、機械がそれをすべきかどうかは示されません。そのためには、2つの曲線を描く必要があります。
横軸にタスクを並べ、左側に機械が最も苦手なタスクから、右側に最も得意なタスクの順に配置します。縦軸には、各タスクにおけるスキルレベルをプロットします。
これらのタスクに対して、人間のスキル曲線と機械のスキル曲線を描画します。どこかでこれらは交差します。そのクロスオーバーポイントは、「何を委譲すべきか？」に対する幾何学的な答えです。
クロスオーバーの右側では、機械の曲線が人間の曲線の上に位置します：これらのタスクは委譲します。左側では、人間の曲線が上に位置します：これらのタスクは保持します。
微妙な点は、絶対的な優位性ではなく比較優位性にあります。あなたはほぼすべてのタスクで機械より速いかもしれません。それでも、機械が相対的に強いタスクを委譲することは有益です。なぜなら、それにより、あなたの優位性が最大となるタスクのために時間を確保できるからです。クロスオーバーは、孤立した状態でのどちらが優れているかではなく、相対的な傾きについてです。
これは、経済学者が2つの生産者間の貿易に使用するのと同じ幾何学です。ある生産者がすべての面で優れていても、各生産者が相対的優位性がある場所で専門化することで、総産出量は増加します。
線を見つける
あなたは小さなスタジオを経営しています。あなたが個人的に、あなたが実行するすべてのタスクにおいて、あなたの自動化ツールよりも優れています。あなたの週は満杯なので、ある場所に費やした時間は別の場所に費やすことはできません。
出力に伴う誤差の拡大
レバレッジは双方向に増幅する
自動化はレバーです。一度引くだけで、1単位の労力に対して多くの出力が得られます。出力は処理するアイテム数に比例して線形的に増加します：N個のアイテムを処理すれば、N個の結果が得られます。
ただし、誤りも同じレバーに乗って増幅されます。システムが各アイテムに対して確率pで誤った結果を生成する場合、N個のアイテム全体での期待誤り数は以下のようになります：
期待誤り数 = p x N
これは、確率pで誤りが発生するN回の独立した試行の和の平均値に過ぎません。処理量（バリュウム）を2倍にすれば、期待される欠陥も2倍になります。誤りの数は一度だけ支払う固定コストではなく、レバレッジ（増幅効果）とともに増加します。
この1行が、検証のあり方を根本から変えます。N = 10の場合、2%のエラー率では期待される誤りは約1つです：目で確認すれば簡単に捕捉できます。しかしN = 100,000の場合、同じ2%でも2,000個の誤りが期待され、それが世の中にリリースされてしまいます。同じシステム、同じアイテムごとの信頼性でありながら、露出（リスク）は劇的に異なります。
したがって、ルールはこうです：検証はレバレッジに合わせてスケーリングしなければなりません。 レバーが出力を増幅するほど、捕捉すべき誤りも増幅され、チェックに割く予算（リソース）は固定されたままではなく、Nとともに増大しなければなりません。
欠陥の数を数える
自動化パイプラインが商品リストを整形します。各リストに対して確率p = 0.02（2%のエラー率）でエラーを導入します。一度のバッチでN = 4,000件のリストに対して実行します。
製品が大きい場所で検証する
2つの次元、1つの積
期待されるエラー数は、何個のミスを期待すべきかを示します。しかし、1つずつがどれほど深刻かは示しません。内部メモのフォーマット不良と、税務申告書の数値誤りは、同じ欠陥ではありません。
そこで、第2の次元を追加します。1つの軸にエラーの確率を、もう1つの軸に1回のエラーのコストを配置します。各タスクはその平面上の1点となり、検証努力を決定すべき量は積です：
検証努力は (エラーの確率) x (エラーのコスト) に比例してスケールすべきである
これを曲面として読み解くと、積は両方が高い角に向かって上昇し、両方が低い角に向かって沈み込みます。検証への注意は、その曲面の高さに従うべきです。
角のケースは直感的です。頻繁かつ致命的：厳重に検証する。稀かつ軽微：ほとんど確認しない。示唆に富むのは、対角線上の角のケースです。稀だが致命的なエラーは、確率が小さくても大きなコストが積を支えるため、依然として厳重な検証を要求します。頻繁だが軽微なエラーは、コストが非常に小さいため、頻度に関係なく積が低く保たれ、ほとんど検証の価値がないかもしれません。
これが、「信頼性はどれほどか？」という単独の質問が誤りである理由です。信頼性は1つの軸です。コストはもう1つの軸です。2つの積に沿って検証します。
どちらが精査の対象となるか
あなたの職場では、2つの自動化ジョブが実行されています。
ジョブAは、定例の社内リマインダーを作成します。エラーは比較的頻繁に発生しますが、誤ったリマインダーのコストはほぼゼロです。誰かが微笑みながら修正してくれるからです。
ジョブBは、規制関連の書類を提出します。エラーは稀ですが、一度でも誤った提出を行えば壊滅的な結果を招きます。罰金、法的リスク、信頼の喪失です。
プロフェッショナルの幾何学
ここに到達する
自動化システムは現在、人々と、商業および知識労働のますます大きな割合の間に位置している。それらは起草、分類、価格設定、ルーティング、要約を行う。それらと円滑に協働するプロフェッショナルは、最も信頼している者でも、最も信頼していない者でもない。それは幾何学を読み解く者である。
その判断を支える3つの形状がある：
- フロンティア（境界線）：信頼性がどこで終わるかを把握すること。その内部には委譲し、境界線上では検証し、外部は人間の手で保持する。
- クロスオーバー（交差点）：何を引き渡すかを把握すること。交差点の機械に有利な側を委譲し、有限な時間が相対的優位性を決定要因にするという事実を忘れないこと。
- レバレッジとエラーサーフェス: 期待されるエラー数 = p x N はスケールとともに増加するため、検証もレバレッジに合わせてスケーリングする必要があります。その際、確率 x コストで重み付けを行い、ミスが発生しやすく、かつコストが高い場所に注意を集中させます。
これらはすべて、機械の内部構造についてではありません。これは幾何学の問題です：領域、境界、交差点、および積。幾何学を正しく捉えれば、ツールはあなたを増幅させます。誤っていれば、同じ割合であなたのミスを増幅させます。
自動化の幾何学：まとめ
学んだこと
何を自動化するかという判断は、応用幾何学です：
- 有能性の境界線：信頼できる領域と失敗領域の間の曲線です。内部には委譲し、バンドに沿って検証し、外部は人間の手で保持します。
- 比較優位の交差点：タスクを順序付け、人間のスキルと機械のスキルをプロットし、機械が優位な交差の側を引き渡します。有限な時間により、絶対的に優れていても相対的な優位性が決定します。
- レバレッジとスケーリング：出力は量に比例して線形に増加し、エラーも同様です。期待されるエラー数 = p x N。4,000件のアイテムに対する2%の割合は80件の期待される欠陥を意味するため、検証はレバレッジに合わせてスケーリングする必要があります。
- エラーのコスト表面：（エラーの確率）x（エラーのコスト）に比例して検証します。稀だが致命的なエラーは、頻繁だが些細なエラーよりも優先順位が高くなることがあります。
機械は、向けたものを増幅します。幾何学を正しく読み解けば、それはあなたのリーチを増幅します。誤って読み解けば、それはあなたのミスを同じ速さで増幅します。