لا تثق بأي شيء لا يمكنك التحقق منه

السلاسة لا تعني الصواب

يُقرأ المخرجات الآلية على أنها موثوقة بغض النظر عن صحتها. الإجابة الخاطئة الواثقة من نفسها أخطر من الإجابة المكسورة الواضحة، لأنها تدعوك إلى تخطي عملية التحقق. عند وجود رهانات مهنية، فإن سير عمل التحقق ليس لمسة نهائية اختيارية؛ بل هو العمل ذاته.

أربع حركات تحقق مستقلة:

- المصدر (Provenance): من أين جاءت كل ادعاء، أو رقم، أو اقتباس؟ تتبَّعه حتى مصدر يمكنك فحصه. أي مخرجات تستشهد بحالة قضائية، أو قانون، أو دراسة، أو رقم لا يمكنك تحديد موقعه تُعتبر fabrication (اختلاق) حتى يُثبت خلاف ذلك.

- التقاطع المستقل: تحقق من النتيجة عبر مسار مختلف عن المسار الذي أنتجها. أعد حساب المجموع يدويًا، أو نفّذ الاستعلام بنفسك، أو اسأل نظامًا ثانيًا، أو قارن مع مرجع معروف صحته. اتفاق طريقتين هو دليل؛ أما تكرار طريقة واحدة لنفسها فليس كذلك.

- حدود المعقولية: هل تقع الإجابة ضمن النطاق الذي تسمح به الفيزياء والواقع التجاري؟ أي تقدير، أو جرعة، أو رقم حمل، أو سعر يخالف توقعات الترتيب العشري (Order-of-magnitude) هو خاطئ حتى يُفسَّر، مهما بدا الحساب سليمًا.

- فحص المخرجات بأسلوب الفريق الأحمر (Red-team): حاول بنشاط كسرها. اسأل ما الذي سيهاجمه مراجع معادٍ، أو مدقق حسابات، أو محامٍ معارض. ابحث عن نمط الفشل الذي يتجاهله المسودة الواثقة من نفسها.

تكلفة التحقق تتناسب مع حجم المخاطر. فملخص داخلي عابر يحتاج إلى نظرة خاطفة فقط، أما رقمٌ يُقدَّم أمام جهة تنظيمية أو مريض أو محكمة، فيحتاج إلى الخطوات الأربع جميعًا وسجلًا موثقًا.

التحقق من مسودة ذات مخاطر عالية

أنت محلل مالي. ينتج نظام آلي مذكرة تقييم لعملية استحواذ ستقدمها شركتك إلى لجنة الاستثمار غدًا. تختم المذكرة بأن القيمة العادلة للشركة المستهدفة هي 612 مليون دولار، وتستشهد بثلاث صفقات مقابلة، وتتوقع نموًا في الإيرادات بنسبة 22%، وتشمل نموذجًا للتدفقات النقدية المخصومة. تبدو المذكرة مثالية من حيث الصياغة.

لا يمكن إلقاء اللوم على الأداة

المسؤولية لا تُفوّض

يمكنك تفويض إنتاج العمل. لكنك لا تستطيع تفويض المسؤولية عنه. عندما يخرج المخرَج باسمك، فإن الحكم المهني بأنه كان صالحاً للإرسال يعود إليك، وكذلك يعود إليك الفشل إن لم يكن كذلك.

عبارة "المنظومة أنتجته" ليست دفاعاً سيقبله عميل، أو جهة تنظيمية، أو مجلس ترخيص، أو محكمة. الأداة لا تملك ترخيصاً يمكن سحبه، ولا سمعة يمكن أن تخسرها، ولا واجب رعاية تجاه عميلك. أما أنت فتملك الثلاثة. هذا الاختلال في التوازن هو السبب الكامل لقيمة توقيعك: فأنت الإنسان المسؤول داخل الحلقة.

هذا يعيد تأطير التحقق من كونه مهمة روتينية إلى كونها حماية ذاتية. كل فحص تتجاوزه هو مسؤولية شخصية تتحملها بنفسك. فالمهني الذي يقول "شغّلته عبر المنظومة وأرسلته" لم يكن قد وفّر جهداً؛ بل وقّع على مستند لم يقرأه.

كما أن الملكية تعني أيضاً الإفصاح حيث يكون ذلك مهماً: معرفة متى يحق لعميل، أو زميل، أو سجل أن يعلم أن الأتمتة أنتجت المسودة الأولى، وعدم تقديم مخرجات آلية غير مُتحقق منها على أنها حكمك المدروس الخاص أبداً.

عندما يكون المخرج الآلي خاطئًا

أنت مهندس إنشائي حاصل على ترخيص. قام نظام آلي بحساب أبعاد عارضة تحمل أحمالًا لمجموعة مخططات ختمتها وختمتها الشهر الماضي. الآن، يلفت مهندس مبتدئ الانتباه إلى أن النظام استخدم تركيبة أحمال خاطئة، وأن العارضة أصغر من الحجم المطلوب. المخططات موجودة بالفعل لدى المقاول.

الحفاظ على الكفاءة التي تفوّضها

إذا لم تستطع القيام بالمهمة، فلا يمكنك الإشراف عليها

يوجد فخ خفي في التفويض: المهارات التي تُسديها إلى الآلة هي المهارات التي تتوقف عن ممارستها، والمهارات التي تتوقف عن ممارستها تتراجع. الطيّاط الذي لا يطير يدويًا أبدًا يفقد الإحساس اللازم للاسترداد عندما يتعطل الطيار الآلي. المحلل الذي لا يبني نموذجًا يدويًا أبدًا يفقد الحدس اللازم لالتقاط النموذج الخاطئ. الخطر ليس أن الآلة ستفشل؛ بل هو أنها ستفشل وأنت قد فقدت الكفاءة اللازمة لاكتشاف ذلك.

هذا هو مفارقة الإشراف. تفويض المهمة إلى الأتمتة يتطلب مزيدًا من المهارة الكامنة منك، وليس أقل، لأن عملك المتبقي هو الجزء الأصعب: الحكم على ما إذا كان المخرج صحيحًا، والتدخل عند عدم صحته. لا يمكنك التحقق مما لم تعد تفهمه.

الاحتفاظ المتعمد هو إجراء المكافحة. تحتفظ بالكفاءة الأساسية على قيد الحياة عمدًا، حتى لو كانت الآلة قادرة على القيام بذلك:

- قم بالمهمة يدويًا بشكل دوري وقارنها بالنتيجة الآلية. الانحراف هو إشارة، في أي اتجاه.

- واصل القيام بالتكرارات الصعبة التي تبني الحدس؛ فوّض الحجم، وليس المهارة.

- حافظ على النموذج الذهني لكيفية بناء الإجابة الصحيحة، حتى تتمكن من اكتشاف متى يكون الاستدلال في المخرجات غير سليم، وليس مجرد الرقم النهائي.

الهدف هو البقاء قادراً على الإشراف، وملاحظة الأخطاء، والتحكم في الأمور. فوّض المهام لتسريع العمل، وليس لتفقد الرؤية.

خطة للحفاظ على كفاءة فريقك

تقود فريقاً برمجياً اعتمد نظاماً آلياً لتوليد معظم مسودات الشيفرة الأولى. ارتفعت الإنتاجية. لكنك تلاحظ أن مهندسيك من المستوى المتوسط يقبلون بشكل متزايد الشيفرة المولّدة دون أن يتمكنوا من شرحها بالكامل، بينما يتعلم المتدربون كيفية توجيه النظام (Prompting) قبل أن يتقنوا قراءة سجل الأخطاء (Stack Trace) أو التفكير في بنية البيانات.

الحالات التي يجب ألا تمسها الأتمتة

بعض الأعمال تبقى بشرية بالمبدأ

للتفويض حدّ صارم. بعض الأعمال يجب ألا تُؤتمت حتى عندما يستطيع نظام ما إنتاج مسودة معقولة، لأن الظروف التي تجعل الأتمتة آمنة غائبة تماماً. التعرف على هذه الحالات هو أمر مهني بقدر أهمية معرفة متى يجب التفويض.

لا تؤتمت العمل عندما:

- القرار غير قابل للتراجع. باب ذو اتجاه واحد مع رهانات عالية (أمر دوائي، مهلة لتقديم ملف قانوني، التزام مالي غير قابل للإلغاء) يحرمك من القدرة على التراجع عن مخرجات سيئة. القابلية للتراجع هي ما يجعل التفويض متسامحاً؛ وبدونها، يختفي شباك الأمان بأكمله.

- الموقف غامض حقاً. عندما لا يكون الإطار العام للمشكلة محدداً بعد، أو عندما تكون الصياغة الصحيحة للسؤال غير واضحة، أو عندما يكون السياق جديداً وغير مألوف، فإن المسودة الواثقة من شأنها أن تُخفي بالضبط الحكم الذي تتطلبه اللحظة.

- المخاطر أخلاقية. القرارات التي توزع الضرر، أو توزن فيها العدالة، أو تحمل وزناً أخلاقياً تتطلب وجود إنسان مسؤول يمكن مساءلته عن القيم المضمّنة في الاختيار.

- العلاقة هي الجوهر. المحادثات الصعبة، والثقة، والعناية، والتعزية، والتفاوض. العلاقة ليست مجرد قناة لتوصيل المحتوى؛ بل هي العمل بحد ذاته، وتحتاج إلى إنسان حاضر.

- لا يمكنك التحقق من المخرجات. إذا لم يكن لديك طريقة مستقلة للتحقق من صحة النتيجة، فإن تفويض المهمة ليس كفاءة؛ بل هو مقامرة غير مسؤولة تحمل اسمك.

قائمة التحقق قبل الإصدار

قبل إصدار المخرجات الآلية

بوابة عملية يجب تنفيذها في كل مرة تخرج فيها مخرجات أنتجت آلياً تحت اسمك. إذا كانت أي إجابة غير مرضية، فأنت غير مستعد للإصدار.

1. المصدر: هل يمكنني تتبع كل ادعاء، ورقم، واقتباس إلى مصدر قد فحصته؟

2. التحقق المستقل: هل تحققت من النتيجة عبر مسار مختلف عن الذي أنتجها؟

3. حدود المعقولية: هل تقع الإجابة ضمن النطاق الذي تسمح به الواقع وتوقعاتي في مجال تخصصي؟

4. فريق الهجوم (Red-team): هل هاجمت هذه الفكرة بالطريقة التي كان سينفذها بها مراجع معادٍ، أو مدقق، أو طرف معارض؟

5. المخاطر وقابلية التراجع: إذا كان هذا خاطئاً، فما كلفته، وهل يمكنني التراجع عنه؟ كلما زادت المخاطر وانخفضت قابلية التراجع، زاد الطلب على التحقق، أو طلب مني أن أنفذه بنفسي.

6. محفزات منع الأتمتة: هل هذا غير قابل للتراجع، أو غامض حقاً، أو يحمل أوزاناً أخلاقية، أو يتعلق بعلاقات إنسانية، أو غير قابل للتحقق؟ إن كان الأمر كذلك، فلماذا تتدخل آلة فيه أصلاً؟

7. الكفاءة: هل لا أزال أفهم هذا جيداً بما يكفي لاكتشاف خطأ والتدخل؟

8. الملكية: هل أنا مستعد للتوقيع على هذا والاعتبار مسؤولاً عنه كحكم مهني خاص بي؟

نفّذ البوابة. ثم أطلق العمل، وتحمّل مسؤوليته.

رسم الخط الفاصل

فكّر في أربع مهام تعبر مكتب أحد المتخصصين في فترة ما بعد الظهر: (أ) توليد خمسين نسخة مختلفة من نصوص الإعلانات لاختبار A/B، (ب) صياغة نص إشعار التسريح لموظف محدد، (ج) فرز أي التذاقات الدعم الواردة (من أصل 200) هي العاجلة، و(د) اتخاذ قرار بشأن ما إذا كان يجب الإفصاح عن عيب أمان جديد تم اكتشافه للجهة التنظيمية.

دليل العمل في صفحة واحدة

ما تحمله الآن

العمل الجيد مع الأنظمة الآلية هو انضباط مهني، وليس غريزة لقبول الأداة أو رفضها. لقد بنيت القدرة على الحكم عليها:

- تقسيم التفويض: رتّب العمل بناءً على الأهمية، وقابلية التراجع، وقابلية التحقق، والميزة المقارنة. أتمت المهام المملة والقابلة للتنفيذ بالتوازي؛ واحتفظ بالقرارات، والعلاقات، والمسؤولية.

- التحقق: السلاسة لا تعني الصواب. تتبّع المصدر، وقارن عبر مسار مستقل، واختبر النتائج مقابل حدود المعقولية، وقم بتجربة "الفرقة الحمراء" على المخرجات. ضاعف الجهد بما يتناسب مع الأهمية.

- الملكية: أنت من يوقّع على العمل، لذا فإن الفشل هو مسؤوليتك، وليس مسؤولية الأداة. كل فحص يتم تخطيه هو عبء تتحمله شخصياً.

- الاحتفاظ بالمهارات: احتفظ بالكفاءة الأساسية التي تفوّضها، حتى تظل قادراً على الإشراف، وكشف الأخطاء، والتحكم في العمليات. وفّض لتسريع العمل، لا لتفقد الرؤية.

- الحدود: ارفض أتمتة ما هو غير قابل للتراجع، أو الغامض حقاً، أو الأخلاقي، أو المتعلق بالعلاقات، أو غير القابل للتحقق.

فكرتان تحملان الباقي. فوّض العمل، لكن لا تفوّض أبداً المسؤولية. ونفّذ قائمة الفحص قبل الإصدار قبل أن يُنسب أي شيء إلى اسمك. المحترفون الذين يزدهرون في مجال أتمتة الأعمال ليسوا أولئك الذين يقاومون الأدوات أو أولئك الذين يثقون بها بشكل أعمى؛ بل هم أولئك الذين يراقبونها بشكل جيد.