اربط خطوات محدودة فقط عندما يحسن التقسيم التحكم، واجعل كل handoff قابلًا للملاحظة والتكرار والتوقف الآمن.
مختبر ذاتي الوتيرةمحاكاة محليةمتقدم
زيادة عدد الـ Agents لا تعني نتائج أفضل. كل استدعاء Model يضيف مدة وتكلفة واحتمالات فشل ومكانًا آخر قد يؤثر فيه محتوى غير موثوق على الـ Workflow. فضّل خطوة واحدة محدودة أو كودًا حتميًا إلا إذا أثبت تقييم مقاس أن الفصل يحسن النتيجة المطلوبة.
خطوة Model واحدة — لمهمة لغوية ضيقة ذات input وoutput منظمين.
3
عدة خطوات Models — فقط إذا احتاجت المهام context أو تقييمًا مختلفًا ويمكن التحقق من الـ handoffs.
وثّق سبب كل حد. البحث والكتابة والمراجعة ليست تلقائيًا Agents منفصلة. خطوة مراجعة ترى نفس الـ prompt وتشارك نقاط الضعف نفسها قد تزيد الثقة من دون إضافة دليل مستقل.
الجزء 2: اجعل الـ Handoffs محددة ومصغّرة
تحصل كل خطوة على أقل معلومات تحتاجها. عرّف schema ذات نسخة، وارفض الحقول المطلوبة المفقودة أو الحقول المجهولة، وتعامل مع النص القادم من خطوة سابقة كبيانات غير موثوقة وليس تعليمات.
عقد الـ Handoff
المنتِج والمستهلك: components محددة بمالكين ونسخ.
Schema: أسماء الحقول وأنواعها وحدودها والقيم المسموحة وتصنيف المحتوى.
المصدر: source IDs ومراجع عند الحاجة، من دون اختلاق أدلة.
التحقق: فحوص حتمية قبل أن ترى الخطوة التالية الـ payload.
مسار الفشل: توقف، اعزل الـ payload، وأبلغ المالك البشري.
Review this proposed workflow as a hostile interface designer. Do not run it.
For every handoff:
- Draft a strict, versioned JSON schema with size and enum limits.
- Identify fields that contain untrusted text and ensure they cannot become instructions.
- Minimize personal or confidential data.
- Define deterministic validation and an explicit rejection response.
- Name the owner who can approve progression.
Then challenge whether each model step is needed. Recommend deterministic code or a single-step design where it is sufficient.
الجزء 3: صمّم الحالة والـ Idempotency
يحتاج الـ Workflow إلى state machine صريحة مثل RECEIVED وVALIDATED وDRAFTED وAWAITING_APPROVAL وAPPROVED وREJECTED وFAILED. لا يُسمح إلا بالانتقالات المحددة، ولا يقرر الـ Model أن مخرجه تمت الموافقة عليه.
امنح كل تشغيل وكل أثر مقترح idempotency key. إعادة الطلب نفسه تعيد النتيجة المسجلة أو conflict آمنًا بدل تكرار الفعل. خزّن checkpoints كي تكمل المحاولة من حالة معروفة بدل إعادة ما تم إنجازه.
قاعدة المحاولات
أعد فقط الأخطاء المصنفة transient، بعدد محاولات محدود وbackoff، مع نفس idempotency key. فشل التحقق أو رفض الصلاحية أو مخالفة السياسة أو المخرجات الملتبسة ليست حالات إعادة؛ تتوقف للمراجعة.
الجزء 4: ضع بوابات بشرية قبل الأثر
المختبر لا يرسل أو ينشر أو يشتري أو يحذف أو يغير صلاحية أو ميزانية أو system of record. يمكنه تجهيز اقتراح يحتوي الفعل والهدف والdiff والدليل وعدم اليقين وخطوات التراجع. إنسان موثّق بشكل مستقل يوافق أو يرفض عبر قناة لا يستطيع الـ Model انتحالها.
A
ماذا — التغيير الدقيق والوجهة والسجلات المتأثرة.
B
لماذا — الدليل المصدر وأساس السياسة وعدم اليقين.
C
الحدود — الحجم والتكلفة والوقت ونطاق الوصول والانتهاء.
D
التعافي — إيقاف وrollback ومالك incident وسجل audit.
الجزء 5: سجّل Events لا Payloads
سجّل correlation ID ونسخة الـ component وschema وانتقال الحالة واسم الأداة وفئة الهدف والقرار وكود الخطأ والمدة والتكلفة. قلل أو اخفِ محتوى الـ payload. لا تضع credentials أو authentication headers أو سجلات شخصية كاملة أو نصوص prompts حساسة في الـ logs. احمِ الوصول وحدد retention واختبر الإخفاء.
الجزء 6: اختبر الفشل قبل النجاح
ابنِ eval set لها نسخة بحالات اصطناعية ممثلة وعدائية: prompt injection داخل حقل، input أكبر من الحد، نسخة schema خاطئة، event مكرر، timeout، dependency غير متاح، output ناقص، وجهة غير مصرح بها، وطلب يتجاوز حد التكلفة.
1
الصحة — مخرجات متوقعة محددة مسبقًا أو rubric موثقة للمراجع.
2
السلامة — الفعل الممنوع يظل ممنوعًا حتى لو طلبه الـ input.
3
التعافي — التوقف وإعادة التشغيل لا يفقدان الحالة ولا يكرران الأثر.
4
التشغيل — المدة والتكلفة والتنبيهات ضمن حدود خاصة بالمشروع.
الجزء 7: ابنِ محاكاة بلا أثر خارجي
اربط خطوتين من اليوم 8 داخل المختبر المحلي: تحقق حتمي من الـ input ثم مولّد مسودة. يفحص آخر component المسودة ويكتب approval envelope في output/pending-review.json. لا ينفذ الفعل المقترح. شغّل الـ evals، واقطع تشغيلًا في المنتصف، وأعد نفس idempotency key، وتحقق أن الحالة والمخرجات تظلان متسقتين.