EN
اليوم 01 · المساءلة

وجّه منظومة القرار

قد يفوّض التنفيذيون التشغيل والبحث والتنفيذ، لكنهم يظلون مسؤولين عن الغرض، وقابلية تحمّل المخاطر، والأشخاص المتأثرين، وقرار التصرف.

تعلّم ذاتيالحكم البشريمُراجع 31 أغسطس 2026

حدود الاستخدام: اعمل على سيناريو افتراضي أو سجل قرارات معتمد ومنقّح. لا تضع مواد مجلس الإدارة أو سجلات العملاء أو الموظفين أو بيانات الاعتماد أو العقود أو البيانات المالية غير العامة في خدمة غير معتمدة. أكّد أولاً الغرض والحقوق والأساس النظامي والاحتفاظ والوصول وشروط المورّد.

يتطلب أي تطبيق إنتاجي أيضاً مدخلات معتمدة ومنقّحة، وحقوقاً وأساساً نظامياً، وتقليل البيانات، وأقل صلاحية ممكنة، وفصل المستأجرين، وأسراراً مُدارة، وسجلات تدقيق، وتقييمات ممثلة وخصومية وانحدارية، وسلوكاً للمقترحات فقط، وموافقة بشرية، ومراقبة، وشرط إيقاف، ومسار حوادث، وتراجعاً مختبراً.

ما يجب أن تحتفظ به القيادة

يمكن للذكاء الاصطناعي إبراز الأنماط والبدائل، لكن النص السلس ليس دليلاً، ولا يملك النموذج تفويضاً لوضع الاستراتيجية. أبقِ خمسة قرارات لدى أشخاص محددين:

1الغرض: عرّف القرار الحقيقي والفئات المتأثرة والاستخدامات المحظورة.
2الدليل: حدّد المصادر المؤرخة والمسموحة الكافية ومن يتحقق منها.
3المخاطر: اعتمد فئات البيانات والوصول وحدود الأثر وشروط الإيقاف.
4الفعل: ألزم شخصاً محدداً بقبول كل مقترح مؤثر أو رفضه أو تعديله.
5التعلّم: راقب النتائج والحوادث، ثم تراجع عن المسار أو حسّنه.

صنّف القرار قبل استخدام الذكاء الاصطناعي

دعم منخفض الأثر

قد يناسب تنسيق إحاطة من مصادر عامة أو توليد أسئلة مسار مسودة مضبوطاً. ويظل شخص مسؤولاً عن فحص المصادر وإصدار الناتج.

قرار أعمال جوهري

التسعير أو تخصيص رأس المال أو اختيار مورّد أو أهلية عميل أو ادعاء علني يحتاج بيانات متحققاً منها، ومراجعة متخصصة، وافتراضات موثقة، وموافقات، واختباراً قابلاً للعكس.

قرار مؤثر في الأفراد أو الحقوق

لا يجوز تفويض التوظيف أو الفصل أو الترقية أو الأجر أو الائتمان أو الوصول أو السلامة أو الوضع القانوني إلى نموذج. استخدم مراجعة بشرية مؤهلة، وتحليلاً للقانون المنطبق، واختبار إنصاف، وتفسيراً ذا معنى، ومسار تظلّم.

يريد متجر إقليمي افتراضي «إحاطة أسبوعية بالمخاطر». يبدأ الفريق بأحداث اصطناعية لاختبار قدرة النظام على فصل الحقائق المستشهد بها عن الاستنتاجات. يمنحه وصول قراءة فقط إلى عرض مستودع معتمد، ويستبعد البيانات الشخصية، ويبقي كل توصية في حالة «مقترح». يتحقق المدير المالي من الأرقام؛ ويوافق مالك التشغيل على أي تجربة؛ ويوقف فشل جوهري في الاستشهاد مسار العمل.

تمرين: أنشئ خريطة للمساءلة

  1. اسرد عدة أنواع متكررة من القرارات بعناوين فقط، من دون المحتوى السري الكامن.
  2. سمِّ لكل نوع مالك القرار والفئات المتأثرة ومالك الأدلة والمراجع المؤهل.
  3. حدّد فئات البيانات المسموحة والبيانات المحظورة صراحة.
  4. حدّد هل يجوز للذكاء الاصطناعي التلخيص أو التحدي أو الاقتراح، ولا تمنحه سلطة التنفيذ.
  5. أضف بوابة موافقة وإشارة مراقبة وشرط إيقاف وجهة للحوادث ومالكاً للتراجع.
أنت تيسّر ورشة حوكمة ولا تتخذ القرار. نوع القرار: [عنوان عام فقط] الفئات المتأثرة: [أدوار أو شرائح، لا هويات] الأدلة المسموحة: [فئات مصادر معتمدة] أعد أربعة أقسام معلّمة: FACTS REQUIRED — الأدلة اللازمة قبل بدء التحليل. INFERENCES TO TEST — الافتراضات وعدم اليقين والأدلة المضادة. PROPOSALS — خيارات قابلة للعكس فقط، بلا تنفيذ. CONTROLS — المالك البشري والموافقة وفحوص الإنصاف والخصوصية والأمن وشرط الإيقاف ومسار الحوادث والتراجع. لا تختلق حقائق. اكتب «أدلة غير كافية» عندما يغيب الدعم.

بوابة الإكمال

انتقل عندما تكون هذه البنود موثقة

يوفر إطار NIST لإدارة مخاطر الذكاء الاصطناعي بنية طوعية لحوكمة مخاطر الذكاء الاصطناعي وتحديدها وقياسها وإدارتها. طبّق القوانين والسياسات ذات الصلة بمؤسستك بمساعدة مستشارين مؤهلين.

السابقاليوم 2: تقييم الأداة ←