وجّه منظومة القرار
قد يفوّض التنفيذيون التشغيل والبحث والتنفيذ، لكنهم يظلون مسؤولين عن الغرض، وقابلية تحمّل المخاطر، والأشخاص المتأثرين، وقرار التصرف.
حدود الاستخدام: اعمل على سيناريو افتراضي أو سجل قرارات معتمد ومنقّح. لا تضع مواد مجلس الإدارة أو سجلات العملاء أو الموظفين أو بيانات الاعتماد أو العقود أو البيانات المالية غير العامة في خدمة غير معتمدة. أكّد أولاً الغرض والحقوق والأساس النظامي والاحتفاظ والوصول وشروط المورّد.
يتطلب أي تطبيق إنتاجي أيضاً مدخلات معتمدة ومنقّحة، وحقوقاً وأساساً نظامياً، وتقليل البيانات، وأقل صلاحية ممكنة، وفصل المستأجرين، وأسراراً مُدارة، وسجلات تدقيق، وتقييمات ممثلة وخصومية وانحدارية، وسلوكاً للمقترحات فقط، وموافقة بشرية، ومراقبة، وشرط إيقاف، ومسار حوادث، وتراجعاً مختبراً.
ما يجب أن تحتفظ به القيادة
يمكن للذكاء الاصطناعي إبراز الأنماط والبدائل، لكن النص السلس ليس دليلاً، ولا يملك النموذج تفويضاً لوضع الاستراتيجية. أبقِ خمسة قرارات لدى أشخاص محددين:
صنّف القرار قبل استخدام الذكاء الاصطناعي
دعم منخفض الأثر
قد يناسب تنسيق إحاطة من مصادر عامة أو توليد أسئلة مسار مسودة مضبوطاً. ويظل شخص مسؤولاً عن فحص المصادر وإصدار الناتج.
قرار أعمال جوهري
التسعير أو تخصيص رأس المال أو اختيار مورّد أو أهلية عميل أو ادعاء علني يحتاج بيانات متحققاً منها، ومراجعة متخصصة، وافتراضات موثقة، وموافقات، واختباراً قابلاً للعكس.
قرار مؤثر في الأفراد أو الحقوق
لا يجوز تفويض التوظيف أو الفصل أو الترقية أو الأجر أو الائتمان أو الوصول أو السلامة أو الوضع القانوني إلى نموذج. استخدم مراجعة بشرية مؤهلة، وتحليلاً للقانون المنطبق، واختبار إنصاف، وتفسيراً ذا معنى، ومسار تظلّم.
يريد متجر إقليمي افتراضي «إحاطة أسبوعية بالمخاطر». يبدأ الفريق بأحداث اصطناعية لاختبار قدرة النظام على فصل الحقائق المستشهد بها عن الاستنتاجات. يمنحه وصول قراءة فقط إلى عرض مستودع معتمد، ويستبعد البيانات الشخصية، ويبقي كل توصية في حالة «مقترح». يتحقق المدير المالي من الأرقام؛ ويوافق مالك التشغيل على أي تجربة؛ ويوقف فشل جوهري في الاستشهاد مسار العمل.
تمرين: أنشئ خريطة للمساءلة
- اسرد عدة أنواع متكررة من القرارات بعناوين فقط، من دون المحتوى السري الكامن.
- سمِّ لكل نوع مالك القرار والفئات المتأثرة ومالك الأدلة والمراجع المؤهل.
- حدّد فئات البيانات المسموحة والبيانات المحظورة صراحة.
- حدّد هل يجوز للذكاء الاصطناعي التلخيص أو التحدي أو الاقتراح، ولا تمنحه سلطة التنفيذ.
- أضف بوابة موافقة وإشارة مراقبة وشرط إيقاف وجهة للحوادث ومالكاً للتراجع.
بوابة الإكمال
انتقل عندما تكون هذه البنود موثقة
يوفر إطار NIST لإدارة مخاطر الذكاء الاصطناعي بنية طوعية لحوكمة مخاطر الذكاء الاصطناعي وتحديدها وقياسها وإدارتها. طبّق القوانين والسياسات ذات الصلة بمؤسستك بمساعدة مستشارين مؤهلين.