قُد بالأسئلة والضوابط
الثقافة التقنية التنفيذية هي ربط حدود النظام والأدلة التشغيلية بالنتائج، لا ادعاء استبدال خبرة المعمارية أو الهندسة أو الأمن.
ادعاءات المعمارية والمورّد مرتبطة بالسياق. استخدم الوثائق الرسمية الحالية ومراجعة مؤهلة من الهندسة والأمن والخصوصية والقانون والمالية والمشتريات والتشغيل. توصية التقنية التي يولدها الذكاء الاصطناعي مقترح غير متحقق منه، وليست موافقة تصميم.
يتطلب أي تطبيق إنتاجي أيضاً مدخلات معتمدة ومنقّحة؛ وتسميات للحقائق والاستنتاجات والمقترحات؛ وحقوقاً وأساساً نظامياً؛ وتقليل البيانات؛ وأقل صلاحية ممكنة؛ وفصل المستأجرين؛ وأسراراً مُدارة؛ وسجلات تدقيق؛ وتقييمات ممثلة وخصومية وانحدارية؛ وسلوكاً للمقترحات فقط؛ وموافقة بشرية؛ ومراقبة؛ وشرط إيقاف؛ ومسار حوادث؛ وتراجعاً مختبراً.
ارسم النظام على المستوى التنفيذي
أسئلة تستحق الطرح
- ما نتيجة الأعمال وحاجة المستخدم التي يخدمها هذا، وما دليل خط الأساس؟
- أي نظام هو المرجع لكل حقل، وكيف نكتشف البيانات القديمة أو المتعارضة؟
- ما الذي يستطيع هذا المكوّن قراءته أو اقتراحه أو تغييره؛ وأي صلاحيات يمكن حذفها؟
- كيف يُفصل المستأجرون وتُبعد بيانات الاعتماد عن الموجّهات والشيفرة والسجلات وتخزين المتصفح؟
- أي اختبارات ممثلة وعربية/إنجليزية وخصومية وللخصوصية والسلامة والانحدار تمنع الإصدار؟
- ما الذي يوقف النظام، ومن يدير الحوادث، وكيف نستعيد الخدمة، ومتى اختبرنا التراجع آخر مرة؟
يفكر تاجر افتراضي في إضافة الذكاء الاصطناعي لفرز طلبات الدعم. لا يتلقى النموذج إلا نص تذكرة منقّحاً عبر حساب خدمة محدد للمستأجر. يعيد مقترح فئة؛ ولا يستطيع مراسلة العملاء أو تغيير الطلبات. تمنع اختبارات ثنائية اللغة وحقن الأوامر وسجلات التجاوز البشري إطلاق اختبار ظل. يستطيع مالك الأمن إلغاء الوصول بصورة مستقلة.
تجنب اختصارين زائفين
«يمكن للذكاء الاصطناعي استبدال التنفيذ»
تحتاج الشيفرة أو المعمارية المولدة إلى الملكية والمراجعة والاختبار والأمن والصيانة وإتاحة الوصول والاستعداد للحوادث نفسها المطلوبة لأي عمل إنتاجي. يجب قياس الجهد والملاءمة لا افتراضهما.
«المورّد يدير المخاطر»
ضوابط المورّد مهمة، لكن مؤسستك تظل مالكة للإعداد والهوية وتدفقات البيانات وتجربة المستخدم والمراقبة والفعل اللاحق والخروج. تحقق من الادعاءات في الوثائق والعقود الحالية.
اطلب أسئلة لا استنتاجات
تمرين: راجع تدفقاً حرجاً واحداً
- اطلب من مالك النظام رسم رحلة مستخدم واحدة وكل تبعية تمسها.
- حدّد أنظمة السجل وفئات البيانات وحدود الهوية والأسرار ومفاتيح المستأجرين.
- تتبّع المسارات العادية والمتدهورة والخبيثة ومسارات التعافي.
- راجع الأدلة الحالية مع الهندسة والأمن؛ وسمِّ المجهول بدلاً من تخمينه.
- وافق فقط على تغيير محدود بمعايير قبول وتراجع مختبر.
بوابة المعمارية
استخدم إرشادات OWASP لتطبيقات النماذج اللغوية الكبيرة لبدء نمذجة التهديدات، وإطار NIST لإدارة مخاطر الذكاء الاصطناعي لتنظيم ملكية المخاطر. تحقق من المعمارية الفعلية؛ فلا يشهد أي منهما لتصميم.