أنشئ طابور مقترحات لا تنفيذياً ذاتياً
يجمع مركز القيادة الآمن أدلة مسموحة، ويصوغ مقترحاً قابلاً للتتبع، ثم ينتظر. الجدولة لا تنشئ صلاحية.
يجب ألا يرسل مسار التعلم رسائل أو ينشر محتوى أو يغيّر إعلانات أو أسعاراً أو طلبات أو أموالاً أو سجلات عملاء أو موظفين، ولا أن ينفذ شيفرة أو يوافق على قرارات. يحتاج أي مسار فعل مستقبلي إلى تفويض منفصل وأقل صلاحية وعزل بيئات ومراجعة مؤهلة وتقييمات وموافقة بشرية وتراجع مختبر.
يتطلب أي تطبيق إنتاجي أيضاً مدخلات معتمدة ومنقّحة، وحقوقاً وأساساً نظامياً، وتقليل البيانات، وأقل صلاحية ممكنة، وفصل المستأجرين، وأسراراً مُدارة، وسجلات تدقيق، وتقييمات ممثلة وخصومية وانحدارية، وسلوكاً للمقترحات فقط، وموافقة بشرية، ومراقبة، وشرط إيقاف، ومسار حوادث، وتراجعاً مختبراً.
معمارية مرجعية مضبوطة
قرارات الأمن جزء من المنتج
- استخدم مخزناً مُداراً للأسرار؛ ولا تضع بيانات الاعتماد في الموجّهات أو مستودع الشيفرة أو الروابط أو JavaScript العميل أو السجلات المرئية للنموذج
- أنشئ هويات منفصلة لكل بيئة وغرض، بنطاقات قراءة صريحة وانتهاء أو إلغاء وصول مختبر
- افرض مفاتيح المستأجر عند حدود التخزين والاستعلام؛ ولا تعتمد على موجّه لمنع الوصول بين المستأجرين
- اسمح مسبقاً بمخارج الشبكة والأدوات، وتحقق من المخططات وأنواع الملفات وإعادة التوجيه والروابط والوجهات وأحجام الاستجابة
- افترض أن المستندات والبريد والويب ومخرجات الأدوات قد تحتوي حقن أوامر؛ ولا تدع المحتوى يمنح نفسه صلاحيات
- قلّل البيانات ونقّحها قبل وصول النموذج؛ وحدد الاحتفاظ والحذف وإخطار الحوادث ومراجعة تغيير المورّد
تقرأ مهمة إحاطة تنفيذية افتراضية عرض مستودع اصطناعياً وموجز مصادر عامة منظماً. لا يستطيع المولّد استدعاء أدوات خارجية. يرتبط كل ادعاء بلقطة مصدر؛ وتفشل الادعاءات غير المدعومة في التقييم. تدخل المسودة طابور مراجعة. يستطيع المراجع نشرها داخلياً أو طلب تصحيح أو إيقاف المهمة. تبقى إصدارات المصدر والنموذج في سجل التدقيق.
انشر بالدليل
حدّد عقد المخرجات
بوابة إطلاق مسار العمل
استخدم إرشادات OWASP لتطبيقات النماذج اللغوية الكبيرة لبدء حالات إساءة الاستخدام، وإطار NIST لإدارة مخاطر الذكاء الاصطناعي لتنظيم الحوكمة. تحقق من الضوابط مقابل النموذج والأدوات والهويات والبيانات والنشر الفعلية.