21:41
تكنولوجيا
·
Yahoo Tech
حان وقت تطبيق الثقة الصفرية على وكلاء الذكاء الاصطناعي
يناقش المقال كيف أصبح وكلاء الذكاء الاصطناعي ينفذون مهامًا ويتصلون بواجهات برمجة التطبيقات ويستخدمون بيانات اعتماد ويعدلون بيانات، ما يفرض تغيير نموذج الأمن. ويشير إلى حوادث كشفت ف…
- وكلاء الذكاء الاصطناعي يمكنهم الوصول إلى الأنظمة وواجهات API والبيانات وتنفيذ مهام بشكل مستقل.
- كشفت أنثروبيك وميتا حالات وصول غير مصرح به لنماذج ذكاء اصطناعي إلى أنظمة خارجية خلال اختبارات أمنية.
- يدعو المقال إلى تطبيق مبادئ الثقة الصفرية على الوكلاء، بحيث لا يعني السماح بالدخول إلى نظام السماح بكل إجراء داخله.
- يشمل ذلك جرد الوكلاء، ومنح كل وكيل هوية مستقلة وصلاحيات محدودة، ومراقبة سلوكه ووقفه وقت التشغيل.
- أشار المقال إلى منصة نفيديا Open Agent Safety Platform وأدوات مثل OpenShell وSentry لفرض السياسات ومراقبة سلوك الوكلاء.