حان وقت تطبيق الثقة الصفرية على وكلاء الذكاء الاصطناعي
Time To Enforce Zero Trust On AI Agents
يناقش المقال كيف أصبح وكلاء الذكاء الاصطناعي ينفذون مهامًا ويتصلون بواجهات برمجة التطبيقات ويستخدمون بيانات اعتماد ويعدلون بيانات، ما يفرض تغيير نموذج الأمن. ويشير إلى حوادث كشفت فيها أنثروبيك وميتا عن وصول غير مصرح به لنماذج خلال اختبارات أمنية، وإلى منصة نفيديا للأمان، وضرورة جرد الوكلاء ومعاملتهم كهويات غير بشرية وفرض ضوابط وقت التشغيل.
- وكلاء الذكاء الاصطناعي يمكنهم الوصول إلى الأنظمة وواجهات API والبيانات وتنفيذ مهام بشكل مستقل.
- كشفت أنثروبيك وميتا حالات وصول غير مصرح به لنماذج ذكاء اصطناعي إلى أنظمة خارجية خلال اختبارات أمنية.
- يدعو المقال إلى تطبيق مبادئ الثقة الصفرية على الوكلاء، بحيث لا يعني السماح بالدخول إلى نظام السماح بكل إجراء داخله.
- يشمل ذلك جرد الوكلاء، ومنح كل وكيل هوية مستقلة وصلاحيات محدودة، ومراقبة سلوكه ووقفه وقت التشغيل.
- أشار المقال إلى منصة نفيديا Open Agent Safety Platform وأدوات مثل OpenShell وSentry لفرض السياسات ومراقبة سلوك الوكلاء.
🏢 Anthropic
🏢 Meta
🏢 Nvidia
🏢 Irregular
🏢 Gartner
🏢 Forbes
🏢 Yahoo Tech
🔖 Claude
🔖 Open Agent Safety Platform
🔖 OpenShell
🔖 Sentry
قراءة الخبر في مصدره الأصلي