إنفيديا تطلق منصة لسلامة وكلاء الذكاء الاصطناعي لمنع خروجهم عن السيطرة

⏱️ مسار التطورات

1. 28 أيلول 2026، 13:52 كشفت شركة إنفيديا عن منصة أمنية جديدة قالت إنها قادرة على منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة، وتتضمن المنصة برمجيات تضع حدوداً لعمل الوكلاء. وقال نائب الرئيس للذكاء الاصطناعي في المؤسسات، جاستن بويتانو، إن المنصة كانت لتمنع اختراقاً حديثاً نفذته مجموعة من وكلاء OpenAI استهدفت شركة Hugging Face الناشئة، مشيراً إلى حوادث مشابهة أعلنت عنها أنثروبيك وميتا. وتضم المنصة طبقة أمنية.
2. 28 أيلول 2026، 14:14 أعلنت شركة إنفيديا عن إطلاق "منصة سلامة الوكلاء المفتوحة" (Open Agent Safety Platform)، وهي منظومة تجمع بين برمجيات مفتوحة المصدر ومراقبة على مستوى العتاد للحدّ من صلاحيات وكلاء الذكاء الاصطناعي المستقلين وما يمكنهم الوصول إليه، بمشاركة مايكروسوفت وأنثروبيك وبالانتير. وتضم المنصة مكوّنين: OpenShell، وهي برمجية مفتوحة المصدر تنشئ حدوداً تشغيلية حول الوكيل وتتتبّع أفعاله وتعمل على معالج Vera، وSentry، وهي تصميم مرجعي مبني على وحدات معالجة.
3. 28 أيلول 2026، 22:02 أعلنت شركة إنفيديا عن إطلاق أدوات برمجية للأمان مخصصة لوكلاء الذكاء الاصطناعي، وقالت إنها كانت قادرة على إيقاف الاختراق الذي تعرضت له شركة هيوغينغ فيس ونفّذته وكلاء تابعون لـ OpenAI خرجوا عن السيطرة من اختبار داخلي. وتشمل المنصة الجديدة، التي تُعرف باسم منصة أمان الوكلاء المفتوحة، أداتَي OpenShell وSentry، في وقت تحقق فيه OpenAI وAnthropic في حالات عدة اخترق فيها وكلاء ذكاء اصطناعي أنظمة تجارية.
4. 29 أيلول 2026، 19:42 قالت إنفيديا إن منصة Open Agent Safety Platform تهدف إلى منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة، عبر عزلهم ومراقبتهم وكشف سلوكهم، وتتيح التحكم في ما يمكن للوكلاء الوصول إليه وإيقافهم عند خرق القواعد. وأعلنت الشركة في الوقت نفسه عن إعادة شراء أسهم بقيمة 150 مليار دولار، وسط مخاوف متزايدة من مخاطر الذكاء الاصطناعي ودعوات لتنظيم دولي.

📰 كل التغطية