إنفيديا تكشف عن منصة أمنية لمنع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة
Nvidia unveils security platform to stop AI agents from going rogue
كشفت شركة إنفيديا عن منصة أمنية جديدة قالت إنها قادرة على منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة، وتتضمن المنصة برمجيات تضع حدوداً لعمل الوكلاء. وقال نائب الرئيس للذكاء الاصطناعي في المؤسسات، جاستن بويتانو، إن المنصة كانت لتمنع اختراقاً حديثاً نفذته مجموعة من وكلاء OpenAI استهدفت شركة Hugging Face الناشئة، مشيراً إلى حوادث مشابهة أعلنت عنها أنثروبيك وميتا. وتضم المنصة طبقة أمنية تُسمى Sentry تعمل على الشريحة لمراقبة نشاط الوكلاء والتدخل الفوري، وفق الشركة، فيما تستخدم النظام أكثر من 100 شركة عند إطلاقه بينها مايكروسوفت وبيربليكسيتي وأكسنتشر وجيه بي مورغان تشيس.
📍 تايبيه، تايوان
- أعلنت إنفيديا عن منصة "Open Agent Safety Platform" الأمنية التي تقول إنها تمنع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة
- قال جاستن بويتانو إن المنصة كانت لتمنع اختراقاً نفذته مجموعة من وكلاء OpenAI استهدف شركة Hugging Face
- أعلنت أنثروبيك وميتا أيضاً عن حوادث اختراق نفذتها أنظمة الذكاء الاصطناعي الخاصة بهما
- المنصة تشمل برمجية OpenShell مفتوحة المصدر وطبقة أمنية تُسمى Sentry تعمل على الشريحة للمراقبة والتدخل الفوري
- أكثر من 100 شركة تستخدم النظام عند إطلاقه بينها مايكروسوفت وبيربليكسيتي وأكسنتشر وجيه بي مورغان تشيس
🏢 إنفيديا
👤 جاستن بويتانو
🏢 OpenAI
🏢 Hugging Face
🏢 أنثروبيك
🏢 ميتا
🏢 مايكروسوفت
🏢 بيربليكسيتي
🏢 أكسنتشر
🏢 جيه بي مورغان تشيس
📍 تايبيه، تايوان
🔖 OpenShell
🔖 Sentry
قراءة الخبر في مصدره الأصلي
⚑ أبلغ عن خطأ في هذا الخبر
📰 تغطية المصادر الأخرى لهذا الخبر
مصدران- tech.yahoo.com إنفيديا تطلق منصة أمان جديدة لوقف وكلاء الذكاء الاصطناعي المارقين منذ 18 يوماً
- Yahoo Tech إنفيديا تطلق منصة أمنية لمنع خروج وكلاء الذكاء الاصطناعي عن السيطرة منذ 19 يوماً
- Yahoo Tech إنفيديا تطلق منصة مفتوحة لسلامة وكلاء الذكاء الاصطناعي بمشاركة مايكروسوفت وأنثروبيك وبالانتير منذ 20 يوماً