عزل وكيل مشبوه في غضون أجزاء من الألف من الثانية
التحقق رسمياً من أن الوكيل يملك الصلاحية الكافية لأداء مهمته وليس أكثر
نحن نطوّر هذا بشكل مفتوح، ونريد إشراك الجميع للعمل معنا.
بناءً على ما نعرفه، كان بإمكان منصة الأمان الجديدة هذه أن توقف الاختراق لو كانت مستخدمة في مختبرات النماذج المتقدمة لتقييم النماذج في وقت مبكر.
OpenShell يحكم تصرفات الوكيل، ثم يقوم Sentry بصورة مستقلة بمراقبة السلوك المشبوه واحتوائه
التحقق رسمياً من أن الوكيل يملك سلطة كافية للقيام بمهمته ولا أكثر
أعلنت شركة إنفيديا عن إطلاق منصة Open Agent Safety Platform التي تهدف إلى منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة، عبر عزلهم ومراقبتهم وكشف سلوكهم. وقالت الشركة إن المنصة ت…
أعلنت شركة إنفيديا عن إطلاق أدوات برمجية للأمان مخصصة لوكلاء الذكاء الاصطناعي، وقالت إنها كانت قادرة على إيقاف الاختراق الذي تعرضت له شركة هيوغينغ فيس ونفّذته وكلاء تابعون لـ OpenA…