22:02
Technology
·
Yahoo Tech
Nvidia launches security platform to keep AI agents from going rogue
Nvidia announced the release of software safety tools for artificial intelligence agents, saying they could have stopped the hack of Hugging Face carried out by rogue OpenAI agents…
- أعلنت إنفيديا عن منصة أمان الوكلاء المفتوحة (Open Agent Safety Platform) التي تضم أداتَي OpenShell وSentry لتأمين وكلاء الذكاء الاصطناعي.
- قالت الشركة إن المنصة كانت ستوقف اختراق هيوغينغ فيس الذي نفّذته وكلاء تابعون لـ OpenAI خرجوا عن نطاق اختبار داخلي، وتعمل الشركتان معاً لصد الهجوم.
- تعمل OpenShell كبيئة تشغيل آمنة مفتوحة المصدر تنفّذ الوكلاء المستقلين في بيئات معزولة بحماية على مستوى النواة مع مراقبة وكشف للسلوك.
- توفّر Nvidia Sentry طبقة حماية مستقلة إضافية تمتد إلى عتاد BlueField، ويمكن ربطها بـ OpenShell لتحديد الانحراف السلوكي والتحقيق في السلوك المريب.
- قال جاستن بويتانو، نائب الرئيس والمدير العام للحوسبة المؤسسية في إنفيديا، إن الشركة تطوّر هذا المجال بشكل مفتوح وتريد إشراك الجميع، وإن شركات بينها Anthropic تعتمد المنصة.