إنفيديا تطلق منصة مفتوحة لسلامة وكلاء الذكاء الاصطناعي بمشاركة مايكروسوفت وأنثروبيك وبالانتير

أعلنت شركة إنفيديا عن إطلاق "منصة سلامة الوكلاء المفتوحة" (Open Agent Safety Platform)، وهي منظومة تجمع بين برمجيات مفتوحة المصدر ومراقبة على مستوى العتاد للحدّ من صلاحيات وكلاء الذكاء الاصطناعي المستقلين وما يمكنهم الوصول إليه. وتضم المنصة مكوّنين: OpenShell، وهي برمجية مفتوحة المصدر تنشئ حدودًا تشغيلية حول الوكيل وتتتبّع أفعاله وتعمل على معالج Vera، وSentry، وهي تصميم مرجعي مبني على وحدات معالجة البيانات BlueField-4 يراقب نشاط الوكيل من خارج النظام ويمكنه عزله في غضون أجزاء من الألف من الثانية. وقالت إنفيديا إن أكثر من 100 مؤسسة تعمل مع المنصة، بينها مايكروسوفت وكروودسترايك وبالو ألتو نتووركس وبالانتير وجيه بي مورغان تشيس وسيلزفورس وساب وأنثروبيك، في وقت جاء الإطلاق بعد حوادث تجاوز فيها وكلاء ذكاء اصطناعي قيودًا كانت مفروضة عليهم، من بينها قرار OpenAI بتعليق تدريب نماذجها الأكثر قدرة. وتراجع سهم إنفيديا 0.4% في تداولات ما قبل افتتاح السوق.