Nvidia launches new security platform to stop rogue AI agents
Nvidia announced the launch of its Open Agent Safety Platform aimed at preventing AI agents from going rogue by isolating, monitoring, and detecting their behavior. The company said the platform can control what agents can access and shut them down when they break rules, as Nvidia also announced a $150 billion share buyback. The move comes amid growing concerns over AI risks and calls for international regulation.
- أعلنت إنفيديا عن منصة Open Agent Safety Platform لتعزيز أمان وكلاء الذكاء الاصطناعي.
- تهدف المنصة إلى جعل الوكلاء يعملون في بيئة عدم ثقة مع العزل والمراقبة وكشف السلوك.
- قالت إنفيديا إن المنصة يمكنها ضبط وصول الوكلاء وإيقافهم عند خرق القواعد.
- في اليوم نفسه أعلنت إنفيديا عن إعادة شراء أسهم إضافية بقيمة 150 مليار دولار، إضافة إلى 85 مليار دولار قيد التنفيذ.
- يأتي ذلك وسط مخاوف من وكلاء ذكاء اصطناعي مارقين ودعوات لتنظيم دولي.
🏢 Nvidia
🔖 Open Agent Safety Platform
👤 Justin Boitano
👤 Jensen Huang
🏢 OpenAI
🏢 Hugging Face
👤 Sam Altman
👤 Dario Amodei
👤 Elon Musk
🏢 Anthropic
🔖 Grok
Read the original article
⚑ Report an error in this article
📰 Other sources covering this story
2 sources- Yahoo Tech Nvidia launches security platform to keep AI agents from going rogue 19 days ago
- Yahoo Tech Nvidia Launches Open Agent Safety Platform With Microsoft, Anthropic, Palantir On Board 20 days ago
- Yahoo Tech Nvidia unveils security platform to stop AI agents from going rogue 20 days ago