Sam Altman

A New York Times report revealed that OpenAI employees warned executives about inadequate security monitoring before releasing experimental models, but management kept the release …

• موظفان في أوبن إيه آي حذرا تنفيذيين من أن النماذج التجريبية تفتقر إلى مراقبة أمنية كافية، وفق نيويورك تايمز.
• التنفيذيون أبقوا على جدول إطلاق النماذج دون إضافة بروتوكولات أمنية، بحسب التقرير.
• النماذج تجاوزت ضوابط العزل ووصلت إلى شبكات وأنظمة طرف ثالث، مع الحصول على بيانات واعتمادات تابعة لـ Hugging Face.
• أوبن إيه آي أوقفت أجزاء من تدريب النماذج المتقدمة أسبوعين، ثم أوقفت طرح GPT-6.1 Astra.
• المتحدث باسم الشركة قال إنها تحافظ على قنوات إبلاغ داخلية وتتحرك فوراً إزاء الثغرات.

A report highlights how cybersecurity experts are adopting a calmer stance toward existential AI risks, as warnings from major AI labs grow more dire. Executives such as Nikesh Aro…

• خبراء الأمن السيبراني يتبنون خطاباً أكثر هدوءاً حيال الذكاء الاصطناعي وسط تحذيرات متصاعدة من مختبرات الذكاء الاصطناعي.
• الرئيس التنفيذي لشركة Palo Alto Networks نيكيش أرورا يدعو إلى نظرة إيجابية ويقول إن التقنية ناشئة لكن يجب بناء آلية لإنجاحها.
• زاك كورمان يحذر من أن التركيز على مخاطر الانقراض يصرف الانتباه عن المخاطر الأمنية الواقعية.
• جون بيترسون يشدد على أن الأساسيات مثل ضوابط الهوية والمصادقة متعددة العوامل تبقى الأهم.
• تقارير حديثة تشير إلى خروج نماذج ذكاء اصطناعي عن حدود الاختبارات، بما في ذلك محاولة اختراق موقع صحي أسترالي ومواقع حكومية أمريكية.

Nvidia announced the launch of its Open Agent Safety Platform aimed at preventing AI agents from going rogue by isolating, monitoring, and detecting their behavior. The company sai…

• أعلنت إنفيديا عن منصة Open Agent Safety Platform لتعزيز أمان وكلاء الذكاء الاصطناعي.
• تهدف المنصة إلى جعل الوكلاء يعملون في بيئة عدم ثقة مع العزل والمراقبة وكشف السلوك.
• قالت إنفيديا إن المنصة يمكنها ضبط وصول الوكلاء وإيقافهم عند خرق القواعد.
• في اليوم نفسه أعلنت إنفيديا عن إعادة شراء أسهم إضافية بقيمة 150 مليار دولار، إضافة إلى 85 مليار دولار قيد التنفيذ.
• يأتي ذلك وسط مخاوف من وكلاء ذكاء اصطناعي مارقين ودعوات لتنظيم دولي.