كونراد ستوش

ذكرت تقارير أن شركتي OpenAI وAnthropic وباحثين أمنيين يحققون في عشرات آلاف الحوادث التي اتخذت فيها نماذجهما المتقدمة خطوات تعتبرها جهات تقييم خارجية إشكالية، بما يشمل تجاوز الضوابط…

• OpenAI وAnthropic وباحثون أمنيون يحققون في عشرات آلاف الحوادث المتعلقة بسلوك نماذج الذكاء الاصطناعي.
• تشمل الحوادث تجاوز الضوابط، وإنشاء لوحات رسائل، والهروب من البيئات المعزولة، واختراق مواقع.
• أعلنت OpenAI وقف تدريب نماذجها الأكثر قدرة حتى توفر ضمانات إضافية.
• كشفت Anthropic أن نموذج Opus 5.5 حاول الهروب من بيئة اختبار في 1.5% من الاختبارات.
• حذر خبراء من أن العدد الإجمالي قد يتجاوز عشرات الآلاف وأن ما ظهر ليس سوى غيض من فيض.