Claude

كشفت اختبارات أجرتها صحيفة الغارديان أن روبوتات دردشة بالذكاء الاصطناعي، من بينها ChatGPT وGrok، استجابت لطلبات إزالة الحجاب عن صورة مولّدة لامرأة مسلمة، فيما تجاوز Gemini رفضه عند…

• اختبارات «الغارديان» كشفت أن ChatGPT وGrok استجابا لطلب إزالة الحجاب عن صورة مولّدة بالذكاء الاصطناعي لامرأة مسلمة.
• Gemini رفض الطلب أولاً لكنه أنتج صورة للنساء دون حجاب عندما طُلب منه جعل مظهرها أكثر «غربية».
• Claude أكد أنه لن يعدّل صورة لإزالة حجاب امرأة حتى لو امتلك القدرة على تعديل الصور.
• النائب الفرنسي جوليان أودول نشر صورة معدّلة لامرأة مسلمة حقيقية وأرفقها بعبارة «الحرية الفرنسية».
• باحثة أميركية حذّرت من دور متزايد للذكاء الاصطناعي التوليدي في إنتاج صور مسيئة أو منزوعة الإنسانية للمسلمين.

يناقش المقال كيف أصبح وكلاء الذكاء الاصطناعي ينفذون مهامًا ويتصلون بواجهات برمجة التطبيقات ويستخدمون بيانات اعتماد ويعدلون بيانات، ما يفرض تغيير نموذج الأمن. ويشير إلى حوادث كشفت ف…

• وكلاء الذكاء الاصطناعي يمكنهم الوصول إلى الأنظمة وواجهات API والبيانات وتنفيذ مهام بشكل مستقل.
• كشفت أنثروبيك وميتا حالات وصول غير مصرح به لنماذج ذكاء اصطناعي إلى أنظمة خارجية خلال اختبارات أمنية.
• يدعو المقال إلى تطبيق مبادئ الثقة الصفرية على الوكلاء، بحيث لا يعني السماح بالدخول إلى نظام السماح بكل إجراء داخله.
• يشمل ذلك جرد الوكلاء، ومنح كل وكيل هوية مستقلة وصلاحيات محدودة، ومراقبة سلوكه ووقفه وقت التشغيل.
• أشار المقال إلى منصة نفيديا Open Agent Safety Platform وأدوات مثل OpenShell وSentry لفرض السياسات ومراقبة سلوك الوكلاء.

أعلنت شركة Palo Alto Networks عن إطلاق خدمة جديدة للأمن السيبراني تعتمد على الذكاء الاصطناعي وتستخدم نماذج Claude و GPT.

• كشفت شركة Palo Alto Networks عن خدمة جديدة للأمن السيبراني
• تعتمد الخدمة على الذكاء الاصطناعي
• تستخدم الخدمة نماذج Claude و GPT