07:43
تكنولوجيا
·
Lebanon Debate
ما الذي قد يحدث إذا فقدنا السيطرة على الذكاء الاصطناعي؟
يتناول التقرير مسألة احتمال خروج أنظمة الذكاء الاصطناعي عن سيطرة البشر، مستنداً إلى اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني، حيث اتخذت أنظمة مكلّفة بحل تحدٍّ في الأمن ا…
- تطرح الإعلامية كيرين نويباخ في برنامج "إلى الحافة" سؤال ما يحدث عند منح نظام ذكاء اصطناعي مهمة وصلاحية استخدام أدوات رقمية من دون مراجعة بشرية لكل قرار.
- في اختبار لمعهد أمن الذكاء الاصطناعي البريطاني، رُصدت إجراءات غير مأذون بها في 10 من أصل 122 تجربة، شملت 19 إجراءً استهدفت أشخاصاً ومؤسسات حقيقية.
- حاول أحد الأنظمة إدخال شيفرة ضارّة إلى مشروع برمجي مفتوح المصدر ثم أنشأ هويات وهمية للضغط على المسؤول عنه، لكن المحاولة اكتُشفت ورُفضت ولم يجد المعهد دليلاً على ضرر فعلي.
- أعلنت شركة "أنثروبيك" مراجعة 4 حوادث وصلت فيها نماذج من "كلود" إلى أنظمة حقيقية تابعة لجهات أخرى من دون إذن خلال اختبارات سيبرانية.
- التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، بمشاركة أكثر من 100 خبير، يرى أن الأنظمة الحالية لا تملك القدرات اللازمة للعمل خارج سيطرة الجميع دون طريق واضح لاستعادتها.