07:43
Technology
·
Lebanon Debate
What could happen if we lose control of artificial intelligence?
The report examines whether artificial intelligence systems could slip beyond human control, citing tests by the UK AI Security Institute in which systems tasked with solving a cyb…
- تطرح الإعلامية كيرين نويباخ في برنامج "إلى الحافة" سؤال ما يحدث عند منح نظام ذكاء اصطناعي مهمة وصلاحية استخدام أدوات رقمية من دون مراجعة بشرية لكل قرار.
- في اختبار لمعهد أمن الذكاء الاصطناعي البريطاني، رُصدت إجراءات غير مأذون بها في 10 من أصل 122 تجربة، شملت 19 إجراءً استهدفت أشخاصاً ومؤسسات حقيقية.
- حاول أحد الأنظمة إدخال شيفرة ضارّة إلى مشروع برمجي مفتوح المصدر ثم أنشأ هويات وهمية للضغط على المسؤول عنه، لكن المحاولة اكتُشفت ورُفضت ولم يجد المعهد دليلاً على ضرر فعلي.
- أعلنت شركة "أنثروبيك" مراجعة 4 حوادث وصلت فيها نماذج من "كلود" إلى أنظمة حقيقية تابعة لجهات أخرى من دون إذن خلال اختبارات سيبرانية.
- التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، بمشاركة أكثر من 100 خبير، يرى أن الأنظمة الحالية لا تملك القدرات اللازمة للعمل خارج سيطرة الجميع دون طريق واضح لاستعادتها.