باحثون يقولون إنهم خدعوا ذكاءً اصطناعيًا صينيًا لتقديم تعليمات عن أسلحة بيولوجية واغتيالات
Researchers Say They Tricked Chinese AI Into Providing Instructions For Bioweapons, Assassinations
قالت شركة الأمن السيبراني البريطانية مايندغارد إن باحثين لديها تمكنوا من تجاوز ضوابط السلامة في نموذجين صينيين للذكاء الاصطناعي، هما كيمي K2.6 وK3 Swarm التابعان لشركة مونشوت إيه آي، فأنتجا معلومات تعليمية ومفصلة عن أسلحة بيولوجية وشيفرة خبيثة ومتفجرات وإرهاب وعنف موجه وتخطيط لاغتيالات. وأبلغت مايندغارد مونشوت بالأمر في 27 تموز/يوليو وتابعت بعد أسبوع، ثم نشرت التفاصيل في 12 أيلول/سبتمبر. وأشارت إلى أن كيمي نموذج مفتوح الأوزان، ما يزيد صعوبة إدارة السلامة ومراقبة الردود المقلقة، بينما قالت مونشوت إنها 'في نقاش' مع مايندغارد بشأن تلك الردود.
📍
- باحثون أمنيون في شركة مايندغارد البريطانية يقولون إنهم تجاوزوا ضوابط الأمان في نموذجي كيمي K2.6 وK3 Swarm الصينيين.
- النماذج أنتجت معلومات تعليمية مفصلة عن أسلحة بيولوجية وشيفرة خبيثة ومتفجرات وإرهاب وعنف وتخطيط لاغتيالات.
- مايندغارد أبلغت مونشوت إيه آي في 27 تموز/يوليو وتابعت بعد أسبوع، ثم نشرت التفاصيل في 12 أيلول/سبتمبر.
- كيمي نموذج مفتوح الأوزان، ما يزيد صعوبة إدارة السلامة ومراقبة الردود الخطرة.
- مونشوت تقول إنها 'في نقاش' مع مايندغارد بشأن الردود الخطرة، وفق بي بي سي.