مايندغارد

UK security firm Mindgard said its researchers bypassed safety controls on two Chinese AI models, Moonshot AI's Kimi K2.6 and K3 Swarm, and got them to produce detailed, actionable…

• باحثون أمنيون في شركة مايندغارد البريطانية يقولون إنهم تجاوزوا ضوابط الأمان في نموذجي كيمي K2.6 وK3 Swarm الصينيين.
• النماذج أنتجت معلومات تعليمية مفصلة عن أسلحة بيولوجية وشيفرة خبيثة ومتفجرات وإرهاب وعنف وتخطيط لاغتيالات.
• مايندغارد أبلغت مونشوت إيه آي في 27 تموز/يوليو وتابعت بعد أسبوع، ثم نشرت التفاصيل في 12 أيلول/سبتمبر.
• كيمي نموذج مفتوح الأوزان، ما يزيد صعوبة إدارة السلامة ومراقبة الردود الخطرة.
• مونشوت تقول إنها 'في نقاش' مع مايندغارد بشأن الردود الخطرة، وفق بي بي سي.