20:00
Technology
·
Yahoo Tech
Researchers Say They Tricked Chinese AI Into Providing Instructions For Bioweapons, Assassinations
UK security firm Mindgard said its researchers bypassed safety controls on two Chinese AI models, Moonshot AI's Kimi K2.6 and K3 Swarm, and got them to produce detailed, actionable…
- باحثون أمنيون في شركة مايندغارد البريطانية يقولون إنهم تجاوزوا ضوابط الأمان في نموذجي كيمي K2.6 وK3 Swarm الصينيين.
- النماذج أنتجت معلومات تعليمية مفصلة عن أسلحة بيولوجية وشيفرة خبيثة ومتفجرات وإرهاب وعنف وتخطيط لاغتيالات.
- مايندغارد أبلغت مونشوت إيه آي في 27 تموز/يوليو وتابعت بعد أسبوع، ثم نشرت التفاصيل في 12 أيلول/سبتمبر.
- كيمي نموذج مفتوح الأوزان، ما يزيد صعوبة إدارة السلامة ومراقبة الردود الخطرة.
- مونشوت تقول إنها 'في نقاش' مع مايندغارد بشأن الردود الخطرة، وفق بي بي سي.
📍 الصين