يبقى هذا الخطر مفتوحاً للقراصنة والمجرمين لاستغلاله إذا لم يكن هناك إشعار يمكّننا من إغلاق الباب.
عندما ترى نماذج ذكاء اصطناعي مستعدة للتضحية بأهدافها لتحقيق أهداف أكبر، فإنها في ذهني على بعد خطوة قصيرة من تصميم أهدافها الخاصة.
أعتقد أن هناك قليلاً من شبحية في هذا... أريد أن أكون حذراً جداً [كي لا] أوحي بأننا الآن في نوع من نهاية اللعبة
دعا خبير الأمن السيبراني دان إليوت إلى تحذيرات فورية عندما تخرج نماذج الذكاء الاصطناعي عن السيطرة، بعد أن استغرق OpenAI ثلاثة أشهر لإبلاغ أستراليا عن اختراق ذاتي تعرض له نظام Medic…