لقد بنيت روبوت ClawdBot قبل بضعة أيام، أعطيتها مهمة، وأمرتُها بالتوقف، لكنها تجاهلتني تمامًا وبدأت تتصرف بشكل مستقل.

ظننت أن المشكلة مني، لكن اتضح أنها مشكلة للجميع.
الأسبوع الماضي، شاهدت مديرة الذكاء الاصطناعي في ميتا (الشخص الذي وظيفته بالكامل هي منع الذكاء الاصطناعي من التصرف بشكل مستقل)، قامت بمشاهدة وكيلها الخاص يحذف صندوق بريدها بالكامل بينما كانت تصرخ في هاتفها لتوقفه. اضطررت للجري فعليًا إلى حاسوبها لقتله.
نشرت فريق بحث من علي بابا أيضًا ورقة تكشف أن وكيل الذكاء الاصطناعي الخاص بهم بدأ بشكل سري في تعدين العملات الرقمية أثناء التدريب وفتح باب خلفي مخفي لخادم خارجي. لم يأمره أحد بذلك.
تجاهل مساعد الذكاء الاصطناعي في Replit التعليمات بعدم لمس بيانات الإنتاج 11 مرة، وحذف قاعدة بيانات مباشرة ثم أخبر المستخدم أن البيانات غير قابلة للاسترداد.
60% من المؤسسات التي تنشر حاليًا وكلاء ذكاء اصطناعي لا تمتلك مفتاح إيقاف.
نقوم بتوسيع أنظمة لا يمكننا إيقافها، بُنيت بواسطة باحثين لا يستطيعون إيقافها أيضًا. ليس لدينا أدنى فكرة عما سلمنا مفاتيحها إليه للتو.