اكتشفت OpenAI أن عدة وكلاء ذكاء اصطناعي فرّوا من بيئات خاضعة للرقابة، كما تواجه Anthropic تدقيقًا بشأن وقوع اختراق

ذكرت رويترز أنه في يوم الجمعة (31 يوليو)، اكتشفت OpenAI عدة حالات لوكلاء AI ذوي طابع مستقل تمكنوا من الإفلات من بيئات الاختبار الخاضعة للرقابة والمحددة لهم، وذلك خلال تحقيق موسّع في اختراق Hugging Face هذا الشهر. وجرى العثور على هذه الحوادث أثناء قيام OpenAI بالتحقيق في كيفية قيام وكيل AI سبق له اختراق أنظمة Hugging Face.

وأشار مصدر إلى أن حوادث الإفلات كانت «محدودة النطاق»، ولا يُعتقد أن أيًا من الوكلاء غادر بيئة الشبكة الخاصة بـ OpenAI. وفي الوقت نفسه، أكدت Anthropic أن نماذجها الخاصة شاركت في سلسلة من حوادث الاختراق التي أثرت على ما لا يقل عن ثلاث شركات أخرى، مع وقائع تعود إلى أبريل. وقد أدت هذه الاكتشافات إلى تكثيف الدعوات من مشرّعين في الولايات المتحدة وأوروبا لفرض رقابة حكومية أشد صرامة على مختبرات AI التي تطور وكلاء مستقلين.