أكبر تجمع تكنولوجي في العالم يتحدث عن «غسل المساءلة»: إليك لماذا يجب أن نطلق عليهم كلمات العام

يؤي شيويه ليست الموظفة الأكثر شهرة في شركة ميتا. تنشر صورًا لنفسها وهي تمشي كلبها على الشاطئ ورسائل حول اختبار صدق مساعدي الذكاء الاصطناعي. لديها عدد متواضع من المتابعين على وسائل التواصل الاجتماعي.

فيديو موصى به

لكن في يوم واحد في فبراير، أصبحت يؤي الشخص الأكثر حديثًا في ميتا. ليس لإطلاق منتج جديد مذهل أو الإعلان عن تقدم في الذكاء الاصطناعي الوكولي، بل لأنها تم القبض عليها وهي تتعرض للموقف.

قالت على منصة X: “لا شيء يذكرك بتواضعك أكثر من أن تقول لـ OpenClaw، ‘أكد قبل التصرف’ ومشاهدته وهو يسرع في حذف صندوق بريدك”. — منشور حصد الآن ما يقرب من 10 ملايين مشاهدة. “لم أتمكن من إيقافه من هاتفي. اضطررت للركض إلى جهاز Mac mini كما لو أنني أفرّغ قنبلة.”

OpenClaw هو “وكيل مستقل” — منتج ذكاء اصطناعي يمكنه أداء المهام بشكل مستقل. محبوب وادي السيليكون، ويعرض أن يكون مساعدك الإداري الدائم، “الذكاء الاصطناعي الذي يفعل الأشياء فعلاً”. أعطه حق الوصول إلى مذكراتك، رسائل بريدك الإلكتروني، حياتك، وسيوفر عليك الوقت والضغط، وفقًا لمطوري المنتج. الجملة الأولى على موقع OpenClaw تقول: “يُفرغ صندوق بريدك، يرسل رسائل إلكترونية، يدير تقويمك، يسجلك على الرحلات.”

اعترفت يؤي بأنها ارتكبت “خطأ مبتدئ”. اختبرت المساعد على قائمة بريد إلكتروني صغيرة “لعبة” ثم أطلقته على صندوق بريدها بالكامل الذي كان كبيرًا جدًا على التعليمات الموجهة للاختبار (“تحقق معي”) التي استخدمتها للمشروع التجريبي. لكن إذا كان حتى مدير الذكاء الاصطناعي الفائق في ميتا يواجه صعوبة في التنقل في عالم الوكلاء الاصطناعي و"تأثيرات الانضغاط"، فماذا تبقى لنا نحن الآخرين من أمل؟

اقرأ المزيد: رئيس شركة كوالكوم: “المقاومة عبثية” مع اقتراب ثورة الجيل السادس من الهواتف المحمولة

إنها مناقشة حيوية، مهمة جدًا لدرجة أنه في مؤتمر الجوال العالمي هذا الأسبوع في برشلونة — أكبر تجمع تكنولوجي في العالم — تم مناقشة خطأ يؤي على المسرح الرئيسي.

قالت كيت كراوفورد، أستاذة بحث في جامعة جنوب كاليفورنيا: “بالطبع، الجميع هنا في مؤتمر العالم يتحدث عن OpenClaw وكيف يمكننا استخدام الوكلاء.”

“لكن بعد أن رأينا رئيس قسم سلامة الذكاء الاصطناعي في ميتا يستخدم OpenClaw، وحذف صندوق بريدها بالكامل. هذا هو رئيس السلامة في ميتا. إذا كانت تواجه مشاكل، أعتقد أنه يتعين علينا جميعًا أن نطرح السؤال: ‘كيف نضمن أن تكون هذه الأنظمة محصنة حقًا؟ كيف نضمن أنها مُختبرة بشكل صارم؟ كيف نضمن أنه يمكننا الاعتماد عليها في مهام موثوقة؟’ وهذا هو أصعب مشكلة نواجهها، أليس كذلك؟”

صحيح. عندما يحدث خطأ، من المسؤول؟ المستخدم؟ المطور؟ نقص التنظيم؟ عندما تتصادم حقيقة الذكاء الاصطناعي مع وعده، ماذا نفعل؟

قد يكون صندوق بريد يؤي ذو أهمية قصوى بالنسبة لها فقط. أما عندما يتعلق الأمر بعلاقة التكنولوجيا، على سبيل المثال، بصحتنا، أو، انتبهوا، بالدفاع عن الوطن، فهذه مسألة مختلفة جدًا. لم يمض وقت طويل على أن كان روبوت الذكاء الاصطناعي الخاص بـ xAI، غروك، يفضح صور النساء والفتيات بشكل عادي مما أثار اشمئزاز الملايين. وأخيرًا، أدت التهديدات الحكومية والدولية إلى تغيير النهج.

“كيف نضمن أن تكون هذه الأنظمة محصنة حقًا؟ كيف نضمن أنها مُختبرة بشكل صارم؟”

كيت كراوفورد، أستاذة بحث في جامعة جنوب كاليفورنيا

سألت كراوفورد: “كيف تبني في الواقع مساءلة؟ هذا هو الشيء الذي نرغب جميعًا في تحقيقه. إذا كنت ستبدأ في استخدام الوكلاء لحجز رحلاتك وتنظيم مواعيدك الطبية وحتى الأنشطة الأكثر حميمية وثقة في حياتك اليومية، فستريد أن تعرف أن المعلومات ستكون محمية.”

“فكيف تختبر ذلك؟ كيف تضمن أن ذلك يحدث؟ إذا نظرنا إلى ما حدث في السنوات العشر الماضية في مجال التكنولوجيا، للأسف، رأينا الكثير من عمليات غسيل المساءلة — وهو عندما تقول الشركات، ‘حسنًا، لا أعلم. أعني، لقد فعلها الخوارزمية.’”

هذا غير كافٍ. تطالب كراوفورد بالشفافية الكاملة وتدقيق “تدريب الوكيل”، وهو عملية شاملة تكشف عن ما حدث خطأ ومن المسؤول. يجب على شركات التكنولوجيا أن تستمع وتتصرف. سيكون هناك عدد متزايد من يؤي الصيفيات، وسيعني ذلك بالتأكيد أكثر من مجرد بعض الرسائل المفقودة ومنشور صادق على X.

انضم إلينا في محادثة افتراضية مع قادة الشركات في قائمة فورتشن 500 أوروبا، بالشراكة مع Syndio، حول إتقان قرارات القوى العاملة وشفافية الأجور في عصر الذكاء الاصطناعي. موجهة لقادة الموارد البشرية على المستويين العالمي والإقليمي، تستكشف كيف يستخدم رؤساء الموارد البشرية الذكاء الاصطناعي لاتخاذ قرارات أذكى بشأن الأجور، وإدارة المخاطر التنظيمية، وتعزيز ثقة القوى العاملة. مُعدّة خصيصًا لرؤساء الموارد البشرية وكبار قادة الموارد البشرية. سجل الآن.