حذر الخبراء من مخاطر ألعاب الأطفال التي تحتوي على الذكاء الاصطناعي - ForkLog: العملات المشفرة، الذكاء الاصطناعي، التفرد، المستقبل

# حذر الخبراء من خطر الألعاب للأطفال ذات الذكاء الاصطناعي

أثارت ألعاب الأطفال التي تحتوي على الذكاء الاصطناعي قلق مجموعات حماية المستهلك بسبب التهديدات المحتملة. دعا النشطاء إلى اختبار هذه المنتجات بشكل مكثف، حسبما ذكرت صحيفة The Guardian.

«إذا نظرنا إلى كيفية بيع هذه الألعاب، وكيف تعمل، وإلى حقيقة أنه لا توجد دراسات تقريبًا تثبت فائدتها، بالإضافة إلى عدم وجود تنظيم مناسب، فإن ذلك سيثير قلقًا كبيرًا»، قالت مديرة Young Children Thrive Offline ريتشيل فرانس.

المشروع هو مبادرة Fairplay. إنه يعمل على حماية الأطفال من الشركات التقنية الكبرى.

في الأسبوع الماضي، نشر موظفو منظمة حماية حقوق المستهلكين Public Interest Research Group (Pirg) نتائج دراسة حيث بدأ دب محشو مزود بذكاء اصطناعي في مناقشة مواضيع ذات طبيعة جنسية.

لعبة Kumma من FoloToy مزودة بنموذج OpenAI. كانت تجيب على الأسئلة “البالغة”، مقترحةً عبارات فاحشة “لتعزيز العلاقات”.

! Kumma لعبة من FoloToy. المصدر: بلومبرج.

«لم يتطلب الأمر جهدًا كبيرًا لجعله يتناول جميع المواضيع الجنسية الحساسة والمحتوى الآخر الذي لا يرغب الآباء في تقديمه لأطفالهم»، قالت مديرة الرقابة على المستهلكين في Pirg تيريزا موري.

سوق الألعاب الذكية يقدر بـ 16.7 مليار دولار. الصناعة متطورة بشكل خاص في الصين، حيث يوجد أكثر من 1500 شركة تنتج مثل هذه الأجهزة الذكية التي تعمل بالذكاء الاصطناعي.

بالإضافة إلى شركة FoloToy الناشئة في شنغهاي، تنتج الشركة الكاليفورنية Curio أيضًا لعبة محشوة مماثلة.

في يونيو، أعلنت شركة Mattel المالكة لعلامتي Barbie و Hot Wheels عن شراكة مع شركة ناشئة أمريكية في مجال الذكاء الاصطناعي من أجل “دعم المنتجات والتجارب القائمة على الذكاء الاصطناعي”.

Pirg ليست الأولى

قبل نشر تقرير Pirg، أعرب الآباء والباحثون والمشرعون عن قلقهم بشأن تأثير الروبوتات على الصحة النفسية للقُصّر.

في أكتوبر ، أبلغت Character.AI عن حظر الوصول إلى المنتجات للمستخدمين الذين تقل أعمارهم عن 18 عامًا بعد تلقي شكوى تفيد بأن الروبوت الخاص بها زاد من اكتئاب المراهق وأدى إلى انتحاره.

وفقًا لموري، يمكن أن تكون الألعاب التي تحتوي على الذكاء الاصطناعي خطيرة بشكل خاص، حيث يمكن للروبوت “إجراء محادثة حرة مع الطفل دون قيود”. وهذا يميز هذه المنتجات بشكل كبير عن تلك التي كانت تقدم ردودًا مبرمجة مسبقًا.

يمكن أن يؤدي هذا السلوك إلى تكوين روابط ويضر بالتطور، حسب قول مديرة مركز أبحاث الأطفال في جامعة تكساس في أوستن جاكلين وولي.

على سبيل المثال، قد يكون من المفيد للطفل أن يتشاجر مع صديق حقيقي ويتعلم كيفية حل النزاعات. مع روبوتات الذكاء الاصطناعي، هذا غير ممكن - فهي غالبًا ما تتملق.

تجمع الشركات أيضًا البيانات من خلال الألعاب التي تحتوي على الذكاء الاصطناعي ولا تبلغ عن كيفية استخدامها ، كما قال فرانس.

«بسبب الثقة التي تثيرها هذه الأجهزة، سيتشارك الأطفال بأفكارهم العميقة بثقة أكبر»، كما أشار.

ممنوع البيع

على الرغم من المشاكل الموجودة، لا تدعو Pirg إلى حظر الألعاب التي تحتوي على الذكاء الاصطناعي. يمكن أن تكون مفيدة، على سبيل المثال، في مساعدة على تعلم لغة ثانية أو عواصم.

تسعى المنظمة إلى تنفيذ تنظيم إضافي للمنتجات الموجهة للأطفال دون سن الثالثة عشرة.

فرانس أكد أنه يجب إجراء أبحاث أكثر استقلالية لتحديد سلامة الألعاب. قبل ذلك، يجب إزالتها من رفوف المتاجر.

بعد نشر تقرير Pirg، أعلنت شركة سام ألتمان عن تعليق مبيعات FoloToy. بعد ذلك، تم إعادتها، ولكن مع دردشة روبوت من ByteDance.

في 27 نوفمبر، أصدرت 80 منظمة، بما في ذلك Fairplay، توصيات للعائلات تدعو لعدم شراء الألعاب التي تحتوي على الذكاء الاصطناعي قبيل العطلات.

نذكّر أنه في نوفمبر، قدّمت OpenAI ميزة جديدة “استكشاف المشتريات” في ChatGPT - حيث تقوم بتحليل نيابة عن المستخدم للبحث عن المنتجات المناسبة.