يحث الخبراء على الحذر في تطوير أنظمة الذكاء الاصطناعي الواعية

أكثر من 100 خبير في الذكاء الاصطناعي، من بينهم السير ستيفن فراي، طالبوا بإجراء بحوث مسؤولة حول وعي الذكاء الاصطناعي. يؤكدون على ضرورة منع المعاناة المحتملة في أنظمة الذكاء الاصطناعي إذا وصلت إلى مستوى الوعي الذاتي.

خمسة مبادئ توجيهية لبحوث وعي الذكاء الاصطناعي

يقترح الموقعون خمسة مبادئ لتوجيه التطوير الأخلاقي لأنظمة الذكاء الاصطناعي الواعية:

2.      

**إعطاء الأولوية للبحث في وعي الذكاء الاصطناعي:** التركيز على فهم وتقييم الوعي في الذكاء الاصطناعي لمنع سوء المعاملة والمعاناة.

    
4.      

**تطبيق قيود على التطوير:** وضع حدود واضحة لضمان تطوير أنظمة الذكاء الاصطناعي الواعية بمسؤولية.

    
6.      

**اعتماد نهج تدريجي:** التقدم تدريجيًا في تطوير الذكاء الاصطناعي الواعي، مع السماح بالتقييم الدقيق في كل مرحلة.

    
8.      

**تعزيز الشفافية العامة:** مشاركة نتائج الأبحاث مع الجمهور لتعزيز الحوار المستنير والرقابة الأخلاقية.

    
10.      
 
 **تجنب الادعاءات المبالغ فيها:** الامتناع عن إصدار تصريحات مضللة أو مفرطة الثقة حول إنشاء ذكاء اصطناعي واعٍ.

تهدف هذه المبادئ إلى ضمان أن تظل الاعتبارات الأخلاقية في مقدمة تطور تكنولوجيا الذكاء الاصطناعي.

المخاطر المحتملة للذكاء الاصطناعي الواعي

تسلط الورقة البحثية المصاحبة الضوء على إمكانية أن يتم تطوير أنظمة ذكاء اصطناعي تمتلك، أو تظهر أنها تمتلك، الوعي في المستقبل القريب. وهذا يثير مخاوف بشأن المعاملة الأخلاقية لهذه الأنظمة.

يحذر الباحثون من أنه بدون إرشادات مناسبة، هناك خطر من إنشاء كيانات واعية قادرة على تجربة المعاناة.

كما تتناول الورقة تحدي تعريف الوعي في أنظمة الذكاء الاصطناعي، مع الاعتراف بالنقاشات المستمرة والشكوك. وتؤكد على أهمية وضع إرشادات لمنع إنشاء كيانات واعية بشكل غير مقصود.

اكتشف أهم أخبار وفعاليات التكنولوجيا المالية!

اشترك في النشرة الإخبارية لـ FinTech Weekly

الاعتبارات الأخلاقية والتداعيات المستقبلية

إذا تم الاعتراف بنظام ذكاء اصطناعي كـ “مريض أخلاقي” — كيان يهم أخلاقيًا من أجل ذاته — تظهر أسئلة أخلاقية حول معاملته.

على سبيل المثال، هل سيكون إيقاف تشغيل مثل هذا الذكاء الاصطناعي مماثلاً لإيذاء كائن حساس؟ تبرز هذه الاعتبارات الحاجة إلى أطر أخلاقية توجه تطوير الذكاء الاصطناعي.

تم تنظيم الورقة والرسالة بواسطة Conscium، وهي منظمة بحثية شارك في تأسيسها كبير مسؤولي الذكاء الاصطناعي في WPP، دانيال هولم. تركز Conscium على تعميق فهم بناء ذكاء اصطناعي آمن يفيد البشرية.

وجهات نظر الخبراء حول وعي الذكاء الاصطناعي

كان سؤال تحقيق الذكاء الاصطناعي للوعي موضوع نقاش بين الخبراء.

في عام 2023، صرح السير ديميس هاسابيس، رئيس برنامج الذكاء الاصطناعي في جوجل، بأنه على الرغم من أن أنظمة الذكاء الاصطناعي الحالية ليست واعية، إلا أن هناك احتمال أن تكون في المستقبل. أشار إلى أن الفلاسفة لم يتفقوا بعد على تعريف للوعي، لكن إمكانية تطور الذكاء الاصطناعي لذات وعي لا تزال موضوعًا للنظر.

الخلاصة

احتمال تطوير أنظمة واعية يتطلب اعتبارًا أخلاقيًا دقيقًا. تعتبر الرسالة المفتوحة والورقة البحثية المصاحبة دعوة لاتخاذ إجراءات من قبل مجتمع الذكاء الاصطناعي لإعطاء الأولوية للبحوث والممارسات التطويرية المسؤولة.

من خلال الالتزام بالمبادئ المقترحة، يمكن للباحثين والمطورين العمل على ضمان أن يتم تحقيق تقدمات في الذكاء الاصطناعي بشكل أخلاقي، مع التركيز على منع المعاناة المحتملة في أنظمة الذكاء الاصطناعي الواعية.