تم الكشف عن نموذج Q * الجديد الغامض من OpenAI!يقال إنه قوي للغاية وقد يدمر البشرية؟

** المؤلف: شياويان **

المحرر: الغيوم البيضاء

كما يقول المثل ، لم يتم تسوية الموجة ، والموجة ترتفع.

انتهت أخيرا دراما قتال القصر في OpenAI بعد عدة انتكاسات. فقط عندما اعتقد المتفرجون أن OpenAI سوف يتلاشى أخيرا ويعود إلى الهدوء ، لم تستطع عاصفة جديدة الانتظار حتى تبدأ.

وفقا لرويترز ، قبل إقالة سام ألتمان مباشرة ، أرسل العديد من الباحثين رسالة تحذير إلى مجلس الإدارة. من المحتمل أن يكون محتوى خطاب التحذير هذا هو الدافع الحقيقي للحادث بأكمله. وفقا لرسالة التحذير ، فإن طراز الذكاء الاصطناعي من الجيل التالي المسمى داخليا Q \ * (ينطق Q Star) قوي جدا ومتقدم بحيث لا يمكن تطويره ، ولكن ما مدى قوته وتقدمه؟

وزعيم Q \ * هو إيليا سوتسكيف ، كبير علماء OpenAI ، وهو أيضا شخصية كانت دائما على أعتاب معركة القصر.

ربط الجميع كل هذا بشكل طبيعي ب “تمرد” OpenAI قبل بضعة أيام ، ولم يسعهم إلا أن يجدوا أن هذه كانت دراما رائعة للغاية.

موديل جديد Q*، ما هو بالضبط؟

حتى الآن ، ليس لدى OpenAI تفاصيل رسمية حول Q \ * ، دعنا نحاول تجميعها معا وفقا للمعلومات الموجودة على الإنترنت لفهم ما هو Q \ * بالضبط.

Q* ، المعروف أيضا باسم Q Star. تجدر الإشارة إلى أنه على الرغم من أنه في مجال التعلم العميق ، يتم حل المنتج بين الكتل ، ولكن في Q \ * ليس هذا هو الحال ، فهو يرمز فقط إلى “نجمة”.

في مجال الذكاء الاصطناعي ، فإن Q ذات الصلة هي في الأساس Q Learning. ولد المفهوم الأساسي لتعلم Q لأول مرة في عام 1989. ** في عام 2013 ، قدمت DeepMind خوارزمية تسمى Deep Q Learning من خلال تحسين طريقة تعلم Q. الميزة الأكثر تميزا لتعلم Q العميق هي استخدام إعادة تشغيل التجربة ، أي أخذ العينات من نتائج متعددة في الماضي ، ثم استخدام تعلم Q ، وذلك لتحسين استقرار النموذج وتقليل خطر أن يكون اتجاه التدريب للنموذج متباينا للغاية بسبب نتيجة معينة. **

لفترة طويلة ، لم يكن البحث في تعلم Q بارزا جدا ، لذا فإن المفهوم مناسب نسبيا. لكن تعلم Q لعب دورا مهما للغاية في تطوير DQN. يشير DQN إلى شبكة Deep Q ، التي ولدت من تعلم Q العميق. فكرة DQN هي بالضبط نفس فكرة تعلم Q ، ولكن عملية إيجاد أقصى قيمة مكافأة في تعلم Q تتحقق بواسطة الشبكات العصبية. هذا هو المكان الذي يتعلق الأمر بالفرق.

ما شرحناه أعلاه هو ما يمثله الحرف “Q” ، فماذا يعني “*”؟

نظرا لأن OpenAI ليس لديه تفسير رسمي ، يمكن للجميع التكهن به فقط. ومع ذلك ، يعتقد العديد من المتخصصين في هذا المجال أن “*” تعني خوارزمية A \ *. مبدأ التشغيل لما يسمى خوارزمية A \ * هو أولا تقدير قيمة تقريبية من خلال خوارزمية إرشادية (أي التقييم) ، والتي من المحتمل أن تنحرف بشكل كبير عن الحل الإيجابي. بمجرد اكتمال التقدير ، تبدأ الحلقة في العبور ، وإذا لم تكن هناك طريقة لحلها ، يتم إعادة تقييمها حتى يبدأ الحل في الظهور. يتكرر هذا للوصول أخيرا إلى أفضل حل. هذه الخوارزمية تستغرق وقتا طويلا ولا يمكن تشغيلها إلا في بيئة معملية.

من خلال الشرح أعلاه ، يجب أن يكون لدى الجميع فهم أولي ل “Q” و “\ *”. وفقا لإجماع الدائرة الذكاء الاصطناعي ، فإن المظهر الأكثر احتمالا ل OpenAI’s Q هو استخدام Q learning للعثور بسرعة على تقييم الحل شبه الأمثل ، ثم استخدام خوارزمية A * لحلها في نطاق صغير ، وذلك لتوفير الكثير من عمليات الحساب التي لا معنى لها ، وذلك للعثور بسرعة على أفضل حل.

** سؤال غير متوقع ، هل سيكون قويا جدا ويهدد البشرية؟

أما بالنسبة للسؤال غير المتوقع ، فإن تركيز الجميع هو نفسه بشكل أساسي: أين هو البحث والتطوير ، وهل سيهدد البشرية؟

والسبب في هذا القلق هو أن إطلاق Q مرتبط بتصريحات سام ألتمان السابقة في قمة أبيك. في ذلك الوقت ، قال ألتمان ، “لقد مر OpenAI أربع مرات في تاريخه ، وكان آخرها في الأسابيع القليلة الماضية ، عندما تجاوزنا حجاب الجهل ووصلنا إلى حدود الاكتشاف ، كنت في الغرفة ، وهو أعلى شرف في مسيرتي المهنية.” يعتقد الكثير من الناس أن “الأحدث” يشير إلى Q \ *.

وإيليا سوتسكيف ، الذي قال أيضا في مقابلة قبل بضعة أسابيع ، “دون الخوض في الكثير من التفاصيل ، أريد فقط أن أقول إنه يمكن التغلب على قيود البيانات ويمكن أن يستمر التقدم”.

بناء على المعلومات الواردة أعلاه ، تم تحليل أن Q \ * يحتوي حاليا على ميزتين أساسيتين على الأقل. الأول هو اختراق قيود البيانات البشرية وإنتاج بيانات ضخمة في حد ذاته ، والثاني هو امتلاك القدرة على التعلم والتحسين بشكل مستقل. النقطة 2 ، على وجه الخصوص ، تعتبر تهديدا للبشرية.

ولكن في هذا الصدد ، يقدم بعض المتخصصين في هذا المجال آراء مختلفة. يعتقد يان ليكون ، كبير علماء الذكاء الاصطناعي في Meta ، أن Q \ * هي محاولة تخطيط من قبل OpenAI ، ولا يعني أنها حققت بعض الاختراقات. تدرس أفضل المختبرات مثل FAIR و DeepMind و OpenAI هذا الأمر لفترة طويلة. إنها ليست أخبارا جديدة ، فهي تشبه الأرز البارد المقلي.

من هذا ، ليس من الصعب العثور على أنه مقارنة بالتقدم الذي أحرزته Q \ * حتى الآن ، يبدو أن تأثير الرأي العام الذي جلبه هذا الحادث إلى OpenAI أكبر.

“هل سيشكل الذكاء الاصطناعي خطرا وجوديا على البشرية” - السؤال هو دائما مدعاة للقلق. **

يمكننا أن نضحك على الضجيج والقيل والقال ، لكن الحقيقة القاتمة هي أن الضجيج العرضي سيجعل الناس أقل يقظة بشأن الذكاء الاصطناعي ، وسوف يصرف انتباه الناس عن المشاكل التي يمكن أن تسببها الذكاء الاصطناعي ، والمشاكل التي تسببت الذكاء الاصطناعي بالفعل.

ما إذا كان الذكاء الاصطناعي يشكل خطرا وجوديا على البشرية سيكون سيف ديموقليس الذي سيعلق دائما فوق رأس البشرية. ليست الشركات المهنية فقط مثل OpenAI هي التي تحتاج إلى توخي الحذر من “أعمال الشغب الذكاء الاصطناعي” ، يجب أن تكون البشرية جمعاء متيقظة حيال ذلك. على سبيل المثال، صمم مجلس إدارة OpenAI “مفاتيح قتل داخلية وآليات حوكمة” لمنع إدخال التقنيات الضارة. مثال آخر هو أن الاتحاد الأوروبي على وشك الانتهاء من قانون شامل للذكاء الاصطناعي. واحدة من أكبر المناقشات بين المشرعين في الوقت الحالي هي ما إذا كان سيتم منح شركات التكنولوجيا مزيدا من القوة للتنظيم الذاتي لنماذج الذكاء الاصطناعي المتطورة.

بمجرد أن نسمح للأنظمة الذكاء الاصطناعي بتحديد أهدافها الخاصة والبدء في التفاعل مع العالم المادي أو الرقمي الحقيقي بطريقة ما ، فمن المحتمل أن تنشأ مشكلات أمنية. لن يغيب الضجيج أبدا ، وستجعل الشركات التجارية دائما “إعطاء الأولوية لمصالحها الخاصة” كهدف أساسي. في هذه الحالة ، نحتاج إلى القدرة على رؤية الجوهر من خلال الظاهرة ، وفهم الذكاء الاصطناعي ، والانتباه إلى الذكاء الاصطناعي ، واليقظة ضد الذكاء الاصطناعي.