فخ الأذكياء: لماذا يريدنا فيتاليك أن نتمسك بـ «قاعدة الغباء»

العنوان الأصلي: فخ الأذكياء: لماذا يريدنا فيتاليك أن نتمسك بـ “قاعدة الغباء”

المؤلف الأصلي: Zhixiong Pan

المصدر الأصلي:

إعادة نشر: أخبار المريخ

المقالة التي نشرها فيتاليك قبل بضعة أسابيع بعنوان “مقاومة الدماغ المجري” في الواقع صعبة الفهم إلى حد ما، ولم أرَ تفسيرات جيدة لها، لذا سأجرب.

بالطبع، بما أن كارباثي، مبتكر مصطلح Vibe Coding، قرأ هذه المقالة ودوّن ملاحظات، فلا بد أن هناك شيئًا مميزًا.

أولاً دعنا نتحدث عن معنى عنوان “Galaxy Brain” و “Resistance”، بعد تفسير هذا العنوان، ستتمكن من فهم ما تدور حوله هذه المقالة.

1、ترجمة Galaxy Brain إلى الصينية هي “银河大脑”، لكنها في الواقع تأتي من ميم إنترنت (Meme)، مشابه لصورة تجمع بين (المجرة والدماغ)، والتي بالتأكيد رأيتها.

في البداية، كان ذلك بالطبع تعبيرًا إيجابيًا، يُستخدم لمدح أفكار الشخص الآخر بأنها رائعة، أي ذكية. لكن مع انتشار استخدامه، تحول تدريجياً إلى نوع من السخرية، والمعنى العام هو “تفكر كثيرًا، والمنطق بعيد جدًا.”

وفي هذا السياق، يشير فيتاليك إلى “غالبية العقل”، وهو مصطلح يحدد سلوك “استخدام الذكاء العالي لممارسة التفكير، وتحويل الأمور غير المنطقية إلى أمور منطقية”. على سبيل المثال:

• من الواضح أن الهدف هو تقليص عدد الموظفين لتوفير المال، لكنهم لا يريدون الاعتراف بأن الأمر يتعلق بـ “تزويد المجتمع بمواهب عالية الجودة”.

• من الواضح أنه يبيع عملة هوائية ويقطع العشب، لكنه يدعي أنه “يستخدم الحوكمة اللامركزية لتمكين الاقتصاد العالمي”.

يمكن اعتبارها جميعًا تفكيرًا على طراز “العقل المجري”.

2、ما معنى Resistance (المقاومة)؟ هذا المفهوم يمكن أن يكون محيرًا جدًا، يمكن تشبيهه بعبارة شائعة بأنها «قدرة على مقاومة التأثيرات» أو «قدرة على عدم الانخداع».

لذا يجب أن يكون Galaxy Brain Resistance هو Resistance to [becoming] Galaxy Brain أي: “قدرة على المقاومة (التحول إلى) دماغ المجرة (هراء).”

أو بعبارة أدق، يتعلق الأمر بمدى سهولة استخدام أسلوب تفكير / حجة معين للإفراط في استخدامه “لإثبات أي استنتاج تريده”.

لذا يمكن أن يكون هذا “المقاومة” موجهًا ضد “نظرية” معينة، مثل,

• نظرية المقاومة المنخفضة (Low Resistance): بمجرد إحكام التدقيق، يمكن أن تتطور إلى منطق “دماغ المجرة” الغريب للغاية.

• نظرية المقاومة العالية (High Resistance): بغض النظر عن كيف تفكر فيها، فإنها تبقى كما هي، ومن الصعب أن تتحول إلى منطق غير معقول.

على سبيل المثال، قال فيتاليك إن القوانين الاجتماعية المثالية يجب أن تحتوي على خط أحمر: لا يمكن حظر سلوك ما إلا عندما يمكن توضيح كيف يسبب هذا السلوك ضررًا أو خطرًا لمستفيد معين. هذا المعيار لديه مقاومة Galaxy Brain لأنه لا يقبل “أنا لا أحب ذلك” أو “يؤذي الأخلاق” كأسباب غير محدودة أو غامضة.

3، ذكر فيتاليك في المقال العديد من الأمثلة، حتى استخدم نظريات نسمعها غالبًا كمثال، مثل “الطويلة الأجل” و “الحتمية”.

من الصعب مقاومة تآكل التفكير على غرار “Galaxy Brain” من خلال “النهج طويل الأجل”، لأن مقاومته منخفضة للغاية، وكأنها “شيك على بياض”. لأن “المستقبل” بعيد جداً وغامض.

• قول مقاوم عالي: «هذه الشجرة يمكن أن تنمو 5 أمتار بعد 10 سنوات». هذا قابل للتحقق، وليس من السهل التلاعب به.

• “المدى الطويل” منخفض المقاومة: "على الرغم من أنني سأفعل شيئا غير أخلاقي للغاية الآن (مثل تطهير بعض الناس أو بدء حرب) ، إلا أنه حتى تتمكن البشرية من عيش حياة طوباوية في غضون 500 عام. بعد حساباتي ، فإن المقدار الإجمالي للسعادة في المستقبل لا نهائي ، لذا فإن التضحية في الوقت الحاضر لا تكاد تذكر ".

انظر، طالما أنك تجعل الوقت طويلا بما فيه الكفاية، يمكنك الدفاع عن أي عمل سيء في الوقت الحالي. كما قال فيتالك: “إذا كان بإمكان حجتك إثبات أن أي شيء مبرر، فإن حجتك لا تثبت أي شيء.”

ومع ذلك، اعترف فيتاليك بأن “المدى الطويل مهم”، وانتقد “استخدام عوائد مستقبلية مبهمة وغير قابلة للتحقق للتغطية على الأضرار الواضحة الحالية.”

المنطقة المنكوبة الأخرى هي “الحتمية” (Inevitabilism).

هذه أيضًا هي التقنية الأكثر استخدامًا في وادي السيليكون ودوائر التكنولوجيا للدفاع عن النفس.

الخطاب هو كالتالي: “استبدال الذكاء الاصطناعي للوظائف البشرية هو أمر حتمي تاريخيًا، حتى لو لم أقم بذلك، سيفعل الآخرون. لذا، فإنني أطور الذكاء الاصطناعي بشكل جذري الآن ليس من أجل الربح، ولكن لمواكبة الاتجاه التاريخي.”

أين تكون المقاومة منخفضة؟ إنها تذوب تمامًا شعور الشخص بالمسؤولية. بما أن الأمر “حتمي”، فلا حاجة لي لتحمل المسؤولية عن الأضرار التي تسببت فيها.

هذه أيضًا نوع من العقول المجرة النموذجية: تحويل الرغبات الشخصية “أريد جني المال / أريد السيطرة” إلى “أنا أنفذ مهمة تاريخية”.

4، ماذا يجب أن نفعل في مواجهة هذه “فخاخ الأشخاص الأذكياء”؟

العلاج الذي قدمه فيتاليك بسيط بشكل غير متوقع، وحتى يبدو «غبيًا» بعض الشيء. يعتقد أنه كلما كان الشخص أكثر ذكاءً، كلما احتاج إلى قواعد صارمة للحد من نفسه، لمنع نفسه من الانزلاق في ألعاب العقل.

أولاً، الالتزام بـ “الأخلاق المعيارية” (Deontological Ethics)، أي القوانين الأخلاقية الأساسية على مستوى رياض الأطفال.

لا تحاول حساب المعادلات الرياضية المعقدة لـ"من أجل مستقبل البشرية"، عد إلى المبدأ الأكثر صرامة:

• لا تسرق

• لا تقتل الأبرياء

• لا تخدع

• احترم حرية الآخرين

هذه القواعد مقاومة للغاية. لأنها إما بيضاء أو سوداء، ولا يمكن التفاوض عليها. عندما تحاول استخدام “المثالية طويلة الأجل” لشرح لماذا تقوم بتحويل أموال المستخدمين، ستضربك هذه القاعدة الصارمة “لا تسرق” على وجهك مباشرة: السرقة هي السرقة، لا تتحدث عن الثورة المالية العظيمة.

ثانياً، امتلاك “الموقع” الصحيح، بما في ذلك الموقع الفعلي.

يقول المثل “الجزء السفلي يحدد العقل”. إذا كنت تتواجد يوميًا في غرفة صدى تلك في منطقة خليج سان فرانسيسكو، حيث يحيط بك الأشخاص الذين يروجون لسرعة الذكاء الاصطناعي، سيكون من الصعب عليك أن تبقى واعيًا. حتى فيتاليك قدم نصيحة مقاومة عالية على مستوى الفيزياء: لا تعيش في منطقة خليج سان فرانسيسكو.

5، ملخص

في الواقع، هذه المقالة لفيتاليك هي تحذير لأولئك النخبة الأذكياء بشكل استثنائي: لا تعتقد أنه يمكنك تجاوز الحدود الأخلاقية البسيطة بسبب ارتفاع نسبة ذكائك.

تلك النظريات التي تبدو قادرة على تفسير كل شيء، مثل “نظرية الدماغ المجري”، غالبًا ما تكون أخطر الأعذار الشاملة. بدلًا من ذلك، فإن القواعد “ذات المقاومة العالية” التي تبدو جامدة ودوغمائية، هي آخر خط دفاع لمنع خداع أنفسنا.