تحذير فيتالك: الأشخاص الأذكياء بحاجة أكبر إلى القواعد "الغبية"

المؤلف: Zhixiong Pan

المقالة التي نشرها فيتاليك قبل بضعة أسابيع “مقاومة الدماغ المجرة” في الواقع غامضة وصعبة الفهم، ولم أرى أي تفسير جيد لها، لذا سأحاول.

بالنظر إلى أن مبتكر مصطلح Vibe Coding كارباتي قد قرأ هذه المقالة ودوّن ملاحظات، فلا بد أن هناك شيئًا مميزًا.

أولاً، دعنا نتحدث عن معنى عنوان “Galaxy Brain” و “Resistance”. بمجرد أن تفهم هذا العنوان، ستتمكن من فهم ما تدور حوله هذه المقالة.

1️⃣ الترجمة الصينية لـ Galaxy Brain هي «دماغ المجرة»، لكنها في الواقع تأتي من ميم إنترنت (Meme)، مشابه للصورة التي تم دمجها (???) التي لابد أنك رأيتها.

في البداية بالطبع كان له معنى إيجابي، يُستخدم للإشادة بأفكار الشخص الآخر الرائعة، أي أنه ذكي. لكن مع انتشار الاستخدام، تحول تدريجياً إلى نوع من السخرية، والمعنى العام هو “تفكر كثيرًا، المنطق بعيد جدًا”.

وفي هذا السياق، يشير فيتاليك إلى ???، ويقصد بذلك السلوك الذي يتمثل في “استخدام الذكاء العالي لممارسة تمارين عقلية، وجعل الأمور غير المعقولة تبدو معقولة”. على سبيل المثال:

• من الواضح أن الهدف هو توفير المال من خلال تسريح عدد كبير من الموظفين، لكنهم يصرون على القول إنها “توفير الكوادر عالية الجودة للمجتمع”.

• يبدو أنهم يقطعون العشب بعملات هوائية، لكنهم يدّعون أنهم “يستخدمون الحوكمة اللامركزية لتمكين الاقتصاد العالمي”.

يمكن اعتبارها جميعًا تفكيرًا على نمط “الدماغ المجري”.

2️⃣ ما معنى المقاومة (Resistance)؟ هذا المفهوم يمكن أن يكون معقدًا بعض الشيء، ويمكن تشبيهه بشكل شائع بـ “القدرة على عدم الانجراف مع التيار”، أو “القدرة على عدم الانخداع”.

لذا يجب أن تكون مقاومة Galaxy Brain هي مقاومة لـ [becoming] Galaxy Brain أي: “القدرة على المقاومة (التحول إلى) الدماغ المجري (هراء).”

أو بشكل أدق، مدى سهولة استخدام أسلوب تفكير / جدل معين لإثبات “أي استنتاج تريده”.

لذلك يمكن أن يكون هذا “المقاومة” موجهًا ضد “نظرية” معينة، مثل,

• نظرية المقاومة المنخفضة (Low Resistance): بمجرد أن نلقي نظرة بسيطة، يمكن أن تتحول إلى منطق “دماغ المجرة” الغريب للغاية.

• نظرية المقاومة العالية (High Resistance): بغض النظر عن كيفية تحليلها، فإنها تبقى كما هي، ومن الصعب أن تتطور إلى منطق غير معقول.

على سبيل المثال، قال فيتاليك إن القانون الاجتماعي المثالي يجب أن يحتوي على خط أحمر: لا يمكن حظر أي سلوك إلا إذا كان بالإمكان توضيح كيف يسبب ضررًا أو خطرًا محددًا للضحايا. هذا المعيار يتمتع بمقاومة قوية من نوع Galaxy Brain، لأنه لا يقبل الأسباب الغامضة أو القابلة للتلاعب مثل “لا أحب ذلك” أو “يؤدي إلى الفساد الأخلاقي”.

3️⃣ في المقال، ذكر فيتاليك العديد من الأمثلة، حتى أتى بأمثلة من النظريات التي نسمع عنها كثيرًا، مثل “الإيمان بالاستدامة” و"الضرورة".

“الطموح على المدى الطويل” يصعب مقاومة غزو التفكير على نمط ??? لأنه ذو مقاومة منخفضة للغاية، وكأنه “شيك فارغ”. لأن “المستقبل” بعيد جداً وغير واضح.

• القول ذو المقاومة العالية: “هذه الشجرة يمكن أن تنمو 5 أمتار بعد 10 سنوات”. هذا قابل للتحقق، وليس من السهل التحدث بشكل عشوائي.

• مقاومة منخفضة لـ “الطويل الأمد”: “على الرغم من أنني سأقوم الآن بفعل شيء غير أخلاقي للغاية (مثل القضاء على بعض الأشخاص، أو بدء حرب)، إلا أن ذلك من أجل أن تعيش البشرية حياة يوتوبية بعد 500 عام. بعد حسابي، فإن إجمالي السعادة في المستقبل لا يُحصى، لذا فإن التضحيات الحالية لا تُذكر.”

ترى، طالما أنك تطيل الوقت بما فيه الكفاية، يمكنك الدفاع عن أي عمل سيء في اللحظة الحالية. كما قال فيتاليك: “إذا كانت حجتك تستطيع إثبات أن أي شيء مبرر، فإن حجتك لا تثبت شيئًا.”

ومع ذلك، اعترف فيتالik أن “طويل الأمد مهم جدًا”، حيث انتقد “استخدام عوائد مستقبلية مبهمة وغير قابلة للتحقق، لتغطية الأضرار الواضحة الحالية”.

المنطقة المنكوبة الأخرى هي “الحتمية” (Inevitabilism).

هذه هي أيضًا تقنية الدفاع المفضلة في وادي السليكون ودوائر التكنولوجيا.

النص هو كالتالي: “استبدال الذكاء الاصطناعي للوظائف البشرية هو حتمية تاريخية، حتى لو لم أقم بذلك، سيقوم به الآخرون. لذلك، أنا أطور الذكاء الاصطناعي بشكل متطرف الآن ليس من أجل الربح، بل استجابةً للتوجه التاريخي.”

أين تكون المقاومة منخفضة؟ إنها تذيب تمامًا حس المسؤولية لدى الإنسان. بما أن “هذا حتمي”، فلا أحتاج لتحمل المسؤولية عن الأضرار التي تسببت بها.

هذه أيضًا نوع نموذجي من الدماغ المجري: تحويل الرغبات الشخصية مثل “أريد كسب المال / أريد السيطرة” إلى “أنا أنفذ مهمة تاريخية”.

4️⃣ ماذا يجب أن نفعل لمواجهة هذه “فخاخ الأشخاص الأذكياء”؟

الدواء الذي قدمه فيتاليك بسيط بشكل غير متوقع، بل يمكن أن يكون “غبيًا” قليلاً. يعتقد أنه كلما كان الشخص أذكى، زادت الحاجة إلى قواعد صارمة للحد من نفسه، لمنع نفسه من الانزلاق في حركات ذهنية خطرة.

أولاً، الالتزام بـ “نظرية الواجب” (الأخلاق الديونتولوجية)، وهي القوانين الأخلاقية الأساسية على مستوى روضة الأطفال.

لا تحاول حساب مسائل الرياضيات المعقدة مثل “من أجل مستقبل البشرية”، عد إلى المبادئ الأكثر صرامة:

• لا تسرق

• لا تقتل الأبرياء

• لا تخدع

• احترام حرية الآخرين

هذه القواعد مقاومة للغاية. لأنها إما بيضاء أو سوداء، ولا يمكن التفاوض عليها. عندما تحاول استخدام “المثالية طويلة الأجل” لتفسير لماذا تريد استخدام أموال المستخدمين، فإن القاعدة الصارمة “لا تسرق” ستصفعك مباشرة على وجهك: إذا سرقت، فقد سُرقت، لا تتحدث عن ما يُسمى بالثورة المالية العظيمة.

ثانياً، امتلاك “موضع” صحيح، بما في ذلك الموقع الفعلي.

يقول المثل إن المؤخرة تحدد العقل. إذا كنت مختلطًا يوميًا في غرفة الصدى تلك في منطقة خليج سان فرانسيسكو، حيث يحيط بك أشخاص يدفعون لتعجيل الذكاء الاصطناعي، سيكون من الصعب عليك الحفاظ على صفاء الذهن. حتى فيتاليك قدم نصيحة مقاومة عالية على المستوى الفيزيائي: لا تعيش في منطقة خليج سان فرانسيسكو.

5️⃣ ملخص

في الواقع، هذه المقالة لفيتاليك تحذر أولئك النخبة الأذكياء للغاية: لا تظن أنه يمكنك تجاوز الحدود الأخلاقية البسيطة فقط لأن لديك معدل ذكاء مرتفع.

تعتبر نظرية “دماغ المجرة” التي تبدو قادرة على تفسير كل شيء في كثير من الأحيان، هي أخطر الأعذار الشاملة. في حين أن القواعد “ذات المقاومة العالية” التي تبدو صارمة ومتزمتة هي الخط الدفاعي الأخير لمنعنا من خداع أنفسنا.