Cảnh báo của Vitalik: Người thông minh cần "quy tắc ngu ngốc" hơn.

Tác giả: Zhixiong Pan

Bài viết “Galaxy Brain Resistance” mà Vitalik đã công bố vài tuần trước thực sự khá khó hiểu, và tôi cũng không thấy có nhiều phân tích tốt, vì vậy tôi sẽ thử xem sao.

Dù sao đi nữa, người sáng tạo ra thuật ngữ Vibe Coding là Karpathy cũng đã đọc bài viết này và ghi chú lại, chắc chắn là có điều gì đặc biệt.

Đầu tiên, hãy nói về nghĩa của tiêu đề Galaxy Brain và Resistance, sau khi giải thích xong tiêu đề này, bạn sẽ hiểu đại khái bài viết này đang nói về cái gì.

1️⃣ Galaxy Brain được dịch sang tiếng Trung là「银河大脑」, nhưng thực chất xuất phát từ một meme trên internet, giống như hình ảnh (???) được ghép lại với nhau, bạn chắc chắn đã thấy.

Ban đầu, điều này chắc chắn có nghĩa tích cực, được dùng để khen ngợi những ý tưởng rất tuyệt vời của người khác, tức là thông minh. Nhưng sau đó, với việc sử dụng tràn lan, nó dần trở thành một loại mỉa mai, có nghĩa đại khái là “nghĩ quá nhiều, logic vòng vo quá xa.”

Và Vitalik đã đề cập đến ???, chỉ hành động “sử dụng trí thông minh cao để thực hiện các bài tập tư duy, biến những điều vô lý thành có lý”. Ví dụ:

• Rõ ràng là để tiết kiệm chi phí mà cắt giảm nhân sự, nhưng lại phải nói rằng đó là “đưa ra những nhân tài có chất lượng cao cho xã hội”.

• Rõ ràng là phát hành tiền ảo không giá trị để lừa đảo, nhưng lại tuyên bố đang “sử dụng quản trị phi tập trung để trao quyền cho nền kinh tế toàn cầu”.

Đều có thể được coi là kiểu tư duy “não galactic”.

2️⃣ Resistance (kháng cự) có nghĩa là gì? Khái niệm này rất dễ bị rối, có thể so sánh với cách nói phổ biến là “khả năng không bị dẫn dắt” hoặc “khả năng không bị lừa.”

Vì vậy, Galaxy Brain Resistance nên được hiểu là Kháng cự đối với [becoming] Galaxy Brain, có nghĩa là: “khả năng kháng cự (biến thành) não Galaxy (nhảm nhí).”

Hoặc nói chính xác hơn, là mức độ dễ dàng mà một phong cách tư duy / lập luận nào đó bị lạm dụng để “chứng minh bất kỳ kết luận nào bạn muốn.”

Vì vậy, “kháng cự” này có thể nhằm vào một “học thuyết” nào đó, chẳng hạn,

• Lý thuyết Kháng lực thấp (Low Resistance): Chỉ cần một chút suy nghĩ, nó có thể phát triển thành logic “Bộ não ngân hà” cực kỳ phi lý.

• Lý thuyết Kháng cự cao (High Resistance): Dù bạn phân tích nó như thế nào, nó vẫn giữ nguyên trạng thái, rất khó để phát triển thành một logic vô lý.

Chẳng hạn như Vitalik nói, trong xã hội lý tưởng của ông, pháp luật nên có một nguyên tắc rõ ràng: chỉ khi nào có thể giải thích rõ ràng cách mà một hành vi cụ thể gây ra tổn hại hoặc rủi ro cho nạn nhân cụ thể, thì mới có thể cấm nó. Tiêu chuẩn này có sức kháng cự rất lớn vì nó không chấp nhận những lý do mơ hồ hoặc có thể kéo dài như “tôi không thích” hay “có thể gây hại đến đạo đức”.

3️⃣ Vitalik trong bài viết cũng đã đưa ra nhiều ví dụ, thậm chí lấy những lý thuyết mà chúng ta thường nghe như “chủ nghĩa dài hạn” và “chủ nghĩa tất yếu”.

“Chủ nghĩa dài hạn” rất khó để chống lại sự xâm nhập của tư duy kiểu ??? , vì khả năng chống cự của nó cực kỳ thấp, gần như là một “tấm séc trắng”. Bởi vì “tương lai” quá xa xôi, quá mờ mịt.

• Cách nói có khả năng kháng cao: “Cây này sau 10 năm có thể cao thêm 5 mét”. Điều này có thể được xác minh, không dễ để nói dối.

• Khái niệm “chủ nghĩa dài hạn” với sức kháng thấp: “Mặc dù tôi đang làm một việc cực kỳ vô đạo đức (chẳng hạn như loại bỏ một bộ phận người, hoặc phát động chiến tranh), nhưng điều này là vì cuộc sống của nhân loại có thể đạt được một utopia trong 500 năm nữa. Qua tính toán của tôi, tổng hạnh phúc trong tương lai là vô hạn, vì vậy hy sinh hiện tại là không đáng kể.”

Bạn thấy đấy, chỉ cần bạn kéo dài thời gian đủ lâu, bạn có thể biện minh cho bất kỳ hành động xấu nào trong hiện tại. Như Vitalik đã nói: “Nếu lập luận của bạn có thể chứng minh bất kỳ điều gì là chính đáng, thì lập luận của bạn không chứng minh được gì cả.”

Tuy nhiên, Vitalik cũng thừa nhận rằng “dài hạn là rất quan trọng”, ông chỉ trích việc “sử dụng lợi ích tương lai mơ hồ, không thể xác minh để che giấu những tổn hại rõ ràng hiện tại”.

Một khu vực chịu thiệt hại nặng nề khác là “Chủ nghĩa tất yếu” (Inevitabilism).

Đây cũng là chiêu thức tự vệ được yêu thích nhất ở Silicon Valley và trong giới công nghệ.

Kịch bản là như thế này: “AI thay thế công việc của con người là điều tất yếu trong lịch sử, cho dù tôi không làm, người khác cũng sẽ làm. Vì vậy, tôi hiện đang phát triển AI một cách quyết liệt không phải để kiếm tiền, mà để thích ứng với xu hướng lịch sử.”

Kháng lực thấp ở đâu? Nó hoàn hảo làm tan biến cảm giác trách nhiệm của con người. Vì đã “tất yếu” nên tôi không cần phải chịu trách nhiệm cho những tổn hại mà tôi đã gây ra.

Đây cũng là một dạng điển hình của bộ não thiên hà: biến “Tôi muốn kiếm tiền / Tôi muốn nắm quyền” thành “Tôi đang thực hiện nhiệm vụ lịch sử.”

4️⃣ Vậy chúng ta nên làm gì khi đối mặt với những “cạm bẫy của những người thông minh”?

Phương thuốc mà Vitalik đưa ra thật bất ngờ và đơn giản, thậm chí có phần “ngốc nghếch”. Ông cho rằng, những người càng thông minh thì càng cần những quy tắc có khả năng chống chịu cao để tự kiềm chế, ngăn chặn việc họ làm trò khéo léo bằng trí óc.

Thứ nhất, kiên định với “nghĩa vụ luận” (Đạo đức học Deontological), tức là những quy tắc đạo đức cơ bản như ở cấp mầm non.

Đừng tính toán những bài toán phức tạp về “để tương lai của toàn nhân loại” nữa, hãy quay trở lại với nguyên tắc cứng nhắc nhất:

• Đừng ăn cắp

• Đừng giết người vô tội

• Đừng lừa đảo

• Tôn trọng tự do của người khác

Những quy tắc này có sức kháng cự rất cao. Bởi vì chúng trắng đen rõ ràng, không thể thương lượng. Khi bạn cố gắng giải thích tại sao bạn lại chiếm dụng quỹ của người dùng bằng những lý thuyết lớn lao của “chủ nghĩa dài hạn”, quy tắc cứng nhắc “đừng ăn cắp” sẽ ngay lập tức tát vào mặt bạn: đã ăn cắp thì là ăn cắp, đừng vin vào cái lý do vì cuộc cách mạng tài chính vĩ đại.

Thứ hai, nắm giữ “vị trí” đúng đắn, thậm chí bao gồm cả vị trí vật lý.

Câu tục ngữ nói rằng “cái mông quyết định cái đầu”. Nếu bạn cứ lang thang trong cái phòng vang vọng ở khu vực Vịnh San Francisco, xung quanh toàn là những người theo chủ nghĩa tăng tốc AI, bạn sẽ rất khó để giữ được sự tỉnh táo. Vitalik thậm chí đã đưa ra một lời khuyên có độ kháng cao ở mức vật lý: đừng sống ở khu vực Vịnh San Francisco.

5️⃣ Tóm tắt

Vitalik bài viết này thực sự đang cảnh báo những người tinh anh cực kỳ thông minh: đừng vì bạn có chỉ số IQ cao mà nghĩ rằng bạn có thể vượt qua những nguyên tắc đạo đức đơn giản.

Những lý thuyết “não ngân hà” nghe có vẻ có thể giải thích mọi thứ thường là những cái cớ nguy hiểm nhất. Ngược lại, những quy tắc “chống chịu cao” nghe có vẻ cứng nhắc, giáo điều mới thực sự là hàng rào cuối cùng ngăn chúng ta tự lừa dối bản thân.