Mira đã khiến tôi nhận ra rằng AI có thể cần các hệ thống bền vững trước khi trở nên tự chủ

Tôi chưa bắt đầu nghĩ về hệ thống AI vì tôi nghĩ AI chưa đủ mạnh. Thực ra các mô hình chúng ta có ngày nay rất tốt. Điều khiến tôi nghĩ về sức mạnh là một điều Mỗi lần AI đóng vai trò trong một lĩnh vực nào đó, con người vẫn tham gia. Bác sĩ kiểm tra lại chẩn đoán. Nhà phân tích xác minh các insights. Nhà nghiên cứu xác nhận trích dẫn. AI đề xuất. Con người xác nhận. Mẫu này tồn tại có lý do của nó. Hệ thống AI hiện đại thông minh. Nhưng cũng yếu. Một tuyên bố sai, một bộ dữ liệu hoặc một lỗi suy luận tinh vi có thể âm thầm ảnh hưởng đến toàn bộ kết quả. Vì các mô hình lớn tạo ra phản hồi dựa trên xác suất, nên sự không chắc chắn này không bao giờ hoàn toàn biến mất. Đó là lý do tại sao Mira bắt đầu thu hút sự chú ý của tôi. Ban đầu nó có vẻ là một dự án AI. Nhưng thực ra nó cố gắng giải quyết một vấn đề khác. Mira không nhằm làm cho các mô hình thông minh hơn; nó nhằm làm cho các hệ thống xung quanh chúng mạnh hơn. Thay vì dựa vào câu trả lời của một mô hình duy nhất, Mira phân chia phản hồi thành các tuyên bố thực tế nhỏ hơn và chia sẻ những tuyên bố đó qua một mạng lưới các bộ xác minh độc lập. Mỗi tuyên bố được đánh giá riêng biệt. Mạng lưới chỉ chấp nhận kết quả khi nhiều bộ xác minh đồng ý. Cách thực hiện quan trọng. Thay vì xem AI như một hệ thống thông minh duy nhất, Mira xem nó như một quá trình suy luận phân tán. Một mô hình tạo ra câu trả lời. Các mô hình khác thách thức nó. Sự đồng thuận quyết định điều gì sẽ tồn tại. Ban đầu, điều này nghe có vẻ sẽ cải thiện độ tin cậy. Nhưng càng nghĩ về nó, tôi càng cảm thấy đó là một điều sâu xa hơn: sức mạnh. Hệ thống mạnh không giả định các phần luôn đúng. Họ giả định các phần đôi khi sẽ thất bại. Internet hoạt động theo cách này. Blockchain hoạt động theo cách này. Cơ sở dữ liệu phân tán hoạt động theo cách này. Các lỗi dự kiến sẽ xảy ra, vì vậy thiết kế được tạo ra để xử lý chúng. AI vẫn chưa thực sự được xây dựng theo cách đó. Hầu hết các sản phẩm AI vẫn phụ thuộc vào một mô hình làm nguồn chân lý. Nếu mô hình mắc lỗi, hệ thống không có cách phát hiện. Mira thay đổi điều đó. Bằng cách biến các kết quả thành các tuyên bố và kiểm tra chúng qua nhiều mô hình độc lập, hệ thống tạo ra sự dự phòng. Ngay cả khi một mô hình sai, các mô hình khác có thể thách thức nó. Câu trả lời cuối cùng trở nên gần hơn với kiến thức được xác minh qua mạng về dự đoán của một mô hình duy nhất. Đó là điều khiến tôi dừng lại và suy nghĩ. Bởi vì tự chủ không chỉ đòi hỏi trí thông minh. Nó cần sức mạnh. Nếu các agent AI sẽ quản lý hệ thống, phối hợp hạ tầng hoặc hỗ trợ trong chăm sóc sức khỏe, hệ thống không thể dựa vào điểm tin cậy của một mô hình duy nhất. Nó phải có cách phát hiện và sửa lỗi trước khi lỗi đó lan rộng. Mira giới thiệu cơ chế đó. Các bộ xác minh đặt cược token, xác minh các tuyên bố. Nhận phần thưởng cho việc xác minh trung thực. Lớp kinh tế này biến độ tin cậy thành thứ mà mạng lưới chủ động duy trì hơn là thứ mà các nhà phát triển chỉ hy vọng. Tôi nhận thức rõ các thách thức. Mạng lưới xác minh thêm độ trễ. Một số tuyên bố khó đánh giá. Việc cân bằng các động lực trong một mạng lưới xác minh toàn cầu là phức tạp. Điều nổi bật đối với tôi là triết lý thiết kế. Phát triển AI tập trung vào việc làm cho các mô hình thông minh hơn. Mira tập trung vào việc làm cho hệ thống xung quanh AI trở nên bền hơn để chống phá vỡ. Cách tiếp cận đó âm thầm hơn, ít phô trương hơn và khó tiếp thị hơn. Nhưng nếu AI sẽ chuyển từ vai trò trợ lý thành một diễn viên thực thụ, câu hỏi thực sự sẽ không phải là "mô hình có thông minh không?” Mà sẽ là "hệ thống có mạnh không khi mô hình sai?” Đó là lớp mà Mira dường như đang xây dựng. Khi bạn bắt đầu nghĩ về AI theo cách này, sức mạnh bắt đầu trông giống như yêu cầu thực sự, cho tự chủ. $MIRA @mira_network #Mira