Thử nghiệm Humanity Protocol tiết lộ cách AI có thể vượt qua KYC và khai thác lòng tin kỹ thuật số

Tóm tắt

Thử nghiệm có kiểm soát của Humanity Protocol cho thấy AI có thể tạo ra các hồ sơ giả thuyết phục để vượt qua xác minh danh tính, phơi bày những điểm yếu nghiêm trọng trong hệ thống KYC truyền thống và làm nổi bật rủi ro ngày càng tăng của gian lận trực tuyến do AI thúc đẩy.

Humanity Protocol, một công ty khởi nghiệp công nghệ tập trung vào phát triển lớp tin cậy của internet, gần đây đã tiến hành một thử nghiệm xã hội có kiểm soát để khám phá cách AI có thể được sử dụng để tạo ra các hồ sơ giả cực kỳ thuyết phục, vượt qua xác minh danh tính trên một nền tảng hẹn hò lớn, và tương tác với người dùng thực quy mô lớn.

Kết quả nhấn mạnh những mối quan ngại cấp bách về hiệu quả của các hệ thống Nhận biết Khách hàng (KYC) truyền thống trong thời đại AI sinh tạo, cũng như tiềm năng các lỗ hổng này bị khai thác bởi các tác nhân độc hại.

Thử nghiệm kéo dài hai tháng, từ tháng 10 đến tháng 12 năm 2025, và có sự tham gia của sáu thành viên trong nhóm Humanity Protocol. Sử dụng các công cụ AI công khai như Reve AI, ChatGPT, Nanobanana, và Midjourney, nhóm đã tạo ra bốn hồ sơ Tinder khác nhau, đầy đủ ảnh và chi tiết tiểu sử.

Để duy trì hoạt động thực tế, nhóm đã sử dụng TinderGPT, một công cụ mã nguồn mở trên GitHub, cho phép các hồ sơ quản lý hơn 100 cuộc trò chuyện đồng thời với người dùng thực trên ứng dụng hẹn hò. Mặc dù các tài khoản được tạo ra ở nhiều quốc gia—Bồ Đào Nha, Tây Ban Nha, Serbia, Indonesia, và Thái Lan—tất cả các hồ sơ đều dùng Tinder Gold để đặt vị trí của họ là Bồ Đào Nha. Trong suốt quá trình thử nghiệm, các tài khoản do AI tạo ra đã tương tác với 296 người dùng Tinder thực và thành công thuyết phục 40 người gặp mặt trực tiếp.

Thử nghiệm kết thúc một cách đạo đức tại một nhà hàng ở Lisbon, Bồ Đào Nha, nơi tất cả các tham gia đều được thông báo về tình hình khi đến và được mời ăn tối bởi startup. Thiết kế của thử nghiệm đảm bảo không gây thiệt hại về tài chính, cảm xúc hay thể chất, và mục đích là để phơi bày các lỗ hổng hệ thống chứ không khai thác chúng.

“Đây không phải là để lừa đảo mọi người cho vui,” ông Terence Kwok, sáng lập Humanity Protocol, nói trong một tuyên bố bằng văn bản. “Đây là để thử nghiệm áp lực các hệ thống mà tất cả chúng ta dựa vào và cho thấy mức độ dễ dàng để tạo dựng niềm tin khi AI tham gia. Nếu một nhóm nhỏ có thể làm được như vậy trong một thử nghiệm, hãy tưởng tượng các tác nhân xấu phối hợp có thể đạt được gì với ý định độc hại,” ông nói thêm.

Hệ thống KYC, Nâng cao Căng Thẳng Cho An Ninh Trực Tuyến Và Ngăn Chặn Gian Lận

Các phát hiện nhấn mạnh một thách thức lớn hơn đối với các nền tảng kỹ thuật số: các quy trình KYC truyền thống được thiết kế trong môi trường chưa có AI sinh tạo và ngày càng trở nên không đủ. Các biện pháp xác minh tiêu chuẩn như kiểm tra ảnh, phát hiện sống động cơ bản, và tải lên tài liệu gặp khó khăn trong việc bắt kịp các công cụ AI có khả năng tạo ra hình ảnh, giọng nói, và hành vi siêu thực, thuyết phục giống hệt người dùng.

Trong khi tác động ngay lập tức đối với các nền tảng hẹn hò có thể chỉ giới hạn ở việc lãng phí thời gian hoặc thao túng cảm xúc, thì các rủi ro còn cao hơn nhiều trong các bối cảnh tài chính và an ninh. Theo Ủy ban Thương mại Liên bang Hoa Kỳ, người Mỹ đã mất hơn 1,3 tỷ đô la Mỹ vào các vụ lừa đảo tình cảm trong năm 2022, trở thành loại gian lận tiêu dùng đắt nhất. Khi công nghệ AI tiếp tục tiến bộ, ranh giới giữa thử nghiệm vô hại và gian lận quy mô lớn đang ngày càng thu hẹp nhanh chóng. Nếu không có các khung KYC có thể thích ứng với AI sinh tạo và xác minh tính nhân đạo thay vì chỉ xác minh danh tính, các nền tảng trực tuyến sẽ đối mặt với nguy cơ trở thành mục tiêu chính của thế hệ khai thác AI tiếp theo.