Một thẩm phán liên bang gần đây đã Thả một chú thích đáng lo ngại đang gây tranh cãi về các công cụ AI trong việc thực thi nhập cư. Chú thích này đã nêu bật những lo ngại nghiêm trọng về độ chính xác và quyền riêng tư khi các đại diện chính phủ triển khai các hệ thống trí tuệ nhân tạo cho việc giám sát và ra quyết định.

Vấn đề là - chúng ta đang thấy AI len lỏi vào nhiều hoạt động thực thi hơn, nhưng tính minh bạch thì? Hầu như không có. Không ai thực sự biết những dữ liệu mà các hệ thống này được đào tạo trên đó, cách chúng đưa ra quyết định, hay điều gì xảy ra khi chúng sai. Và chúng thực sự sai.

Khía cạnh quyền riêng tư là rất lớn. Những công cụ này có thể thu thập thông tin từ nhiều nguồn khác nhau, tạo ra các hồ sơ chi tiết mà không có sự giám sát hoặc cơ chế đồng ý phù hợp. Nghe có quen không? Đây chính là vấn đề mà các giải pháp danh tính phi tập trung đang cố gắng giải quyết - trao cho cá nhân quyền kiểm soát dữ liệu của họ thay vì để các cơ quan trung ương thu thập mọi thứ.

Nhận xét của thẩm phán này không chỉ liên quan đến chính sách nhập cư. Đó là một lời cảnh tỉnh về cách chúng ta triển khai công nghệ mạnh mẽ mà không có các biện pháp bảo vệ thích hợp. Dù là cơ sở dữ liệu của chính phủ hay nền tảng của doanh nghiệp, những câu hỏi giống nhau vẫn áp dụng: Ai kiểm soát dữ liệu? Thuật toán có chính xác không? Điều gì xảy ra khi mọi thứ đi lệch hướng?

Cộng đồng tiền điện tử đã lên tiếng về những vấn đề này trong nhiều năm. Có lẽ đã đến lúc các nhà quản lý bắt đầu lắng nghe.