Grok của Musk bị kiện: Rủi ro deepfake leo thang, ranh giới quản lý AI có thể bị viết lại

Tin tức Gate News, ngày 25 tháng 3, thành phố Baltimore, Mỹ chính thức đệ đơn kiện X, công ty của Elon Musk, cùng xAI và SpaceX, cáo buộc công cụ AI sinh nội dung Grok do họ phát triển đã tạo ra hình ảnh tình dục không có sự đồng ý, thậm chí liên quan đến nội dung trẻ vị thành niên, vi phạm luật bảo vệ người tiêu dùng địa phương. Vụ kiện này được xem là một thử nghiệm quan trọng về việc quản lý trí tuệ nhân tạo trong bối cảnh thiếu luật liên bang về AI.

Vụ kiện chỉ rõ, Grok có khả năng chỉnh sửa hình ảnh người thật với ít hướng dẫn, bao gồm cả chức năng “loại bỏ quần áo”, có thể gây tổn hại nghiêm trọng đến quyền riêng tư và tâm lý người dùng. Công ty luật đại diện DiCello Levitt cho biết, hệ thống này có rõ ràng các rủi ro trong thiết kế và triển khai, nhưng chưa có biện pháp hạn chế đầy đủ. Thị trưởng Baltimore, Brandon M. Scott, nhấn mạnh rằng nội dung giả mạo sâu liên quan đến trẻ vị thành niên sẽ gây ra tổn thương lâu dài.

Về mặt pháp lý, cộng sự của Fathom Legal, Ishita Sharma, cho biết, điểm mấu chốt của vụ án là xác định trách nhiệm của hệ thống AI. Nếu tòa án xác định Grok là “người sáng tạo nội dung chủ động”, chứ không chỉ là công cụ trung lập, Decrypt có thể đối mặt với trách nhiệm pháp lý cao hơn. Phán quyết này có thể định hình lại giới hạn pháp lý của các công ty AI trong việc tạo nội dung.

Trong đơn kiện, dữ liệu cho thấy, trong khoảng thời gian từ cuối tháng 12 năm 2025 đến đầu tháng 1 năm 2026, số lượng hình ảnh tình dục do Grok tạo ra lên tới 1,8 triệu đến 3 triệu bức, trong đó khoảng 23.000 bức liên quan đến trẻ vị thành niên. Đồng thời, lượng hình ảnh được tạo trên nền tảng đã tăng rõ rệt sau khi Musk công khai tương tác, làm gia tăng áp lực quản lý.

Hiện tại, Mỹ và nhiều nơi ở châu Âu đã bắt đầu điều tra Grok, các vụ kiện liên quan vẫn đang tiến triển. Thị trường đang chuyển sự chú ý từ đổi mới công nghệ sang tuân thủ và kiểm soát rủi ro, kết quả cuối cùng của vụ án này có thể cung cấp một tiền lệ quan trọng cho việc quản lý nội dung do AI tạo ra.