Ba thanh thiếu niên kiện xAI tại Mỹ, cáo buộc Grok tạo ra hình ảnh khai thác tình dục trẻ em

Gate News Tin tức, ngày 18 tháng 3, ba nữ thiếu niên đã đệ đơn kiện công ty trí tuệ nhân tạo xAI thuộc Elon Musk tại Tòa án Liên bang California, cáo buộc chatbot Grok của họ đã tạo ra hình ảnh trẻ em bị bóc lột tình dục mà không có sự đồng ý của các bên liên quan. Vụ kiện yêu cầu bồi thường không xác định số tiền và đề nghị lệnh cấm ngay lập tức, ngăn chặn Grok tiếp tục tạo ra loại nội dung này. Ba nguyên đơn đều chọn ẩn danh, trong đó hai người chưa đủ tuổi trưởng thành. Theo đơn kiện, người dùng liên quan đã sử dụng chức năng xử lý hình ảnh của Grok để chỉnh sửa ảnh của nguyên đơn, biến chúng thành hình ảnh khỏa thân hoặc bạo lực tình dục, rồi phát tán trên máy chủ Discord riêng tư, phạm vi nạn nhân ít nhất 18 người chưa thành niên. Một nguyên đơn phát hiện sau khi nhận tin nhắn riêng trên Instagram ẩn danh rằng ảnh tốt nghiệp trung học của mình đã bị chỉnh sửa thành hình ảnh mang ý nghĩa gợi dục. Luật sư của nguyên đơn cho biết, xAI rõ ràng biết rằng chức năng “Grok Imagine” của Grok (bao gồm tùy chọn “cởi quần áo”) có thể tạo ra nội dung như vậy, nhưng vẫn quyết định công khai, nhằm thúc đẩy sự tăng trưởng người dùng của Grok và nền tảng mạng xã hội X. Theo báo cáo của “Trung tâm Chống Thù Ghét Kỹ Thuật Số”, trong vòng hai tuần sau khi ra mắt, chức năng này đã tạo ra hơn 20.000 hình ảnh mang tính gợi dục liên quan đến trẻ vị thành niên.