Cảnh sát Pháp đột kích văn phòng X tại Paris trong cuộc điều tra về Grok AI và nội dung trái phép

Tóm tắt ngắn gọn

• Các nhà điều tra Pháp đã khám xét văn phòng của X tại Paris trong khuôn khổ một cuộc điều tra về nội dung trái phép và các hoạt động thuật toán.
• Vụ việc mở rộng sau khi có đơn kiện rằng Grok đã được sử dụng để tạo ra hình ảnh tình dục không có sự đồng ý, bao gồm cả trẻ em.
• Các cơ quan quản lý của Vương quốc Anh đã mở các cuộc điều tra song song theo luật bảo vệ dữ liệu và an toàn trực tuyến.

Chính quyền Pháp đã đột kích văn phòng của nền tảng mạng xã hội X tại Paris vào thứ Ba trong khuôn khổ một cuộc điều tra hình sự ngày càng mở rộng về các cáo buộc liên quan đến nội dung khiêu dâm trẻ em liên quan đến chatbot AI của nền tảng này, Grok. Theo một báo cáo của Sky News, cuộc khám xét do đơn vị chuyên trách về tội phạm mạng của Pháp thực hiện phối hợp với Europol. Các công tố viên cho biết chủ sở hữu của X, Elon Musk, đã được triệu tập để thẩm vấn, cùng với một số giám đốc điều hành hiện tại và cựu, bao gồm cựu giám đốc điều hành Linda Yaccarino. “Cuộc điều tra liên quan đến một loạt các hành vi phạm tội nghi ngờ liên quan đến hoạt động và sử dụng nền tảng, bao gồm việc phát tán nội dung trái phép và các hình thức hoạt động tội phạm trực tuyến khác,” Europol cho biết trong một tuyên bố. “Europol sẵn sàng tiếp tục hỗ trợ các cơ quan pháp luật Pháp khi cuộc điều tra tiến triển.”

 Cuộc điều tra về Grok, bắt đầu từ tháng trước, tập trung vào các cáo buộc rằng X đã đồng lõa trong việc phân phối nội dung lạm dụng tình dục trẻ em và các nội dung trái phép khác, với các cơ quan chức năng cáo buộc rằng Grok đã được sử dụng để tạo ra hơn 23.000 hình ảnh tình dục hóa trẻ em. Tháng Tám năm ngoái, xAI đã ra mắt “Chế độ Cay” nhằm mục đích tạo ra nội dung NSFW, bao gồm một vụ việc nổi bật liên quan đến các deepfake của Taylor Swift. Trong một bài đăng trên X, bộ phận Quan hệ Chính phủ Toàn cầu của gã khổng lồ mạng xã hội đã phủ nhận mọi hành vi sai trái, gọi cuộc đột kích là một “cuộc điều tra hình sự mang tính chính trị hóa về việc thao túng thuật toán và trích xuất dữ liệu gian lận.” “Hôm nay, cuộc đột kích có tổ chức này củng cố niềm tin của chúng tôi rằng cuộc điều tra này bóp méo luật pháp Pháp, đi vòng qua quy trình pháp lý đúng đắn, và gây nguy hiểm cho tự do ngôn luận,” họ viết. “X cam kết bảo vệ quyền cơ bản của mình và quyền của người dùng. Chúng tôi sẽ không bị đe dọa bởi các hành động của các cơ quan tư pháp Pháp ngày hôm nay.” Các nhóm vận động người tiêu dùng lập luận rằng khi các cơ quan quản lý điều tra các nhà phát triển AI, những công cụ này được sử dụng để tạo ra nội dung trái phép, họ nên xem xét liệu công ty có thể đã dự đoán hợp lý cách các công cụ đó sẽ bị lạm dụng hay không. “Các cơ quan quản lý nên xem xét liệu các lựa chọn thiết kế của công ty có làm cho việc lạm dụng trái phép trở nên có thể dự đoán được hay không, liệu các đánh giá rủi ro có đầy đủ hay không, và liệu các biện pháp phòng ngừa có được kiểm thử một cách có ý nghĩa trước khi ra mắt,” J.B. Branch, Người ủng hộ Trách nhiệm của Big Tech tại Public Citizen, nói với Decrypt. “Các nền tảng kiếm lợi từ việc triển khai nhanh chóng phải chịu trách nhiệm về những thiệt hại mà việc triển khai đó gây ra. Đó chính xác là những gì xảy ra trong các ngành công nghiệp khác.” Trong khi các luật hiện hành chống lại hình ảnh tình dục không có sự đồng ý và nội dung lạm dụng tình dục trẻ em vẫn rất cần thiết, Branch nói rằng chúng không được xây dựng cho AI có thể “sản xuất hàng loạt thiệt hại với tốc độ mở rộng.” “Chúng ta cần có các nghĩa vụ rõ ràng, chủ động yêu cầu các công ty ngăn chặn lạm dụng do AI gây ra trước khi nó xảy ra, bao gồm các kiểm thử độc lập của cơ quan quản lý để thử nghiệm các vấn đề trước khi sản phẩm AI ra thị trường,” ông nói. “Khi xảy ra chuyện nghiêm trọng như vậy, công cụ đó nên bị loại bỏ ngay lập tức.” Các cuộc điều tra ngày càng nhiều Các cuộc điều tra về chatbot hiện đã mở rộng ra nhiều khu vực pháp lý, bao gồm Vương quốc Anh, EU, Ấn Độ, Úc và Mỹ. Cùng ngày với cuộc đột kích tại Paris của các quan chức Pháp, Văn phòng Ủy viên Thông tin của Vương quốc Anh (ICO) cũng thông báo đã mở cuộc điều tra về Grok. “Chúng tôi đã thực hiện bước này sau các báo cáo cho rằng Grok đã được sử dụng để tạo ra hình ảnh tình dục không có sự đồng ý của cá nhân, bao gồm cả trẻ em,” Giám đốc Điều hành Rủi ro và Đổi mới của ICO, William Malcolm, cho biết trong một tuyên bố. “Việc tạo ra và lưu hành nội dung như vậy gây ra những lo ngại nghiêm trọng theo luật bảo vệ dữ liệu của Vương quốc Anh và đặt ra nguy cơ gây hại đáng kể cho công chúng.”

Theo Malcolm, những lo ngại này liên quan đến việc dữ liệu cá nhân có được xử lý hợp pháp, công bằng và minh bạch hay không, và liệu các biện pháp bảo vệ phù hợp có được tích hợp trong thiết kế và triển khai của Grok để ngăn chặn việc tạo ra hình ảnh bị thao túng có hại dựa trên dữ liệu cá nhân hay không. “Trong trường hợp các biện pháp bảo vệ đó thất bại, cá nhân mất quyền kiểm soát dữ liệu cá nhân của họ theo cách khiến họ dễ bị tổn thương nghiêm trọng,” ông viết. “Việc xem xét các rủi ro này là trung tâm trong vai trò của ICO trong việc bảo vệ quyền của người dân và giữ các tổ chức có trách nhiệm khi thiết kế và triển khai công nghệ AI.” Các hành động tại châu Âu là những bước mới nhất nhắm vào X và Grok, tháng trước, cơ quan quản lý truyền thông của Vương quốc Anh, Ofcom, đã mở cuộc điều tra xem X có vi phạm nghĩa vụ của mình theo Luật An toàn Trực tuyến hay không. Vào tháng Giêng, sau phản ứng quốc tế chống lại Grok, xAI cho biết đã hạn chế khả năng chỉnh sửa hình ảnh của chatbot và chặn một số lệnh liên quan đến việc tạo hình ảnh của con người. Cuộc đột kích tại Paris diễn ra một ngày sau khi Musk thông báo SpaceX đã mua lại xAI, startup trí tuệ nhân tạo đã từng tiếp nhận X, đưa nền tảng mạng xã hội và các hệ thống AI của nó vào dưới sự quản lý của SpaceX khi các cơ quan quản lý ngày càng siết chặt. “Chúng tôi nhận thức rõ rằng X hoặc Grok hiện đang cung cấp ‘Chế độ Cay’ hiển thị nội dung tình dục rõ ràng với một số kết quả được tạo ra bằng hình ảnh trẻ con,” phát ngôn viên Ủy ban EU Thomas Regnier nói trong một cuộc họp báo gần đây tại Brussels. “Điều này không phải là cay. Đây là bất hợp pháp. Thật đáng ghê tởm. Thật kinh tởm. Điều này không có chỗ ở châu Âu.” SpaceX và xAI đã không phản hồi ngay lập tức các yêu cầu bình luận của Decrypt.