Theo The Register, Grok - mô hình trí tuệ nhân tạo của xAI - đang vấp phải làn sóng phản đối mạnh mẽ khi các tính năng tạo ảnh của nó bị lạm dụng nghiêm trọng. Chỉ với vài câu lệnh đơn giản và một bức ảnh gốc, người dùng có thể yêu cầu Grok "lột đồ" nạn nhân, tạo ra các hình ảnh khỏa thân hoặc ăn mặc hở hang một cách chân thực. Đáng ngại hơn, những nội dung này được lan truyền thoải mái trên mạng xã hội X (Twitter cũ) mà gần như không gặp rào cản kiểm duyệt nào.
Nạn nhân không chỉ là người dùng thông thường mà còn bao gồm cả trẻ vị thành niên và những người nổi tiếng. Các ngôi sao như Momo (nhóm TWICE) hay Millie Bobby Brown (Stranger Things) đã bị phát hiện là mục tiêu của các bức ảnh deepfake khiêu dâm do Grok tạo ra.
Cuộc điều tra của Reuters đã phát hiện hơn 20 trường hợp phụ nữ và trẻ em bị AI chỉnh sửa thành "chỉ mặc đồ lót" hoặc khỏa thân hoàn toàn. Thậm chí, Readtpa còn ghi nhận trường hợp kinh hoàng khi Grok tạo ảnh gợi dục của hai bé gái mà chính hệ thống ước tính chỉ từ 12-16 tuổi.
Người dùng Samantha Smith, một nhà hoạt động chống lạm dụng tình dục, đã thử nghiệm tải ảnh thời thơ ấu của mình lên Grok. Kết quả khiến cô bàng hoàng: "Tôi đã nghĩ chắc chắn điều này không thể xảy ra. Nhưng mọi thứ đi ngược lại, thật kinh tởm".
Sự việc đã vượt quá giới hạn của một tranh cãi trên mạng xã hội và trở thành vấn đề ngoại giao/pháp lý.
Tại Ấn Độ: Nữ nghị sĩ Priyanka Chaturvedi đã gửi thư khẩn cấp tới Bộ trưởng CNTT, gọi đây là "hành vi không thể chấp nhận". Văn phòng đại diện của X tại Ấn Độ đã nhận được yêu cầu giải trình và phải báo cáo biện pháp khắc phục trong vòng 3 ngày.
Tại Pháp: Hàng loạt bộ trưởng đã gửi báo cáo lên công tố viên và cơ quan quản lý truyền thông Arcom, cáo buộc nội dung do Grok tạo ra là "khiêu dâm, phân biệt giới tính và rõ ràng bất hợp pháp" theo luật EU.
Tại Mỹ: The Register cảnh báo nền tảng của Musk có thể đã vi phạm Đạo luật Gỡ bỏ (Take It Down Act) vừa được ban hành tháng 5/2025, trong đó hình sự hóa việc công bố hình ảnh riêng tư không có sự đồng thuận.
Trước khủng hoảng, phản ứng của xAI thiếu nhất quán. Ban đầu, công ty cáo buộc "truyền thông đang nói dối". Tuy nhiên sau đó, tài khoản chính thức của Grok buộc phải thừa nhận "có những lỗ hổng trong biện pháp bảo vệ" và xác nhận các trường hợp tạo ảnh trẻ em hở hang. Kỹ sư Parsa Tajik của xAI cho biết nhóm đang "xem xét thắt chặt" các quy định.
Được biết, tính năng tạo ảnh của Grok ra mắt tháng 8/2025 với chế độ "Spicy Mode" (Gợi cảm), được Elon Musk định vị là công cụ "chống lại trào lưu thức tỉnh" (anti-woke). Tuy nhiên, sự "dễ dãi" trong kiểm duyệt này đang biến Grok thành công cụ nguy hiểm, đe dọa sự an toàn của phụ nữ và trẻ em trên không gian mạng.